В новой своей, важной и многотрудной, должности Барклай де Толли вполне оправдал доверенность монарха, не только поддержав примерный порядок, существовавший при его преемнике, графе Аракчееве, но и сделав многие важные улучшения по военной части. Избрав в ближайшие сотрудники себе, дежурным генералом, достойного и способного генерал-майора Александра Борисовича Фока, исправлявшего уже такую должность в кампанию 1807 года, при Беннигсене, он был содействуем по управлению квартирмейстерской частью генерал-адъютантом князем Петром Михайловичем Волконским, а по управлению экспедициями существовавшей тогда Государственной военной коллегии, генералами: инспекторской экспедицией – Вердеревским, артиллерийской – бароном П. И. Меллером-Закомельским, инженерной – Опперманом, комиссариатской – Татищевым, провиантской – Лабою.
Президентом генерал-аудиториата был князь Салагов, дежурным генералом по части рекрутской – генерал-майор Стависский, директором Особенной канцелярии – флигель-адъютант Воейков, а после него А. А. Закревский (впоследствии граф и московский военный генерал-губернатор).
По представлению Барклая де Толли, учреждена была, под его председательством, Комиссия о составлении военных уставов и уложений, разделявшаяся на две части: Конференцию и собственно Комиссию. Членами Конференции были генералы: Опперман, барон П. И. Меллер-Закомельский, князь П. М. Волконский, Гогель, граф Сен-При (в 1814 году смертельно ранненый под Краоном) и полковник Перский (впоследствии директор 1-го кадетского корпуса).
Директором Комиссии был статс-секретарь Магницкий. Под их наблюдением и рассматриванием, а частью их собственными трудами, составлено было, высочайше утвержденное 27 января 1812 года «Учреждение для управления Большой действующей армией», в котором до того времени военная наша часть ощущала весьма чувствительный недостаток, не имея по многим предметам своего управления и внутреннего устройства ясных и положительных правил.
Как важно было составление этого «Учреждения» и как заботился о нем сам государь, лучше всего показывают следующие слова доклада, при котором Барклай де Толли представил на высочайшее утверждение плоды двухлетних трудов Конференции и Комиссии: «По высочайшему вашего императорского величества повелению, составлено Комиссией сочинения военных уставов Учреждение для Большой действующей армии.
Понеже от самого первоначального плана оному, до последней отделки каждой его части, составлялось оно, обрабатывалось и исправлялось под непосредственным руководством и по замечаниям вашего величества, то я не буду излагать ни причин, ни цели сего образования, совершенно вашему императорскому величеству известных; но ограничусь только поднесением оного на высочайшее утверждение».
В тот же самый день последовало высочайшее утверждение составленному, под непосредственным руководством Барклая, «Образованию Военного министерства», заменившего собой существовавшую со времен Петра Великого Военную коллегию, и разделенного на семь Департаментов: артиллерийский, инженерный, инспекторский, аудиториатский, комиссариатский, провиантский и медицинский сверх того, при Министерстве положено было иметь: Военно-ученый комитет, Военно-Топографическое депо, Особенную канцелярию и типографию.
В бытность Барклая де Толли военным министром, упразднены были крепости: Вильманстрандская, Кексгольмская, Шлиссельбургская, Черноярская, Енотаевская и Азовская, по местному своему положению, при постепенном расширении наших границ на севере и юге, сделавшиися излишними и стоившими правительству значительных расходов; уменьшены были также обозы во всей армии; сокращено количество пороха, отпускавшегося войскам в мирное время; сделаны улучшения по части фуражного продовольствия войск, а также приема и образования рекрут; увеличено число существовавших тогда Рекрутских депо и сделаны разные другие перемены, послужившие к большему усовершенствованию в нашем отечестве военной части.
До Барклая де Толли армия наша разделялась на дивизии, в состав которых входили: пехота, кавалерия, артиллерия, пионеры и гарнизоны; по представлению Барклая, дивизии были разделены на два рода: пехотные и кавалерийские, получившая, каждая, отдельного начальника, и уже из дивизии, с приобщением артиллерии и пионеров, составились корпуса, из которых каждый заключал в себе пехоту, кавалерию и артиллерию, а к некоторым корпусам были причислены пионерные роты.
Также был изменен самый состав полков, из которых, с 1802 года, гренадерские имели по одному гренадерскому и по два фузилерных батальона; мушкетерские – по одному гренадерскому и по два мушкетерских батальона, егерские – по три батальона из егерских рот; все батальоны были четырехротные. Кирасирские и драгунские полки были пяти-, а гусарские и уланские десятиэскадронные.