Начало командирской службы Ватутина совпало с реформой в армии. В стрелковых дивизиях упразднялись бригады, которые преобразовывались в полки, а полки в батальоны. Теперь дивизия состояла из трех стрелковых полков, дивизионной школы младших командиров. Коснулись перемены и подразделений низового звена. Так, в стрелковом взводе имелось три отделения, три ручных и один станковый пулемет; в роте — три стрелковых взвода и взвод станковых пулеметов; в батальоне — три стрелковые роты и рота станковых пулеметов; в полку появилась шестиорудийная батарея полковой артиллерии и т. д. В целом единый штат стрелковой дивизии насчитывал 15 300 человек, 156 пулеметов, 24 орудия. В рамках реформы были созданы стрелковые корпуса как высшие тактические соединения сухопутных войск. Постепенно начали вводиться новые воинские уставы и наставления. В 1924 году в войска поступили Боевой устав пехоты (1-я часть), Устав по стрелковому делу, Строевой устав, Дисциплинарный устав, Устав внутренней службы, наставления и руководства по материальной части оружия, инженерному делу, связи, артиллерии. И хотя большинство уставов были временными — каждый из них являлся новым этапом строительства молодой Красной армии.
Параллельно шел очередной этап демобилизации. Домой — в семьи, к сохе, к станку возвращались отслужившие свой срок или отвоевавшие на «гражданке» бойцы. Если в 1920 году численность вооруженных сил составляла 5,5 млн человек, то к концу февраля 1923 года под ружьем осталось 610 тысяч человек. К началу 1924 года организационно Красная армия насчитывала 39 дивизий на кадровой основе и 22 дивизии на территориальной.
Сокращение армии давало возможность уменьшить расходы на ее содержание и освободившиеся средства перевести на развитие промышленности, транспорта и сельского хозяйства. Это позволяло также направить на восстановление народного хозяйства сотни тысяч демобилизованных красноармейцев. В соответствии с декретом от 28 сентября 1922 года об обязательной воинской повинности для всех граждан РСФСР мужского пола началась смена личного состава «ежегодным призывом» новобранцев «для отбывания обязательной военной службы одного возрастного контингента военнообязанных».
Стрелковый взвод, которым командовал Ватутин, в основном состоял из молодых красноармейцев. Поэтому ему приходилось их учить, что называется, с нуля. Учёба была напряженной. Занятия начинались с утра и заканчивались, когда вечерние сумерки опускались на военный городок. Обучал Николай своих подчиненных строевой и физической подготовке, теории стрельбы, тактике боя. Принцип был один, суворовский: «Тяжело в ученье — легко в бою». Отсюда и большие нагрузки на каждом занятии. Конечно, не всем это нравилось.
— Совсем вы нас загоняли, товарищ командир, — жаловались некоторые бойцы. — Изо дня в день мы только и таем, что окапываемся, ползаем по-пластунски, совершаем марш-броски...
Большим подспорьем молодому командиру служил журнал Украинского окружного объединения Военно-научного общества при командовании Вооруженных сил Украины и Крыма «Армия и революция», в котором освещались вопросы управления, излагалась методика организации и проведения занятий по тактической подготовке. Важную роль в обучении подчиненных играла политическая подготовка. Во время политзанятий Ватутин старался основательно «подковать» своих бойцов, чтобы они хороню знали внутреннее и международное положение страны, понимали, для чего они служат и что защищают. Кроме того, он дополнительно занимался с солдатами, которые плохо владели грамотой.
Самое интересное, что и жена Ватутина была неграмотной. Сразу после свадьбы он основательно взялся за её обучение — негоже командирской жене быть необразованной. Начал полушутя-полусерьёзно с того, что вырезал из картона буквы алфавита, развесил их на стенах хаты, над печкой, и Татьяна, не отрываясь от домашних дел, учила азбуку. Потом постепенно обучил её чтению, письму и арифметике. Супруга оказалась очень способной ученицей. Стремясь к знаниям, она не давала мужу покоя даже тогда, когда тот учился на курсах повышения квалификации.
Сохранилось письмо Николая Федоровича, в котором он даёт жене очередной урок математики. Вот строки из его послания:
«Здравствуй, милая Танечка!
Сейчас получил от тебя письмо. Спешу ответить.
Прежде всего о твоем несчастье, что у тебя нет учительницы. Постараюсь достать учебники. Теперь относительно процентов. Я не помню всего на память, ты посмотри всё, что мы получили по заочному обучению. Там, кажется, правила есть. Я же тебе сообщаю следующее:
Процент — это одна сотая часть всякого числа. Например: у тебя 100 рублей. Одна сотая часть от 100 рублей будет 1 рубль. Так этот один рубль и есть 1% от 100 рублей.
Теперь три правила:
1) Требуется найти, какой процент составляет какое-либо число по отношению к целому числу.
Например: я получаю жалование 400 рублей, из них 40 рублей я уплатил за паек. Нужно узнать, сколько процентов составят эти 40 рублей по отношению к 400 руб. (к моему жалованию).