По приказу народного комиссара обороны СССР в округе были сформированы четыре армейские группы — Житомирская, Винницкая, Одесская и кавалерийская. В первую были включены части, учреждения и заведения, расположенные в Житомирской, Киевской и Черниговской областях; во вторую — части, учреждения и заведения, находившиеся на территории Винницкой и Каменец-Подольской областей; в третью — части, учреждения и заведения, дислоцировавшиеся на территории Одесской, Николаевской областей и Молдавской АССР. Эти группы представляли собой крупные объединения армейского типа, имевшие в своём составе стрелковые дивизии, танковые бригады, артиллерийские, инженерные части и войска обеспечения. Четвёртая, кавалерийская, группа была создана как сильное подвижное соединение из двух кавалерийских корпусов (1-го и 2-го), танковых, артиллерийских, инженерных и других частей.
Основным органом руководства войсками был штаб округа, который организационно состоял из следующих отделов: оперативного; разведывательного; организационно-мобилизационного; военных сообщений; устройства тыла и снабжения; укомплектования и службы войск; укрепленных районов; топографического; финансовой и хозяйственной части; комендатуры. В сферу их деятельности входили вопросы военно-административного управления, формирования, укомплектования и снабжения частей и соединений, боевой и политической подготовки личного состава, а также разработка мобилизационных планов и оперативного использования войск.
На всю эту структуру возлагалось огромное количество различных задач. Их успешное решение во многом зависело от грамотности, принципиальности, организаторских способностей и ответственности руководителя. Именно таким руководителем и проявил себя Ватутин. В штабах округа был создан режим предельно напряженной работы. Ватутин требовал оперативности, точности исполнения, и войска сразу почувствовали, что пришел профессионал своего дела. Причем он никогда не ограничивал свою штабную работу лишь бесчисленным потоком документов. В ее основе всегда лежали практические дела в войсках, широкое общение с личным составом всех категорий и постоянное расширение рамок своей деятельности. Этими правилами Ватутин руководствовался раньше, когда служил в полку, дивизии и отделах военных округов. Все это позволяло ему держать в руках нити управления, которыми обеспечивается командир, вносило разнообразие в штабной труд, делало его интересным и полезным.
«Ватутин любил поднимать войска и штабы по боевой тревоге с непременным выводом их в поле, — пишет военный историк С. П. Куличкин. — В работе штаба округа он не терпел волокиты, формализма и бюрократизма. Сам работал оперативно и четко. В разговоре с подчиненными он был неизменно спокоен, корректен, не торопил их, не одергивал, терпеливо объяснял непонятное, показывал, учил. Все это поднимало его авторитет, вызывало не только уважение к нему, но и любовь. Вместе с тем войска чувствовали, что штаб округа возглавил энергичный, требовательный, высокообразованный начальник».
Примечательно, что в тот период подчиненным Ватутина, правда, всего несколько месяцев, являлся полковник А. А. Власов. Тот самый Власов, который впоследствии войдет в историю как изменник родины, пособник нацистов. Будущий генерал-предатель возглавлял в штабе КОВО один из ключевых отделов — разведывательный. Но к назначению Власова на эту должность Николай Федорович не имел никакого отношения. Его перевели на Украину из Ленинградского военного округа. Пробыв в должности у Ватутина с мая по сентябрь, Власов был назначен командиром дивизии. Успешному продвижению его к высоким должностям, как считают некоторые историки, способствовала чья-то «рука» наверху. Как складывались отношения Ватутина и Власова — ответа на этот вопрос нет. Впрочем, завершим на этом наше отступление и вернемся к штабным делам Ватутина.
Как свидетельствуют документы, в то время войска Киевского особого военного округа жили напряженной жизнью. Командованием большое внимание уделялось подготовке руководящего состава и штабов, особенно командиров корпусов и дивизий. Хорошей школой для этого служили командно-штабные и войсковые учения, которые расширяли оперативно-тактический кругозор командиров, углубляли понимание ими основ боя и операции, вооружали опытом взаимодействия родов войск.
По указанию штаба округа в частях и соединениях были созданы группы командирской подготовки в соответствии со служебным положением командного и начальствующего состава. Командиры полков учили командиров батальонов и начальников служб, начальники штабов — штабных работников, помощники командиров полков по материальному обеспечению — работников тыла, командиры батальонов — командиров рот и взводов. Это позволяло начальникам строить занятия конкретно, лучше знать сильные и слабые стороны подчиненных, умело учить и воспитывать их. Особое значение придавалось полевым занятиям, так как отработку тактических вопросов на местности можно было провести гораздо содержательнее и поучительнее, нежели на картах.