25 ноября 1918 года в составе Высшей Военной Инспекции было образовано три комиссии из самых квалифицированных инспекторов. Они сразу же приступили к обследованию работы Всероглавштаба, а также деятельности Наркомпрода и Наркомпути, правда, лишь по вопросам снабжения Красной Армии. Нарком путей сообщения В. И. Невский хорошо знал Н. И. Подвойского и был уверен, что работа ВВИ принесет только пользу, поможет улучшить управление выбивающимся из сил железнодорожным транспортом. Нарком продовольствия А. Д. Цюрупа, возглавлявший, пожалуй, один из самых трудных и нервных участков государственной работы, был глубоко партийным человеком, жил исключительно интересами дела и потому был далек от каких-либо ведомственных амбиций. Он был рад неожиданной помощи.
Опыт проверки Наркомпрода и Наркомпути окончательно убедил Н. И. Подвойского в том, что ВВИ может и должна вносить более значительный вклад в дело обороны страны. Но для этого ее надо вывести из непосредственного подчинения Наркомату по военным делам и расширить рамки ее деятельности. Его мысли словно подслушал председатель комиссии ЦК РКП(б) по перестройке государственного и ведомственного контроля Я. М. Свердлов. Выступая в комиссии в конце 1918 года, Яков Михайлович отметил: «Наиболее законченная форма ведомственного контроля имеется в военном ведомстве. это Высшая Военная Инспекция. Она исполняет целый ряд таких функций, которые мог бы выполнять государственный контроль, если бы он стоял на высоте». Далее Яков Михайлович сказал, что ВВИ могла бы приносить гораздо больше пользы, если бы подчинялась непосредственно Совнаркому.
В это время вопрос о контроле обсуждался на всех уровнях, вплоть до Совета Обороны. Убежденный в необходимости повышения статуса и усиления независимости органов контроля, Николай Ильич страстно отстаивал свою точку зрения. Он разработал и представил Я. М. Свердлову проект создания единых контрольных органов республики, а В. И. Ленину направил «Записку о превращении ВВИ в Верховную Инспекцию при Совете Рабоче-Крестьянской Обороны». В ВВИ уже кипела работа по подготовке проекта положения о Верховной Инспекции. Но тут произошло неожиданное.
30 января 1919 года Н. И. Подвойский прочитал в «Правде» радиограмму из Харькова об образовании Временного Рабоче-Крестьянского правительства Украины и обнаружил неожиданно для себя, что он назначен наркомвоенмором Украинской Республики.
В тот же день на заседании Совнаркома Н. И. Подвойский передал В. И. Ленину записку: «Владимир Ильич! Я сегодня прочитал в «Правде»… что некий Подвойский вместе с неким Межлауком назначены наркомвоен Украины. По нескромности предполагаю, что радио имеет в виду меня. Может быть, Вы удовлетворите мое естественное любопытство?» В. И. Ленин тут же ответил запиской, что надо справиться у Я. М. Свердлова, ибо не знает, состоялось уже решение ЦК или еще нет.
Н. И. Подвойский был солдатом партии. Формула: «Решение ЦК состоялось» — всегда воспринималась им как окончательная, как закон. И он уже думал о том, что он, именно он, а не кто-то другой за него, должен выполнить задание наилучшим образом, каким бы сложным и трудным оно ни было. Николай Ильич подобрал опытных, проверенных в ВВИ помощников (среди них В. Ф. Горин-Галкин, М. А. Соковнин, Б. М. Шапошников), которые могли составить квалифицированный костяк Наркомвоена Украины. К группе Подвойского присоединились советские работники, уезжавшие на Украину. Всего вместе с семьями набралось около 200 человек. Так был сформирован «поезд Подвойского», который поздним вечером 9 февраля 1919 года отбыл из Москвы.
Утром 11 февраля поезд, громыхнув буферами, остановился на станции Харьков. Николай Ильич услышал певучую украинскую речь, и сердце его сладко замерло. Как давно уезжал он семинаристом-расстригой с Украины в далекий, расположенный чуть ли не на краю света Ярославль! Какой долгой и длинной оказалась дорога назад — восемнадцать лет и сотни тысяч верст!
Встречавшие сообщили, что все прибывшие будут размещены в Доме Советов.
— Везите их туда, а меня — в Совнарком! — сказал Николай Ильич.
Автомобиль, тарахтя по булыжной мостовой и обдавая прохожих клубами сизо-белого дыма, помчал по узкой улице к центру города — в сторону Успенского собора, взметнувшего ввысь свою величественную колокольню. Глядя на почти черные от копоти стены зданий, Николай Ильич думал о том, что Харьков — не Чернигов, дыму тут больше, чем колокольного звону. Рабочий город, опереться здесь будет на кого.