Артузов проанализировал работу Разведупра и сделал ряд неутешительных выводов. По его мнению, изложенному в докладе Ворошилову и Сталину от 23 июня 1934 г., нелегальная агентурная военная разведка прекратила существование в Англии, Франции, Румынии, Финляндии, Латвии, Эстонии, США и Италии. Главными причинами он считал текучесть кадров, их слабую подготовку, связь с иностранными компартиями, что и приводило к провалам.
Ошибкой Артузова стала ликвидация 3-го (информационно-статистического) отдела Разведупра, которого не было также в ИНО. Предложенное Артузовым сокращение апарата РУ с 301 до 245 человек привело затем к увеличению до 400 человек.
Но были и несомненные успехи. При Артузове пришли в военную разведку в 1935 г. Ян Черняк, который в течение двенадцати лет возглавлял крупнейшую агентурную сеть, охватывавшую несколько стран Европы, и впоследствии был удостоен звания Героя России, и Артур Адамс (также Герой РФ), известный картограф Шандор Радо. Как сам писал впоследствии Артузов в письме к Сталину, в это время были завербованы сотрудник немецкого посольства в Варшаве (Рудольф фон Шелиа), немецкий морской офицер и офицер мобилизационного подразделения немецких войск в Восточной Пруссии. В Берлине же были завербованы эстонский, латвийский и болгарский дипломаты, в Швейцарии — армейский генерал, в США — сотрудник госдепартамента.
В период работы Артузова в РУ началась гражданская война в Испании. Он руководил отправкой в Испанию кораблей с оружием (пушками, пулеметами и противогазами, этим занимался сотрудник Разведупра Борис Эльман, бывший чекист). В это же время военная разведка, как и другие советские спецслужбы, сотрудничала с разведкой Чехословакии (после заключения в мае 1935 г. советско-чехословацкого договора о взаимопомощи). «Дружили» разведки против немцев. В 1935 и 1936 гг. в Праге побывали группы сотрудников Разведупра во главе с Артузовым и вторым заместителем начальника Разведупра Александром Никоновым. В Праге в 1936–1938 гг. действовал совместный разведцентр «Вонапо», находившийся на вилле его руководителя майора К. Палечека. Центр имел 33 агента в Германии и Австрии. Летом и осенью 1936 г. чешская делегация побывала в Москве, где встречалась с Тухачевским, Урицким и Никоновым, а также посетила радиоразведывательную станцию в Ленинградской области. Чехи помогали переправлять в Испанию советских военных (по фальшивым документам). С советской стороны работой по этой линии руководили (до своего отзыва в Москву) военный атташе полковник Л.А. Шнитман и его заместитель военный инженер 1 ранга В.В. Ветвицкий, с чешской — полковники Дргач, Соукуп, Ф. Гаек и Ф. Моравец. С октября 1936 г. в Праге также действовала советская военная миссия во главе с полковником Порубовским. Кроме него в миссию входили 3 офицера, которых после их отзыва в 1937 г. заменили подполковник Климцов, майор Ляховский, капитаны Андреев и Смигельский. Это многообещающее сотрудничество прекратилось после Мюнхена.
По некоторым данным, Артузов также побывал в Париже, где пытался способствовать заключению франко-советского договора о военном союзе. Но правительство радикал-социалистов, как и пришедший ему на смену Народный фронт, больше боялись коммунистов, чем немцев.
К сожалению, так же как в НКВД с Ягодой и Слуцким, у Артузова не сложились отношения с начальником Разведупра Урицким и наркомом обороны Ворошиловым, в чем сказалась ведомственная рознь.
26 сентября 1936 г. наркомом внутренних дел стал Николай Ежов, заменив на этом посту Генриха Ягоду. Отношения между военными и чекистами в Разведупре резко обострились, их стали именовать «людьми Ягоды». 11 января 1937 г. по предложению Ворошилова Политбюро приняло решение об освобождении Артузова (и Штейнбрюка) от работы в Разведупре и направлении его в НКВД, где он был назначен научным сотрудником 8-го (учетно-статистического) отдела ГУГБ, на правах помощника начальника отдела. Впрочем, снятие Артузова с работы было вызвано не только и не столько распрями с военными. В это время начиналась чистка НКВД, первыми жертвами которой стали поляки, работавшие вместе с Артузовым на Западном фронте в 1920 г. и в покровительстве которым его обвинял заместитель Ежова Михаил Фриновский. Артузов признавал свою вину и в то же время пытался оправдаться, писал письма Ежову и Сталину, продолжал работать в НКВД, занимаясь подготовкой истории ВЧК-НКВД к 20-летнему юбилею (член коллегии в недавнем прошлом — не имел даже отдельного кабинета!). В марте он выступил на собрании актива НКВД, защищаясь от резкой критики своего преемника Слуцкого. Он взаимно раскритиковал Слуцкого, бывшего наркома, еще не арестованного Ягоду, которого назвал хорошим хозяйственником, оказавшимся не на своем месте, и работу руководства НКВД в целом.