Как уже говорилось выше, к началу войны резидентуры разведки за рубежом были серьезно ослаблены. В Москву отозвали около 200 разведчиков. Это было следствие того, что в середине 30-х годов у высшего руководства страны и органов госбезопасности сложилось недоверие и подозрительность ко многим чекистам, главным образом к руководящим работникам не только центрального аппарата, но и резидентур ИНО за рубежом. Их обвинили в измене Родине и подвергли репрессиям. В течение 1938–1939 годов почти все резиденты за рубежом были отозваны и многие из них репрессированы.
Десятки агентов, причем ценнейших, остались без связи, им было выражено, хотя и в косвенной форме, политическое недоверие. Поток информации в страну стал заметно иссякать, но и то, что докладывалось, в Кремле воспринималось с недоверием: дезинформация, идет на поводу у буржуазных разведок, подыгрывает провокаторам войны и троцкистам – такими резолюциями пестрели донесения разведки о подготовке Германии к войне.
Это было следствием того, что большинство агентов, включая самых ценных и надежных, были исключены из агентурной сети как завербованные врагами народа и не внушающие доверия.
К концу 1937 года разведка располагала планами развертывания Германией широкомасштабных актов насилия с целью территориальных притязаний к Австрии, Чехословакии, Польше. Разведка сообщала о действиях в этих странах пятых колонн.
Однако данных о подготовке и сроках ввода немецких войск в Австрию и Чехословакию разведка не добыла. Ведь когда в Европе предстояли самые драматические события, наша разведка была обескровлена.
К началу войны с Германией разведке удалось несколько укрепить кадрами центральный аппарат, пополнить разведчиками зарубежные резидентуры и открыть новые разведточки, особенно в сопредельных с СССР странах, в том числе в прибалтийских, которые затем отошли к СССР в 1940 году. Однако полноценного кадрового уровня резидентуры за кордоном смогли достигнуть лишь во второй половине Великой Отечественной войны.
В марте 1938 года ряды чекистов-разведчиков пополнились новым набором по решению партийных и правительственных органов. На освободившиеся после репрессий места было мобилизовано около 800 членов партии с высшим образованием. После обучения в Центральной школе НКВД их направили в центральный аппарат и периферийные органы.
Большая группа выпускников была отобрана для работы в разведке, в 5-м (иностранном) отделе Главного управления госбезопасности НКВД.
Этому новому поколению разведчиков предстояло пройти через тяжелейшие испытания войной, достойно и компетентно представлять нашу внешнюю разведку вместе со старшим поколением в годы Великой Отечественной войны.
Начальник внешней разведки того времени Фитин П. М. в своих воспоминаниях писал:
В указанные годы эти разведчики активно работали и в первую очередь по германской проблематике в самой Германии, в Италии и Франции, США, Польше и Турции, Иране и Афганистане.
При подборе кадров на разведывательную работу за рубежом руководству разведки приходилось сталкиваться с большими трудностями из-за отсутствия у многих чекистов опыта ведения разведки в условиях капиталистических стран. И потому направленные за рубеж более 200 оперработников оказались в западных странах в результате чрезвычайных мер и авралов в самый канун войны. И все же десятки резидентур кадрами были укомплектованы – разведчики восстанавливали прерванные связи с агентурой и приобретали новые источники.
В 1941–1942 годах резидентуры, в том числе и легальные, были неполными – от 3 до 12 человек. Ощущался недостаток кадров с хорошим знанием языка. В Японии никто не говорил по-японски, в Китае разведчиков со знанием китайского недоставало, в США для работы по национальным диаспорам из Латинской Америки не было разведчиков с испанским языком. Не было и четкой организационной работы по разведнаправлениям.
И все же из резидентур потек все более крепнущий ручей политической, военной и научно-технической информации.
В 1940–1941 годах было расширено число ведомств прикрытия. Кроме посольств и торгпредств стали использовать отделения ТАСС, Интурист, ВОКС. Легальные резидентуры в Англии, США, Китае, Иране, Турции, Швеции, Афганистане, Японии, Болгарии получили дополнительные кадры сотрудников.