КГБ

Сталин никогда полностью не доверял Ягоде, отчасти потому, что сам был антисемитом, и потому, что Ягода симпатизировал «правой оппозиции» и ее популярному лидеру, Николаю Бухарину. В 1928 году в разговоре с Каменевым Бухарин сказал, что и Ягода, и Трилиссер, второй заместитель председателя ОГПУ и начальник ИНО, «были с ними». Он также сказал, что Ягода передал ему секретную информацию о восстаниях крестьян. Вместе с тем Бухарин знал, что Ягода был оппортунистом и что на его поддержку рассчитывать не следовало. В 1931 году Сталин попытался укрепить свое влияние в ОГПУ, направив туда партийного аппаратчика А.И. Акулова, который так же, как и Ягода, занял пост первого заместителя председателя ОГПУ. Но уже через год Акулов был вынужден оставить этот пост. Тем не менее, выжидая удобного момента для того, чтобы поставить своего человека во главе ОГПУ, Сталин смог договориться с Ягодой. Ягода был скорее карьеристом, чем идеологом, и был готов пойти за Сталиным, лишь бы продвинуться по служебной лестнице. Вместе с тем он не был готов безоговорочно поддержать Сталина. Трилиссер же был более активным сторонником «правой оппозиции». Уже в 1923 году он присоединился к Бухарину в наступлении на троцкистскую линию. Но к концу 1929 года Ягода, рассматривая Трилиссера как потенциального соперника, смог при поддержке Центрального Комитета добиться, чтобы Трилиссер был убран из ОГПУ. Вместо него на пост главы ИНО был назначен бывший начальник КРО (контрразведка) Артур Артузов.

Первый год пребывания в руководстве ОГПУ Менжинского и Ягоды был отмечен успешным завершением операции «Трест». Однако этот успех был омрачен целым рядом скандальных разоблачений и провалов советской внешней разведки. Безопасность быстро растущей сети ОГПУ и военной разведки была поставлена под угрозу уязвимостью советских шифров, а также неопытностью советских резидентов в организации работы местных коммунистов, которые, отличаясь большим рвением, очень часто действовали по-дилетантски. Весной 1927 года произошло сенсационное разоблачение советской агентуры, работавшей в восьми странах. В марте была раскрыта шпионская организация в Польше, возглавляемая бывшим белым генералом, ставшим впоследствии агентом ОГПУ, Даниэлем Ветренко; ведущий специалист советско-турецкой корпорации в Стамбуле был обвинен в организации шпионажа на турецко-иракской границе; и, наконец, швейцарская полиция объявила об аресте двух советских шпионов. В апреле, во время обыска, проведенного в советском консульстве в Пекине, было найдено огромное количество документов о советской шпионской деятельности; французская «Сюрте» арестовала восемь членов советской шпионской сети, возглавляемой Жаном Креме, членом Политбюро Французской коммунистической партии. В мае были задержаны сотрудники австрийского Министерства иностранных дел, которые снабжали агентов ОГПУ секретной информацией; а в результате рейда и обыска, проведенного британскими спецслужбами в Лондоне в помещениях Всероссийского кооперативного общества («Аркос») и советской торговой делегации, была раскрыта, по словам Уильяма Джойнсона-Хикса, министра внутренних дел Великобритании, человека, известного своей эмоциональностью и склонностью к некоторому преувеличению, «одна из самых больших и самых гнусных шпионских организаций, о которых я когда-либо слышал».

Полицейские рейды в Пекине и Лондоне, за которыми последовала публикация некоторой разведывательной информации, нанесли особенно сильный удар по советской внешней шпионской сети. Документы, опубликованные в Китае, содержали огромное количество скандальных деталей, рассказывающих о секретной советской деятельности (в основном военной разведке), включая полученные из Москвы инструкции о том, что «не следует избегать никаких мер, в том числе грабежа и массовых убийств», с тем чтобы способствовать развитию конфликта между китайским народом и западными странами. В них также содержались списки имен агентов, инструкции китайским коммунистам по оказанию помощи в проведении разведывательных операций, а также детальное описание оружия, тайно ввозимого в Китай. Хотя английской полиции не удалось захватить такого большого количества чрезвычайно важных документов, опубликованные в Лондоне материалы имели не меньший эффект, поскольку они сопровождались сообщением о том, что британским специалистам вновь удалось разгадать советский дипломатический шифр. В своих выступлениях перед Палатой общин премьер-министр, министр иностранных дел и министр внутренних дел цитировали телеграммы из перехваченной советской дипломатической переписки.