Каждый сотрудник вечно «проверялся» и «прорабатывался» для выяснения, не заражен ли он теми или иными уклонами. Помню, когда я приехал в Москву в 1928 году, я в течение первых двух-трех месяцев был абсолютно загружен всяческими докладами, в которых должен был доказать правоверность своих точек зрения. При малейших подозрениях сотрудников ГПУ откомандировывали. Тому примеров множество.
По поводу статьи Оссовского в журнале «Большевик» о допустимости существования других партий в СССР начались усиленные разговоры среди сотрудников ГПУ. В одной из бесед сотрудник Риольф, выдвиженец из рабочих, высказал мысль, что существование в СССР другой партии, кроме коммунистической, дало бы возможность иметь легальную оппозицию, выступления которой могли бы «выпрямлять линию коммунистической партии». За эти слова Риольф через два дня был откомандирован из ГПУ.
Сотрудники ГПУ вообще очень интересовались внутрипартийной жизнью и иногда, бросая свою основную работу, горячо обсуждали между собой тот или другой принципиальный вопрос. Но на партийных собраниях, за исключением казенного докладчика, почти никто не выступал. Руководители жаловались на равнодушие членов партии, не понимая или не желая понимать, что люди не выступают потому, что все равно нельзя сказать, что чувствуешь и что думаешь. В товарищеской среде эти «равнодушные» сотрудники чрезвычайно бурно обсуждали каждое мероприятие партийной верхушки.
В середине 1929 года, когда мы еще ничего не знали о борьбе между Бухариным и Сталиным, Эйнгорн сообщил нам, что между членами политбюро происходит сильная склока по вопросу о темпе социалистического строительства. Еще не поступило в ГПУ стенографического отчета о заседаниях политбюро, но сотрудники ГПУ уже частным образом обсуждали все спорные вопросы. Начал обнаруживаться так называемый правый уклон. То же явление наблюдалось и во всех других партийных организациях.
Центральный комитет решил устроить чистку и проверку членов партии, чтобы освободиться от «уклонистов».
В первую очередь началась чистка ячеек ГПУ. Комиссия по чистке состояла из вождей Центральной контрольной комиссии — Сольца, Караваева и Филлера. Чистка началась в августе. Предварительно комиссия просмотрела все «личные дела» сотрудников (документы вроде послужных списков, но гораздо более подробные), охотно принимала анонимные доносы. Все сотрудники впали в панику. Никто не знал, как будет проводиться чистка, каковы будут ее результаты. Люди, не испытывавшие страха в боях, рисковавшие жизнью в подпольной работе за границей, ныне дрожали. Их партийная честь находилась в руках этих трех человек.
Началась чистка иностранного отдела. Она заключалась в том, что на собрании члены партии выступали по очереди, рассказывали свою биографию и отвечали на вопросы, поставленные комиссией или собранием. Часто люди, проработавшие десять лет друг с другом, только тут узнавали о прошлой жизни своего товарища. На чистке иностранного отдела выяснилось, что в отделе нет ни одного сотрудника с пролетарским происхождением. Среди сотрудников ГПУ оказались люди из дворянских семей, а один даже оказался сыном чиновника царской охранки. Много также сотрудников было с подозрительным прошлым, которые, по всей вероятности, работали в иностранных и белогвардейских разведках. Так, например, помощник начальника иностранного отдела Логинов, член партии с 1905 года, как оказалось, с 1917 по 1920 год жил в Архангельске при белых, остался жив и даже редактировал там газету. Почему он остался в белом стане и почему его не тронули, он так и не мог объяснить на собрании. Другой близкий друг Трилиссера, Альфред, член партии с 1903 года, пробывший на каторге десять лет, прожил в Ростове-на-Дону весь деникинский период, занимаясь, по его объяснению, личными делами. Видная сотрудница иностранного отдела ГПУ Красная, жена члена исполкома Крестьянского интернационала, по ее словам, чуть ли не с десятилетнего возраста состояла членом ЦК польской компартии, хотя одновременно была связана с Пилсудским. Собрание заинтересовалось ее биографией и забросало ее вопросами, отвечая на которые она окончательно спуталась и заплакала. Лиза Горская, предавшая Блюмкина, оказалась дочерью польского помещика. Вероятно, для того, чтобы загладить неблагоприятное впечатление от своей биографии, она и выдала Блюмкина.
Комиссия обратила внимание на отсутствие пролетарского сословия в иностранном отделе ГПУ, но решила оставить аппарат неприкосновенным, так как, в конце концов, все это были испытанные чекисты. Исключены были только два сотрудника, занимавшие технические должности.