Находясь в Москве, Кривицкий не меньше, чем переговорами с фашистской Германией, был потрясен ширящимися процессами против старых большевиков и арестами среди сотрудников НКВД и ГРУ, сам при этом ожидая ареста со дня на день. На его глазах арестовывают бывших коллег, в том числе Макса Максимова и Софью Залесскую. Еще ранее, в ноябре 1936 года, были арестованы бывшие руководители нелегального военного аппарата компартии Германии, с которыми Кривицкий был тесно связан с начала двадцатых годов. Восемнадцатого марта 1937 года он присутствовал на собрании офицеров в клубе НКВД, когда Н. Ежов объявил о раскрытии очередного масштабного контрреволюционного заговора. Ежов заявил, что заговорщики проникли в самое сердце НКВД, а главным предателем оказался сам Г.Г. Ягода. Якобы работая в свое время на царскую охранку, Г. Ягода был завербован немецкой секретной службой и внедрен в ВЧК. К тому моменту, когда он был освобожден от занимаемой должности, ему удалось поставить шпионов на все ключевые посты в НКВД. Некоторые из них, по словам Ежова, уже были арестованы. Присутствующие громко аплодировали при этом, хотя большинство из них знало, что все сказанное здесь было неправдой. По словам Кривицкого, они выражали аплодисментами свою преданность.
Однако в конце мая 1937 года Кривицкого вновь отправляют в Гаагу. Там он встречается со своим другом Рейссом, который после доверительного разговора с ним принимает окончательное решение порвать со сталинским режимом и остаться на Западе. Сам Кривицкий еще колеблется, но вскоре его колебаниям придет конец.
В июле 1937 года, сразу после принятия Рейссом решения о невозвращении в СССР, Кривицкого вызвал в Париж заместитель начальника ИНО НКВД С. Шпигельглас. Встретившись с Кривицким в ресторане на бульваре Монпарнас, Шпигельглас сообщил ему, что прибыл сюда с миссией чрезвычайной важности. Поделившись московскими новостями и рассказав о деле Тухачевского («Мы только что раскрыли гигантский заговор в армии, такой заговор, какого не знала история. Мы только что узнали о планах убить самого Николая Ивановича [Ежова]! Но мы взяли их всех, сейчас мы все держим под контролем».), Шпигельглас сообщил Кривицкому, что И. Рейсс — предатель и подлежит ликвидации и что Кривицкий должен оказать необходимую помощь оперативной группе Отдела специальных операций, прибывшей из Москвы. И что он, Кривицкий, также должен передать в распоряжение Шпигельгласа двух человек, отобранных по приказу Слуцкого.
Кривицкий не мог не выполнить приказа Шпигельгласа, но ему удалось предупредить Рейсса о грозящей ему опасности, и тот успел скрыться. Правда, это не спасло Рейсса. Пятого сентября 1937 года Кривицкий узнал из газет, что тело Рейсса, изрешеченное пулями, было найдено в Швейцарии недалеко от Лозанны. А спустя чуть больше двух недель, 22 сентября, он узнал о похищении в Париже генерала Миллера.
Так как Кривицкий был тесно связан с Рейссом, он имел все основания опасаться за свою судьбу. После получения очередного вызова в Москву он решает по примеру Рейсса стать невозвращенцем. В октябре 1937 года он из Гааги переезжает в Париж и через адвокатов вдовы Рейсса устанавливает связь с сыном Троцкого, Львом Седовым, издававшим там «Бюллетень оппозиции». Пятого декабря Кривицкий передает Седову текст открытого письма для публикации в рабочей печати, где заявляет о своем разрыве с советской разведкой: