Сей никому не ведомый заговор стал предлогом для очередной волны арестов как в Кремле, так и по всей стране. Среди этих волн самые страшные были подняты стараниями Ежова. Ни один палач в истории не сделал столько для своего господина, сколько сделал для Сталина Ежов. Список ежовских жертв включает почти всех из 80 членов советского Военного совета, созданного в 1934 году, большинство членов сталинского Центрального Комитета и его Контрольной комиссии, большинство членов ЦИК, Совета Народных Комиссаров, Совета Труда и Обороны, лидеров Коммунистического Интернационала, всех начальников и заместителей начальников ОГПУ, массы послов и высших дипломатов, руководителей всех союзных и автономных республик Советского Союза, 35 000 человек из офицерского корпуса, почти весь состав редакций «Правды» и «Известий», множество писателей, артистов, музыкантов, режиссеров, большинство руководителей комсомола — цвет поколения, от которого ожидали максимальной лояльности к Сталину.
Результат совершенного Ежовым за тридцать шесть месяцев, в течение которых он возглавлял ОГПУ, был настолько ужасен, что ему пришлось заплатить за содеянное жизнью. Ужасы репрессий достигли такой степени, что Сталину, чтобы спасти самого себя, пришлось казнить своего палача. При всем своем раболепстве и своей преданности Ежов заплатил ту цену, которую обречены платить все в сталинской России, кто поднимается на вершину власти. 8 декабря 1938 года в кратком коммюнике сообщалось, что Ежов освобожден от поста комиссара внутренних дел и заменен Лаврентием Берия, закавказским соплеменником Сталина. По обыкновению сообщалось, что Ежов якобы стал теперь комиссаром по делам речного флота, но фактически он исчез бесследно и навсегда.
Из всех чисток, предпринятых Сталиным, самой страшной, такой, которая никогда не исчезнет из памяти людей, даже если можно будет забыть все остальные, была чистка детского поколения страны. В начале 1935 года ОГПУ представило Политбюро доклад о преступности среди малолетних. Расстрелы, высылки и голод 1932–1933 годов породили новые массы беспризорных, бездомных сирот, бродящих по городам и селам. ОГПУ заинтересовалось этой трагедией подростков и в своем докладе Сталину обрисовало отчаянное положение этой части населения. Среди подростков расцветала преступность, распространялись болезни, сексуальные извращения. Особенно шокировали Сталина приводимые в докладе подробности о том, что тысячи подростков, ища спасения от физической гибели, втягивались в сферу влияния религиозных сект. Сталин решил действовать. Как ни странно, ОГПУ до сих пор ставило себе в заслугу заботу о социальной помощи детям и даже сумело «перевоспитать» какую-то весьма малую часть из миллионов беспризорных, наполнявших страну после Октябрьской революции и гражданской войны. Но перед лицом новой волны беспризорных Сталин решил проводить иной курс.
В 1935 году, 8 апреля, в «Известиях» был помещен декрет Советского государства за подписью президента Калинина и премьера Молотова, озаглавленный «О мерах борьбы с преступностью среди несовершеннолетних». Этим декретом на детей, достигших двенадцатилетнего возраста, в качестве меры наказания за преступления от мелкого воровства до измены распространялась смертная казнь. Вооружившись этим страшным законом, ОГПУ начало устраивать облавы на сотни тысяч подростков и заключать их в концентрационные лагеря и трудовые колонии, а нередко присуждать к расстрелу.