Между тем судьба Николая Ежова была столь же трагична, как и его предшественника. Просидев в кресле наркома внутренних дел СССР ровно столько же, сколько и Ягода (26 месяцев), Николай Ежов в начале декабря 1938 года был отстранен от этой должности. Новым наркомом стал 39-летний Лаврентий Берия, еще летом 38-го года вызванный из Тбилиси в Москву и ставший заместителем Ежова. Сам Ежов в начале 1939 года был арестован и через год расстрелян как враг народа. Таким образом, после двухлетнего правления в НКВД партийца Ежова к руководству наркоматом приходит профессиональный чекист.
Именно при Л.Берии в марте 1940 года НКВД СССР произвел коренную перестройку оперативно-служебной деятельности уголовного розыска. Оперативные работники стали нести ответственность в первую очередь за результаты борьбы с конкретными видами преступлений, главным образом с особо опасными. Изменились методы руководства аппаратом уголовного розыска со стороны Главного управления милиции. Выезды на места работников центрального аппарата с целью обследования и контроля были сокращены до минимума. Основное внимание сосредоточивалось на оказании практической помощи в борьбе с преступностью. Отметим, что с 1939 по 1942 год уголовный розыск страны возглавлял Г. И. Цыхановский. Затем в течение года - И. В. Бодунов.
После того как волна репрессий при Л.Берии пошла на спад, население страны вздохнуло с облегчением. Из лагерей потянулись тоненькие струйки первых освобожденных. Однако основная масса заключенных продолжала досиживать свой срок и при Л.Берии. К этому времени территория СССР значительно увеличилась за счет присоединения к нему Прибалтики, Западной Украины и Западной Белоруссии. В связи с этим расширился и уголовный контингент: с этих территорий были вывезены заключенные с большими сроками.