Расширение работы по расследованию преступлений заставило искать пути организационного обеспечения этого важного направления борьбы с преступностью. На местах, в управлениях НКВД, приняли решение о разделении аппаратов уголовного розыска на части: оперативно-розыскную и следственную. В отделах уголовного розыска и отделах БХСС были организованы следственные группы. В соответствии с приказом НКВД СССР от 27 августа 1939 года в отделах уголовного розыска, управлений милиции республик, краев, областей и дорожных отделов милиции создавались следственные группы из наличного штата. Руководство ими возлагалось на заместителей начальников отделов уголовного розыска. В следственные группы выделялись наиболее подготовленные сотрудники. Аналогичным образом строился и созданный в апреле 1941 года отдел по борьбе с бандитизмом ГУРКМ НКВД СССР. Он состоял из пяти отделений: четыре — по зонам СССР, пятое — следственное[97].
На более высокую профессиональную подготовленность следственных работников указали СНК СССР и ЦК ВКП(б) в своем постановлении от 17 ноября 1939 г. «Об арестах, прокурорском надзоре и ведении следствия»[98]. Это постановление имело важное значение. Оно заставило серьезно отнестись к практике правовой регламентации следственной работы, устранению и предупреждению нарушений, которые имели массовый характер. В конце 1939 г. начальник управления НКВД по Ленинграду и области Гоглидзе силами специально выделенной группы оперативных работников провел проверку состояния следственных дел, находящихся в следственной части управления. Из 340 проверенных дел в 104 — были обнаружены грубейшие нарушения, в 11 — не соблюдена процедура оформления ареста, в 9 — длительное время не предъявлялись обвинения, в 22 — до 7–8 месяцев арестованные не вызывались на допрос и т. д.[99]. Гоглидзе предупредил, что недопустимо создание при помощи агентуры провокационных дел и потребовал от руководящего состава отделов очиститься от двурушников и фальсификаторов в рядах следственного аппарата. Однако взращенная система массовой подозрительности не могла быть быстро изжита и долгие годы фальсификация в следственных делах продолжала иметь место. В немалой степени процветанию различного рода злоупотреблений способствовал и установленный порядок расследования преступлений, совершенных работниками органов внутренних дел, милиции. Его осуществляла или особая инспекция или дознаватели, назначаемые руководством соответствующего органа, причем начальники подразделений сами и должны были утверждать обвинительное заключение. Неудивительно поэтому, что большинство расследований подобного рода не доводились до суда.
Проведенная в предвоенные годы работа по специализации аппаратов уголовного розыска, по улучшению их оперативной осведомленности дала положительные результаты. Было предупреждено 1500 преступлений, ликвидировано 613 воровско-грабительных групп. Число вооруженных грабежей в 1940 году сократилось на три процента, дерзких хулиганств на 27 процентов по сравнению с 1939 годом. В первом полугодии 1941 года преступность по всем видам сократилась на 61 процент по сравнению со второй половиной 1940 года. Количество убийств снизилось наполовину, краж — на 68 процентов. Раскрываемость преступлений достигла 85,7 процента[100].