Следующие изменения предполагалось произвести по итогам работы Комиссии ЦК КПСС по реорганизации разведывательной и контрразведывательной служб МГБ СССР, образованной в ноябре 1952 г. по инициативе Сталина.
Именно в состав этой комиссии 20 ноября вошел освобожденный из тюрьмы Питовранов.
30 декабря 1952 г. было принято решение бюро Президиума ЦК КПСС об объединении 1-го (внешняя разведка) и 2-го (контрразведка) Главных управлений, бюро № 1 Отдела «Д» (активные мероприятия), а также ряда подразделений 4-го (розыскного), 5-го (секретно-политического) и 7-го (оперативного) управлений МГБ в Главное разведывательное управление (ГРУ) МГБ СССР. Это решение было объявлено приказом МГБ от 5 января 1953 года. Начальником ГРУ МГБ был назначен первый заместитель министра госбезопасности генерал-лейтенант С.И. Огольцов, его заместителями — генерал-майор Питовранов (он же начальник 1-го управления ГРУ (разведка за границей)) и генерал-лейтенант B.C. Рясной (он же — начальник 2-го управления ГРУ (контрразведка внутри страны).
Однако в связи со смертью Сталина этот проект остался на бумаге и не был реализован. Штаты новых подразделений не были утверждены. Но был сформирован в связи с новыми задачами 13-й (антисионистский) отдел 2-го управления ГРУ МГБ.
Не забыли и о подлинных националистах, 15-й год боровшихся с «Советами» с оружием в руках. 30 декабря 1952 г. ЦК КПСС принял постановление о нанесении окончательного удара по оуновцам и «лесным братьям». 24 января 1953 г, был издан приказ МГБ СССР «О мерах по ликвидации националистического подполья и его вооруженных банд в западных областях Украинской и Белорусской ССР, в Литовской, Латвийской и Эстонской ССР».
В марте 1953 г., в ходе новой реформы органов госбезопасности, Питовранов, недолго пробывший начальником разведки, также занял не последнее место в бериевском МВД. 17 марта он был назначен заместителем начальника 2-го ГУ. Так теперь называлась разведка, начальником которой стал Рясной (под его начальством Питовранов уже служил в Горьком). Старый контрразведчик Рясной в разведке ранее не работал, как, впрочем, и Питовранов.
Уже через 2 месяца он вернулся в контрразведку. 21 мая он был назначен первым заместителем начальника 1-го ГУ (так теперь называлась контрразведка) МВД СССР Петра Васильевича Федотова. Но не задержался и здесь.
16 июля 1953 г., уже после ареста Берии и его первого заместителя- куратора разведки и контрразведки Богдана Кобулова — генерал Питовранов был направлен в столицу Германской демократической республики — Берлин в качестве уполномоченного МВД СССР в Германии. После образования Комитета государственной безопасности при Совете Министров СССР 10 мая 1954 г. был, по совместительству, назначен заместителем Верховного комиссара СССР в Германии и, одновременно, 18 мая — начальником Инспекции по вопросам безопасности при Верховном комиссаре, образованной на базе Аппарата уполномоченного. С декабря 1955 г. его должность именовалась «старший советник — руководитель Аппарата старшего советника КГБ при СМ СССР при МГБ ГДР».
Так менялось название должности руководителя советских спецслужб в берлинском районе Карлсхорст. За это время также сменились на Лубянке министры внутренних дел — маршал Лаврентий Павлович Берия и генерал-полковник Сергей Никифорович Круглов, впервые прозвучало название «КГБ» — Комитет государственной безопасности при Совете Министров СССР, председателем которого стал генерал армии Иван Александрович Серов.
В Германии Питовранов оказался в сложнейший момент истории ГДР — важнейшего форпоста будущего «социалистического содружества» (в то время употреблялся термин «страны народной демократии»).
Работа чекистов в Германии началась с момента вступления Красной Армии на немецкую землю в 1945-м. В том же году здание бывшего военного училища в Карлсхорсте стало почти на полвека штаб-квартирой многократно менявших название спецслужб Советского Союза. В первые послевоенные годы в этом окраинном, мало пострадавшем в ходе битвы за столицу Германии юго-восточном пригородном районе Большого Берлина (именно там был подписан в ночь с 8 на 9 мая 1945 г. акт о капитуляции Германии) расположились учреждения Советской Военной администрации, управлявшие оккупационной зоной. Здесь же дислоцировались в здании бывшего госпиталя СС и штаб-квартиры советских разведывательных и контрразведывательных структур — НКГБ, а затем МГБ и КГБ, Главного управления контрразведки «Смерш» НКО (до 1946 г.). Первая такая структура была создана летом 1945 г. прибывшим в Берлин заместителем наркома НКВД СССР генерал-полковником Иваном Серовым, будущим первым председателем КГБ СССР и начальником ГРУ.
Быстрыми темпами была создана эффективная система разветвленных агентурных сетей, охватывавших не только Восточную, но и Западную Германию. Нити тянулись из восточной части Берлина в Западную Европу, Соединенные Штаты, Латинскую Америку, на Ближний Восток.