В должности первого заместителя Генерального прокурора СССР Рекунков работал около пяти лет. После смерти Романа Андреевича Руденко возглавил Прокуратуру Союза, стал действительным государственным советником юстиции. Должность эту он оставил в 1988 году, но до последнего дня не прерывал своих связей с прокуратурой. Был прокурором в отделе по реабилитации жертв политических репрессий, помощником Генерального прокурора Российской Федерации по особым поручениям, депутатом Верховного Совета СССР, членом ЦК КПСС, делегатом двух съездов партии. Его грудь украшал знак почетного работника прокуратуры. Скончался Александр Михайлович Рекунков в мае 1996 года.
На внеочередной седьмой сессии Верховного Совета СССР девятого созыва 7 октября 1977 года была принята новая Конституция. Глава 21 в ней была посвящена прокуратуре. Высший надзор прокуратуры за исполнением законов, провозглашенный еще Конституцией 1936 года, наполнился новым содержанием. Срок полномочий Генерального прокурора СССР ограничивался пятью годами (раньше был семь лет). Конституция устанавливала что организация и порядок деятельности органов прокуратуры определяются Законом о Прокуратуре СССР.
Сразу же после утверждения Конституции началась усиленная работа над проектом Закона о Прокуратуре. Ее возглавлял лично Руденко. Огромный вклад в разработку проекта внес и Рекунков, а также другие заместители, начальники управлений и отделов. Не были в стороне и рядовые прокуроры. Каждый был вправе дать свои предложения в проект Закона, внести какие-то коррективы, изменения; подключились и ученые-юристы, и коллективы всех институтов Прокуратуры СССР.
Подготовка законопроекта велась весьма тщательно и скрупулезно. Учитывался накопленный опыт, новые общественные условия, предъявляемые в тот период к прокуратуре, требования партийных и государственных органов, пожелания трудовых коллективов, высказанные в ходе всенародного обсуждения Конституции, предложения и замечания депутатов Верховного Совета ССР, Верховных Советов союзных республик, министерств, ведомств и, в первую очередь, правоохранительных (Комитета государственной безопасности, министерств внутренних дел и юстиции), Верховного суда СССР. Использовался также опыт законодательства о прокурорском надзоре, накопленный в социалистических странах.
Полезную инициативу проявил журнал «Социалистическая законность», предоставивший свои страницы обсуждению предложений прокурорской и иной правоохранительной сфере, организовавший «круглые столы, диспуты».
Когда работа над проектом завершалась вышло постановление ЦК КПСС «Об улучшении работы по охране правопорядка и усилении борьбы с правонарушениями» (опубликовано в «Правде» 11 сентября 1979 года). Перед партийными, советскими, правоохранительными и другими государственными органами и общественными организациями были поставлены задачи: улучшить охрану общественного порядка в городах и населенных пунктах; последовательно и настойчиво вести борьбу против пьянства и алкоголизма; совершенствовать работу по предупреждению правонарушений среди несовершеннолетних в учебных заведениях, трудовых коллективах и по месту жительства; усилить борьбу с посягательствами на социалистическую собственность; активизировать борьбу с тунеядством и спекуляцией.
Конечно, это постановление внесло свои коррективы в уже подготовленный законопроект. Были уточнены приоритетные направления деятельности прокуратуры. Впервые в такого рода документе закреплялась координирующая роль прокуратуры в деятельности правоохранительных органов по борьбе с преступностью и иными правонарушениями.
Проект Закона о Прокуратуре СССР был внесен на рассмотрение Верховного Совета Генеральным прокурором и комиссиями законодательных предположений Совета Союза и Совета Национальностей Верховного Совета СССР.
30 ноября 1979 года Верховный Совет СССР принял ряд важнейших союзных законов: о народном контроле, о Верховном суде, о Прокуратуре, о государственном арбитраже и об адвокатуре.
6 декабря 1979 года Генеральный прокурор издал приказ № 52, которым предписал всем подчиненным прокурорам и следователям «строго и неуклонно исполнять Закон о Прокуратуре СССР, совершенствовать работу по осуществлению высшего надзора за точным и единообразным исполнением законов, борьбе с преступностью и другими правонарушениями, их предупреждению. Улучшать координацию действий правоохранительных органов, развивать и укреплять связи с трудовыми коллективами и общественностью», а руководителям прокуратур — «постоянно укреплять служебную дисциплину, повышать ответственность к себе и подчиненным; персональную ответственность каждого работника за порученное дело».
В декабре 1979 года в Москве состоялось Всесоюзное совещание работников органов прокуратуры, на котором обсуждался ход выполнения постановления ЦК КПСС «Об улучшении работы по охране правопорядка и усилении борьбы с правонарушениями» в связи с принятием Закона о Прокуратуре СССР. На этом совещании Роман Андреевич Руденко сделал большой доклад.