Председатель Совнаркома В. И. Ленин, из-за болезни не участвовавший в работе сессии ВЦИК, но пристально следивший за ходом обсуждения всех вопросов, был принципиально не согласен с тем, что проект декрета о прокуратуре предполагал ее двойное подчинение. Он продиктовал из Горок, где тогда находился, по телефону письмо, адресованное Генеральному секретарю ЦК И. В. Сталину «для Политбюро» «О «двойном» подчинении и законности». В нем содержались не только основные, принципиальные положения о социалистической законности, но и теоретическое обоснование необходимости единой законности для всего Советского государства. Это письмо решило исход спора в пользу сторонников централизованного подчинения органов прокуратуры. Политбюро ЦК полностью согласилось с предложениями В. И. Ленина. 26 мая 1922 года сессия ВЦИК приняла Положение о прокурорском надзоре, в котором идеи, высказанные ранее Н. В. Крыленко и поддержанные В. И. Лениным были полностью сохранены. 28 мая постановление сессии было подписано Председателем ВЦИК М. И. Калининым. В этот день была создана Государственная прокуратура РСФСР.
Первым прокурором республики стал нарком юстиции РСФСР Дмитрий Иванович Курский. Ему пришлось сразу же браться за решение многочисленных проблем, связанных с организацией нового института законности.
Среди них на одно из первых мест выдвигались кадровые вопросы — следовало подобрать толковых, инициативных людей на должности губернских прокуроров, помочь им укомплектовать штаты прокуратуры не только помощниками, но и техническим персоналом. Не менее важная проблема — определение структуры отдела прокуратуры Наркомата юстиции и губернских прокуратур, ориентирование подчиненных на выполнение самых важных и неотложных задач, обеспечение их достаточной нормативной базой. Положение о прокурорском надзоре намечало лишь самый основной круг обязанностей прокуроров, которые необходимо было конкретизировать.
Большой удачей для Д. И. Курского следует считать назначение заместителем наркома и старшим помощником прокурора энергичного и работоспособного Николая Васильевича Крыленко, который сразу же взвалил на свои плечи огромное количество дел по организации прокуратуры.
Коллегия Наркомюста посвятила несколько своих заседаний вопросу проведения в жизнь Положения о прокурорском надзоре. 22 и 26 июня 1922 года были рассмотрены и утверждены штаты организованного отдела Государственной прокуратуры Наркомата юстиции (6-й отдел), а 29 июня — штаты губернских прокуратур. Отдел включал в себя подотделы общего надзора, надзора за органами следствия и дознания, государственного обвинения и секретариат.
Коллегия Народного комиссариата юстиции приняла решение вводить институт прокуратуры постепенно — вначале в тех губерниях, для которых имелись проверенные и испытанные кандидаты на должности прокуроров, а затем и в остальных, но с тем расчетом, чтобы на всей территории республики назначение прокуроров последовало не позднее 1 августа 1922 года, поскольку именно эта дата была определена Президиумом ВЦИК как начальная для введения в действие Положения о прокурорском надзоре.
Началом работы советской прокуратуры следует считать 25 июля 1922 года. Именно тогда состоялось первое совещание 32 назначенных прокуроров губерний и областей. Открывая его, Курский назвал собравшихся «первыми застрельщиками в борьбе за законность». Участники совещания заслушали доклады прокурора республики Д. И. Курского, его старшего помощника Н. В. Крыленко, а также сообщение Лунина и получили ряд указаний по основным вопросам работы. 29 июля 1922 года Д. И. Курский утвердил «Временную инструкцию губернским прокурорам об общих задачах, возлагаемых на прокурора».
1 августа 1922 года в 11 губерниях прокуроры приступили к работе. В течение августа-сентября открылись еще 35 губернских прокуратур. Уже к 1 ноября 1922 года из 2779 штатных должностей, выделенных для работников органов прокуратуры (с техническим персоналом), было замещено около 50 процентов, в том числе укомплектованы 326 должностей губернских прокуроров и их помощников. Назначение прокуроров губерний в основном происходило вполне успешно. Местные руководители без каких-либо возражений соглашались с кандидатурами, выдвинутыми центром. Однако в некоторых губерниях власти все же пытались навязать прокурору республики своих людей, причем, недостаточно компетентных для столь ответственной работы. Особенно трудно шло назначение прокурорских работников в Кабардинской области, в Коми, Пензенской губернии, где к концу 1922 года прокуратуры были укомплектованы лишь на 10–25 процентов. К 1 января 1923 года в РСФСР были назначены все 58 губернских прокуроров.