17 января 1940 года состоялась очная ставка Рогинского с одним из основных его «разоблачителей» бывшим прокурором Приморской области Любимовым-Гуревичем. По его словам Рогинский являлся активным участником антисоветской троцкистской организации. Григорий Константинович назвал эти показания «ложью и клеветой». Тем не менее в тот же день, устав от бесплодной борьбы, Рогинский написал письмо на имя Берии: «Настоящим заявляю, что прекращаю сопротивление следствию и стану на путь признания своей заговорщической работы против Советской власти. Подробные показания дам на следующих допросах. Я должен собраться с мыслями и вспомнить все подробности вражеской работы, как своей, так и своих сообщников».
Спустя два дня на этом заявлении появилась резолюция Кобулова: «т. Сергиенко. Допросить срочно и подробно Рогинского и доложить».
По всей видимости, своим письмом Рогинский хотел лишь получить небольшую передышку, а вовсе не имел намерения давать развернутые показания. Во всяком случае, подробных признательных показаний в деле нет. А в протоколе очередного допроса от 9 марта 1940 года записано: «Участником антисоветской правотроцкистской организации я никогда не был, поэтому виновным себя в предъявленном мне обвинении не признаю. Признаю себя виновным лишь в том, что, работая заместителем Прокурора Союза ССР, я вместе с другими лицами допустил в своей работе ряд преступных, по существу антисоветских действий, за которые я должен нести уголовную ответственность».
Далее произошел следующий диалог со следователем:
«Вопрос. В чем же конкретно заключалась ваша антисоветская деятельность в Прокуратуре СССР?
Ответ. Я сейчас не могу дисциплинировать свои мысли для того, чтобы рассказать о всей своей работе. Мне нужно изменить обстановку, тогда я расскажу все о своей преступной деятельности.
Вопрос. Что же вы хотите, выпустить вас на свободу?
Ответ. Я прошу чтобы меня из внутренней тюрьмы НКВД перевели в другую тюрьму с более облегченным режимом и тогда я начну давать показания о всей своей преступной работе.
Вопрос. Рогинский, вы государственный преступник и вам надлежит говорить на следствии не об облегчении тюремного режима, а о своих вражеских делах. Прекратите крутиться и приступайте к показаниям...
Ответ. Я уже говорил, что при таком психическом состоянии, в котором я сейчас нахожусь, я не могу давать показания о своих преступлениях.
Вопрос. Из имеющегося у следствия акта психиатрической экспертизы видно, что ваше нервное расстройство — сплошная симуляция. Не валяйте дурака, а приступайте немедленно к показаниям...
Ответ. Я не симулянт. Все мои мысли направлены к тому, чтобы дисциплинировать себя и приступить к показаниям о своей преступной работе. Но я не могу взять себя в руки».
На этом в полночь допрос был окончен. Следователю так и не удалось его сломить. Следующий протокол допроса Рогинского был оформлен 29 марта 1940 года. Допрашивали его ночью, в течение почти двух часов. Но и на этот раз он заявил, что в «этой тюрьме» не может давать показания, и просил перевести его в другую, имеющую более «щадящий» режим.
Только через год следователям удалось «вырвать» у Рогинского признание. К этому времени его перевели в Сухановскую тюрьму. 19 апреля 1941 года Рогинский «признался», что еще в 1929 году, в период пребывания на Северном Кавказе, у него возникло сомнение в правильности политики партии, а с более позднего времени он, являясь участником правотроцкистской организации, вел активную борьбу с партией и Советским правительством «путем проведения подрывной работы в органах прокуратуры».
Позднее в показаниях, данных им 28 июня 1941 года, Рогинский сказал: «Начиная с 1936 года по заданию организации я проводил вредительскую работу в Прокуратуре Союза по трем линиям, а именно: по жалобам, по делам прокурорского надзора и по линии санкционирования необоснованных арестов».
Хотя Рогинский и на этот раз говорил о своих «преступлениях» лишь в общих чертах, не приводя никаких конкретных фактов, следователя вполне устроили его показания и он стал готовить дело для направления в суд. За два года расследования дело разбухло до двух больших томов. Кроме показаний Рогинского, к нему были приобщены протоколы допросов (или выписки из них) других лиц, соприкасавшихся в своей работе с бывшим заместителем Прокурора Союза (некоторые «обвинители» Рогинского к тому времени были уже расстреляны).
7 июля 1941 года следователь 6-го отделения 2-го отдела следственной части НКГБ лейтенант госбезопасности Домашев составил обвинительное заключение, которое было подписано руководителями следственной части и утверждено Б. З. Кобуловым, ставшим к тому времени заместителем наркома госбезопасности СССР. 9 июля на нем появилась резолюция заместителя прокурора Союза ССР Сафонова: «Обвинительное заключение утверждаю. Направить дело в В[оенную] К[оллегию] Верхсуда СССР».