Абакумова решили сделать главой «сионистского заговора». Но он ни в чем не сознавался. 22 февраля 1952 года дело было передано из прокуратуры в МГБ, а курировать следствие стал все тот же Рюмин. Теперь подследственных, а кроме Абакумова были арестованы начальник Следственной части Леонов, следователи Комаров, Шварцман, Лихачев, работники секретариата МГБ Броверман и Чернов, перевели в Лефортово, где их уже начали допрашивать с применением всех мер физического воздействия — вплоть до кандалов и резиновых дубинок. Арестовали также бывших заместителей Абакумова Питовранова и Селивановского, ряд ответственных сотрудников центрального аппарата МГБ — Шубнякова, Райхмана, Белкина, Эйтингона и др., кремлевских врачей — Виноградова, Вовси, Егорова, Майорова и др.
По свидетельству сотрудника Следственной части полковника Федотова, подавшего специальный рапорт Берии 24 марта 1953 года, «бывший министр госбезопасности тов. Игнатьев сообщил нам на совещании, что ход следствия по делам, находившимся в нашем производстве, оценивается правительством как явно неудовлетворительный, и сказал, что нужно «снять белые перчатки» и «с соблюдением осторожности» прибегнуть к избиениям арестованных… Тов. Игнатьев дал понять, что по этому поводу имеются указания свыше. Вскоре во Внутренней тюрьме было оборудовано отдельное помещение для избиения, а для осуществления пыток выделили группу работников тюрьмы…».
Бывший начальник Внутренней тюрьмы МГБ Миронов на допросе 4 декабря 1953 года показал, что избивали Абакумова и его товарищей не только на Лубянке, но и в Лефортове: «Меня вызвал заместитель министра полковник Рюмин и предложил подобрать двух надежных и физически сильных сотрудников… для выполнения важных оперативных заданий. На другой день я вместе с отобранными сотрудниками Кунишниковым и Беловым зашел к Рюмину, который разъяснил, что важное оперативное задание состоит в том, что мы по указанию его, Рюмина, будем применять меры физического воздействия к арестованным. За это он пообещал в будущем предоставлять нам путевки в дом отдыха, денежное пособие и присвоить внеочередные воинские звания.
В нашем присутствии Рюмин вызвал одного из сотрудников Следчасти по особо важным делам и предложил собрать и передать нам резиновые палки, что и было выполнено… В Лефортовской тюрьме мы разместились в кабинете № 29 и по указанию Рюмина подвергли избиению арестованных Абакумова, Бровермана, Шварцмана, Белкина и других…»
С резиновыми дубинками следствие пошло веселее. «Врачи-вредители» признались, что злодейски залечили до смерти Щербакова и Жданова, а чекисты согласились с тем, что собирались совершить государственный переворот в интересах международной шпионской организации «Джойнт».
Абакумову 3 ноября 1952 года предъявили обвинение в том, что он «вынашивал изменнические замыслы и, стремясь к высшей власти в стране, сколотил в МГБ СССР преступную группу из еврейских националистов, с помощью которых обманывал и игнорировал ЦК КПСС, собирал материалы, порочащие отдельных руководителей Советского правительства, а также отгораживал чекистский аппарат от руководящих партийных органов; опираясь на своих сообщников, проводил вредительскую подрывную работу в области контрразведывательной деятельности…».
С ловлей шпионов у Виктора Семеновича действительно не очень получалось, но захватывать высшую власть в государстве он и в мыслях не держал. Тем более что данный сценарий со всех точек зрения выглядел абсурдным.
Взять власть, опираясь лишь на силы МГБ, без участия или хотя бы благожелательного отношения со стороны армии, не было никакой возможности. Для правдоподобия требовалось пристегнуть к «сионистскому заговору» армейских генералов. Однако Иосиф Виссарионович, основательно почистивший и попугавший генералитет в первые послевоенные годы, в новой перетряске военных кадров пока не нуждался и не собирался жертвовать генералами и маршалами. Поэтому стройность картины была все же не такой, как в почти образцовом в этом отношении деле «правотроцкистского блока». И хуже всего было то, что главный обвиняемый никак не сознавался.