Вышинский поддержал обвинение в объеме, сформулированном следствием, в отношении всех подсудимых, за исключением Масинзона и Лондона, но все же просил суд учесть их «преступные связи». В заключение своей речи Вышинский вспомнил древнеиндийскую мудрость, гласящую: «Наказание бодрствует, когда люди спят». Он сказал: «Наказание — это сама справедливость. Вот этого наказания я и требую для подсудимых именем нашей Республики. Я требую сурового наказания, беспощадного наказания, которое разразилось бы здесь грозой и бурей, которое уничтожило бы эту банду преступников, посягнувшую на честь судейского звания, запятнавших своими преступлениями великое имя советского судьи. Я требую беспощадного приговора. Пусть этот приговор очистительной грозой пронесется над головами преступников... Я требую расстрела всех главных виновников...»
Верховный суд республики счел недоказанной вину лишь двух подсудимых — Левензона и Матеди, которых и оправдал. Остальных приговорил к конкретным мерам наказания, в том числе 17 человек — к расстрелу.
В качестве прокурора Вышинский выступал на многих крупных процессах 20-х годов, таких как дела работников морского хозяйственного управления, Главного управления коневодства, Консервтреста и др.
Вышинский не только поддерживал обвинение в суде, но и активно занимался творчеством. Из-под его пера одна за другой выходят статьи и книги. Он опубликовал две части «Очерков по истории коммунизма» (1924 и 1925 гг.), книгу «Суд и карательная политика Советской власти (1925 г.) и другие. В № 29 «Еженедельника советской юстиции» за 1923 год появилась его публикация «Еще раз о статье 114-а УК», в которой он полемизирует с редакцией журнала, поместившей на своих страницах неправильное, с его точки зрения, разъяснение о том, подлежит ли уголовной ответственности лицо, давшее взятку человеку, присвоившему себе не принадлежащее ему должностное звание. В статье «Дисциплинарные суды и должностные преступления» он приветствовал опубликование «Положения о дисциплинарных судах», считая его «громадным шагом вперед по пути упрощения и улучшения судебного дела». По его мнению, именно отсутствие дисциплинарного суда, «легко настигающего правонарушение», представляет собой существенный изъян в системе органов, борющихся с правонарушениями. «Тяжесть положения усугубляется еще и значительным несовершенством нашего еще молодого и недостаточно пропахшего пороховым дымом судебного быта Уголовного кодекса, — пишет Вышинский. — Рожденный в правовой борьбе против эксплуататоров, наш Уголовный кодекс рубит широко, его огненные удары грубы и резки, как сама революция». Вышинский выражал надежду, что в «лице дисциплинарных судов государство получит новое и сильное оружие борьбы с бюрократическими извращениями, неуловимыми, разнообразными, ядовитыми».
В 1925 году Вышинский покинул прокуратуру. Ученый совет Московского государственного университета избрал его своим ректором. К этому времени он был уже профессором. Наряду с выполнением обязанностей ректора, он читал лекции по уголовному процессу на юридическом факультете, на основе которых издал учебник «Курс уголовного процесса». В эти же годы состоял членом комиссии законодательных предположений при Совнаркоме СССР.
В мае 1928 года Вышинский временно был призван в органы юстиции. Он назначается председателем Специального присутствия Верховного суда
СССР по делу группы «вредителей» в угольной промышленности, известного больше как «Шахтинское дело». Суду были преданы 53 специалиста старой буржуазной школы. По версии следствия, «вредители» (инженеры и техники Шахтинского района Донбасса) были тесно связаны с бывшими собственниками предприятий (русскими и зарубежными) и ставили своей целью «сорвать рост социалистической промышленности и облегчить восстановление капитализма в СССР». С этой целью они якобы организовывали взрывы на шахтах, портили машины и оборудование, умышленно нарушали законы о труде и правила техники безопасности и совершали иные противозаконные действия. Поддерживал обвинение по этому делу Н. В. Крыленко, помогал ему Г. К. Рогинский. В процессе участвовали 16 адвокатов и среди них — корифей старой присяжной адвокатуры, у которого Вышинский некогда был помощником, П. Н. Малянтович. Двадцать спецов, преданных суду, признали себя виновными полностью и подробно изложили свои показания, десять — частично, остальные категорически отрицали какую-либо причастность к вредительству.
Обвинительный приговор по делу был предрешен заранее. Еще за месяц до начала процесса, в апреле 1928 года, выступая на Московской партийной конференции, И. В. Сталин сказал об этом деле так: «Факты говорят, что Шахтинское дело есть экономическая контрреволюция, затеянная частью буржуазных спецов, владевших ранее угольной промышленностью. Факты говорят далее, что эти спецы, будучи организованы в тайную группу, получали деньги на вредительство от бывших хозяев, сидящих теперь в эмиграции, и от контрреволюционных антисоветских организаций на Западе».