Подготовка «Шахтинского дела» стала возможной благодаря стараниям полномочного представителя ОГПУ по Северному Кавказу Е. Г. Евдокимова. Этот человек со своими подозрениями относительно участившихся аварий на шахтах обратился лично к Сталину. Тот отреагировал мгновенно — ОГПУ получило приказ: «.Приравнять небрежность как должностных, так и прочих лиц, в результате халатности которых имелись разрушения, взрывы, пожары и прочие вредительские акты. к государственным преступлениям.» Ошибка была объявлена преступлением, а по пролетарским понятиям в любой аварии виноват не рабочий, а классово чуждый инженер, разговор с которым должен быть коротким. И дело начало набирать обороты. Бригады «особо бдительных рабочих» арестовали небольшую группу специалистов-горняков. После первых допросов этих лиц прокатилась новая волна арестов. Далее основной оперативной работой занимались начальник экономического отдела Северо-Кавказского ОГПУ К. И. Зонов и оперативный работник Ю. Г. Брыксен. Они лично разрабатывали саму операцию, систему экспертиз, проводили все первые допросы арестованных и генеральные допросы главных подозреваемых, широко использовали так называемый «конвейер» — многочасовые беседы без сна. Что ж, этот случай мог бы служить наглядной иллюстрацией к тому, как «кухарка может управлять государством».
Большая часть обвиняемых по этому делу работали на Донбассе до революции и считались блестящими профессионалами в своей области. Вся их беда состояла в том, что они являлись «бывшими», а посему ничего хорошего Советы от них не ожидали, хотя и пользовались какое-то время знаниями этих специалистов. На «Шахтинском процессе», кстати, инженеры твердо и на редкость единодушно заявляли: все ранее перечисленные неполадки и аварии связаны с бюрократизацией управления. Просто техперсонал работать боялся, а рабочим до чертиков надоела уравниловка в оплате труда.
Всего на основании следственных документов ОГПУ суду Специального Присутствия Верховного суда СССР было предано 53 специалиста-горняка (среди них — немецкие инженеры М. К. Майер, Э. Э. Отто, В. И. Бадштибер). Следствию удалось притянуть за уши (в официальных документах этот процесс гордо именовался «тщательным анализом») многочисленные взрывы, пожары, порчу машин, завалы шахт и состряпать дело, в ходе которого специалисты старой закалки обвинялись во всех смертных грехах: актах вредительства, злостном саботаже, создании разветвленной организации заговорщиков и шпионаже. Работники правоохранительных органов «установили», что работа этой контрреволюционной организации, действовавшей в течение ряда лет, выразилась в скрытой дезорганизации и подрыве каменноугольного хозяйства методами нерационального строительства, ненужных затрат капитала, понижения качества продукции, повышения его себестоимости, а также в прямом разрушении шахт, рудников, заводов и т. д. При этом указывалось: злоумышленники надеялись на интервенцию и потому подготавливали катастрофический срыв всей промышленности и резкое снижение обороноспособности страны к моменту военного столкновения. Дело порой доходило до откровенного маразма. Так, по мнению следствия, многие подсудимые ранее выступали с удачными рационализаторскими предложениями лишь для. конспирации и маскировки! А ремонты «совершенно ненужных» копров, равно как и оснащение шахт новым ценным оборудованием, делались только для того, чтобы «старым хозяевам» в будущем было меньше проблем. Конечно, даже не специалисты в горном деле понимали абсурдность многих обвинений.
Достаточно масштабная схема организации, по мнению ОГПУ, включала в себя низовые группы вредителей на шахтах и рудоуправлениях в Шахтинском районе; среднее звено — директорат треста «Донуголь» в Харькове; высшее звено — руководящих работников угольной промышленности в столице; политическое руководство — «Торгпром», имевшее контакты с Варшавой, Парижем и Берлином. Так что этот процесс стал заметным событием в истории всей страны, само понятие «шахтинцы» с того момента использовалось в прессе и различных политических документах как имя нарицательное, для обозначения так называемых «вредителей», а периферийный городок Шахты в глазах общественности превратился едва ли не в эпицентр борьбы с вредительством в СССР.
Судебный процесс по «Шахтинскому делу» был открытым; на него по приглашениям прибыли сотни журналистов и более 30 000 зрителей, которые оказывали на суд мощное эмоциональное воздействие. Помимо государственных обвинителей, в зале присутствовали также 42 общественных обвинителя и 15 адвокатов. Первое заседание по «Шахтинскому делу» состоялось в Колонном зале Дома Союзов 18 мая 1928 года; закончился же процесс, длившийся 41 день, только в конце июня. Интересно, что и в зале суда многие подсудимые (23 человека) продолжали упорно отрицать свою причастность к каким бы то ни было противоправным действиям и не желали признавать себя виновными по оглашенным пунктам.