Приближался 1937 год. Начались массовые репрессии. Армию очищали от «врагов народа». Будучи «верным сталинцем», Ворошилов в эпоху Большого террора безропотно подписывал любые документы. Например, сохранилась телеграмма с жутковатой просьбой иркутских руководителей разрешить увеличить квоту на число расстрелянных еще на четыре тысячи человек. Резолюцию одобрения, кроме Сталина, Молотова, Кагановича и Ежова, обязательно поддержал и Ворошилов.
«Великий террор» второй половины 30-х годов с особой жестокостью обрушился на военные кадры Советского государства». Лучшая часть руководящих кадров Красной Армии оказалась в «трудовых» концлагерях. С достаточной точностью можно считать, что погибло от 25 до 30 тысяч кадровых командиров и военно-политических работников Красной Армии и Флота. В 1935 году звание маршала присвоили пяти военачальникам: Ворошилову, Буденному, Блюхеру, Тухачевскому и Егорову. Но через два года Блюхер, Тухачевский и Егоров были расстреляны как «враги народа». «Из комсостава 1935 года во время террора погибли: из 16 командармов 1-го и 2-го ранга – 15, из 67 комкоров – 60, из 199 комдивов репрессировано 136, из 397 комбригов – 221. Из четырех флагманов флота погибло четверо, из шести флагманов 1-го ранга – шестеро, из 15 флагманов 2-го ранга – девять. Погибли все 17 армейских комиссаров 1-го и 2-го ранга, а также 25 из 29 корпусных комиссаров. Из 97 дивизионных комиссаров было арестовано 79, из 36 бригадных комиссаров – 34. Была арестована третья часть военкомов полков.
Какова роль Клемента Ворошилова в этом преступном истреблении военных? Конечно, он не составлял списки для арестов и расстрелов. Вполне достаточно было, что он давал санкцию на них и подписывал большую часть списков вместе со Сталиным и Ежовым. Совершенно очевидно, что никто из видных военачальников не мог быть арестован без ведома и согласия наркома обороны. Именно Ворошилов способствовал разжиганию шпиономании в армии и на флоте. В общей сложности, лучше было, чтобы такой человек, как Климент Ефремович вовсе бы не рождался. Вся его дальнейшая жизнь связана с чередой преступлений. За его подписью были осуждены и расстреляны более 18 000 выдающихся людей страны. Именно с его поддачи в стране царила атмосфера подозрений и бесконечных доносов. В должности Народного комиссара обороны он принимал активное участие в репрессиях против командного состава Красной Армии. Его подпись «АРЕСТОВАТЬ. К. В.» стоит на списке из 142 высших командиров. «Арестовать» значило расстрелять.
Репрессии нанесли страшный урон боеспособности РККА, обескровили ее кадровый состав, но это не помешало Ворошилову, выступая 23 марта 1939 года перед военными – делегатами XVIII съезда ВКП(б), заявить: «Мы, в основном, уже очистились от шпионской мрази, но у нас агенты гестапо еще имеются, но у нас агенты гестапо еще имеются».
История сохранила случай, когда Ворошилов выступал в роли прямого соучастника репрессивных органов. Примером тому служит гибель первого заместителя наркома обороны И.Ф. Федько (1897–1939), занявшего этот пост после расстрела Тухачевского. Именно Ворошилов дал команду своему заму прекратить сопротивление и «временно» подчиниться работникам НКВД. Вскоре Федько был расстрелян по списку, который подписали не только Сталин и Ежов, но и Ворошилов.
Второй случай пособничества Ворошилова относится к аресту и последующему уничтожении маршала В.К. Блюхера (1890–1938). Со слов жены Г.Л. Блюхер «…нарком Ворошилов предложил «отдохнуть» Блюхеру В.К. с семьей на его личной даче «Бочаров ручей» в Сочи. И там, в роскошной по тем временам «ловушке», были арестованы Василий Константинович Блюхер, затем я, затем брат В.К. Блюхера – Блюхер Павел Константинович, капитан ВВС…». Некоторых из военных атташе СССР за границей вызывали в Москву на прием к Ворошилову, и их арестовывали в приемной наркома обороны, и, как водится, с его согласия и одобрения.
В результате массовых терроров и репрессий Красная Армия необычайно ослабла. В результате потери первоклассного в составе высших советских кадров снизилась дисциплина в армии. Теперь солдаты и младшие командиры переставали доверять старшим командирам. Сейчас выдвижение новых кадров происходило просто по анкетным данным. Например, командиры взводов становились командирами батальонов, а то и полков, а командиры полков и батальонов – командирами дивизий. Реально была парализована на три года деятельность военных академий и ослабла военно-инженерная и конструкторская работа. Наиболее важнейшие начинания прежних командующих были прекращены. Было прекращено формирование партизанских баз в западных областях, остановилось строительство оборонительных рубежей вдоль прежней государственной границы. Хотя армия численно увеличивалась, но число полков, дивизий, армейских соединений не хватало. К тому времени началась Вторая мировая война.