Одновременно органы ОГПУ провели чистку центрального аппарата власти Чеченской республики, в ходе которой были выявлены пособники главарей бандформирований. Среди них оказались довольно крупные фигуры из числа высшего руководящего состава ЧечЦИКа. Они заранее оповещали бандитов о готовящихся действиях частей Красной Армии, распространяли среди населения провокационные слухи, в том числе об объявлении войны иностранными державами Советскому Союзу из-за операции на Северном Кавказе и т. д. В ряде районов Чечни представители органов самоуправления активно поддерживали бандитов и оказывали им содействие.[161]
Согласно плану, войска, разделенные на 5 групп, сосредоточившись на северной, восточной и западной границах Чечни, должны были одновременно двинуться к центру республики, разоружая население и осуществляя зачистку. Всего к операции привлекались силы численностью 4840 штыков и 2017 сабель при 130 станковых и 102 ручных пулеметах, 14 горных и 8 полевых орудиях. Кроме того, отряды ОГПУ имели в своем составе 341 человека из состава Кавказской Краснознаменной Армии и 307 человек из полевых войск и органов внутренних дел. Для поддержки с воздуха были выделены 3-й и 5-й авиационные отряды СКВО. Общее руководство операцией осуществлял командующий войсками СКВО И. Уборевич, а по линии органов госбезопасности — полпред ОГПУ по Северо-Кавказскому краю Е. Евдокимов.[162]
Операция началась 23 августа 1925 года. Наиболее сложная задача — разоружение Шароевского района, где скрывался имам Гоцинский — была возложена на группу войск, возглавляемую командиром 5-й кавалерийской дивизии И. Апанасенко и состоящую из 3-й бригады 5-й кавдивизии, 38-го стрелкового полка 13-й стрелковой дивизии, 82-го и 84-го стрелковых полков 28-й стрелковой дивизии (всего 1922 штыка и 480 сабель при 39 станковых пулеметах и 6 горных орудиях). Им противостоял род Атаби Шамилева, ближайшего сподвижника Гоцинского. Центром чеченской обороны был аул Зумсой. Готовясь к упорному сопротивлению, его жители были настроены столь решительно, что даже продавали свой скот для приобретения оружия и боеприпасов.
Тем не менее, после бомбардировки с воздуха, Зумсой был взят штурмом. Атаби Шамилеву удалось скрыться. После этого комдив Апанасенко предъявил ультиматум населению Шароевского района с требованием выдать Гоцинского. Требование не было выполнено, однако Апанасенко знал, что местные жители понимают лишь язык грубой силы, и действовал соответственно. 40 чеченских старейшин были взяты в заложники. За два дня на район сбросили 22 пуда бомб. Результат не замедлил проявиться — 5 сентября 1925 г. Гоцинский был выдан и позднее расстрелян по приговору тройки ПП ОГПУ Северо-Кавказского края.
7–8 сентября группа комдива Апанасенко разоружила население аулов Шали и Шатой.
Вторая группа во главе с командиром 28-й дивизии А. Козицким, состоявшая из бригады 5-й кавалерийской дивизии и 83-го стрелкового полка 28-й стрелковой дивизии (816 штыков и 500 сабель при 34 станковых пулеметах и двух горных орудиях), должна была ликвидировать банду шейха Ансалтинского, который вместе со своим сподвижником шейхом Каим Ходжи базировался в ауле Дай. Аул был блокирован и в течение нескольких дней подвергался артиллерийскому обстрелу и ударам авиации. 2 сентября шейх Ансалтинский сдался, после чего группа Козицкого продолжила зачистку в юго-западной части горной Чечни.
Подводя итоги зачистки горной Чечни, командование операцией докладывало: