По окончании боев в Крыму 1-ю Конную перебросили в Екатеринославскую губернию, где продолжали бесчинствовать махновцы. Не следует думать, что после успешных сражений с регулярными войсками белых и поляков конармейцам ничего не стоило покончить с махновцами. Борьба с бандами — особый, нелегкий вид военных действий, требующий и специальных методов, и немалых усилий. К тому же и бандитский «батько» Махно был недюжинным противником. С конца ноября 1920 года буденновцы неотвязно гонялись за махновцами, окружали, громили, уничтожали, брали в плен, но неизменно сам Махно с ближайшими соратниками уходил. Через несколько дней вокруг него вновь собиралась немалая банда, и все начиналось сначала…
12 декабря 1920 года по инициативе Ворошилова был проведен первый съезд бойцов 1-й Конной. Делегаты съезда обсудили вопросы усиления боевой и политической учебы, обязались участвовать в налаживании мирной работы.
О борьбе с бандитизмом, о социальных причинах, порождающих его, Ворошилов и Буденный разговаривали с Лениным 22 декабря 1920 года в Москве на VIII Всероссийском съезде Советов. Поздравив конармейцев с победой над Врангелем, Ленин поинтересовался, как идет ликвидация банд Махно. Ворошилов и Буденный ответили, что это очень трудное дело, так как Махно, кроме кулачества, поддерживают и некоторые средние крестьяне, недовольные продразверсткой.
Уже тогда вождь Советского государства обдумывал, вырабатывал новый подход к вопросам экономики. Встречи с местными партийными работниками, беседы с ними помогали Ленину уяснить, выработать принципы новой политики, которая призвана была покончить и с экономическими трудностями страны, и с бандитизмом.
Между тем на Украине погоня за Махно продолжалась, и в этой погоне красноармейцы нередко несли потери. Об одной такой жертве Ворошилов и Буденный узнали сразу же по возвращении в 1-ю Конную: 3 января 1921 года вместе с группой командиров погиб от руки махновцев начдив-14 А. Я. Пархоменко. Это была невосполнимая утрата, особенно для Ворошилова, с которым Пархоменко бок о бок прошел все испытания гражданской войны. Сколько раз, презирая смерть, шел этот храбрец в огонь, и вот теперь… Очевидец рассказывал, что, услышав о гибели боевого товарища, Ворошилов схватился за голову и долго сидел, повторяя шепотом:
— Пархоменко, Пархоменко зарубили! Как же это? Вот ведь…
В Екатеринославском театре во время траурного заседания Ворошилов произнес прочувствованную речь, завершив ее словами:
— Жизнь Пархоменко как прекрасная сказка… Память о своем боевом товарище Ворошилов сохранил навсегда и трогательно заботился о сыновьях Пархоменко. Разоренная страна голодала. Такая крупная масса людей и лошадей, какой была 1-я Конная, не могла не испытывать серьезнейших затруднений в продовольствии и фураже. На месте устранить эти затруднения было просто невозможно, и Ворошилов думал добиться помощи армии в Москве, куда он выехал, будучи избран делегатом на очередной, X съезд партии.
На первом же заседании 8 марта 1921 года Ворошилов был избран в Президиум съезда. Внимательно слушал он отчет Ленина о политической деятельности ЦК и развернувшиеся прения. На пятом заседании 10 марта Ворошилов был председателем. Но в этот же день ему пришлось оставить Москву.
Еще 2 марта в Кронштадте начался контрреволюционный мятеж. Первая попытка подавить его, предпринятая 8 марта, не привела к успеху. На закрытом заседании съезда по инициативе В. И. Ленина было принято решение послать большую группу делегатов и гостей под Кронштадт. Здесь было много военных специалистов — командиров и комиссаров, активно участвовавших в войне: Я. Ф. Фабрициус, И. Ф. Федько, В. П. Затонский, А. С. Бубнов, И. С. Конев и другие. Возглавил эту группу (около 280 человек) Ворошилов.
В ночь на 11 марта делегаты выехали в Питер. Вновь после долгого перерыва видит Ворошилов этот город. Тяготы гражданской войны разительно сказались на нем. Город пуст, усталость царит на лицах редких прохожих, усталость и голод. Только что на предприятиях Петрограда окончились беспорядки — «волынки» — на почве продовольственных затруднений.