После короткой оперативной паузы войска 1-го Украинского фронта перешли в новое наступление. Для 60-й армии было определено направление на Тернополь. В условиях сильнейшей распутицы корпус Людникова совершил 150-километровый марш и в последний день марта, после сильной авиационной и артиллерийской подготовки, начал штурм. Однако взять с ходу сильно укрепленный город не удалось. Численность Тернопольского гарнизона составляла около 16 тысяч человек, среди которых были части СС и штрафные батальоны. Они хорошо подготовились к обороне этого крупного транспортного узла, имевшего для них огромное значение. Лишь 15 апреля, после ожесточенных уличных боев, город был освобожден[100].
В апреле 1944 года командарм Черняховский был вызван в Москву, где, как считали многие соратники, его ожидает новое назначение. Перед своим отъездом Черняховский намекнул Людникову, что скоро состоится их новая встреча. Так и случилось — Черняховский был назначен командующим 3-м Белорусским фронтом, а в конце мая 1944 года, не без его участия, Людников был утвержден командующим 39-й армией, входившей в состав этого фронта.
Прежде чем вступить в должность, Людников ознакомился с документами специальной комиссии Государственного Комитета Обороны СССР, которая разбиралась в причинах затянувшейся полосы неудач 39-й армии. Поздней осенью 1943 года армия подошла к Витебску, но взять город не смогла и с тех пор топталась на месте. В феврале 1944 года командование армии провело несколько наступательных операций, окончившихся очень неудачно. Понесенные при этом большие потери и безуспешные бои на протяжении длительного времени отрицательно сказались на моральном состоянии войск. Следовательно, считал Людников, ему необходимо не только готовить подчиненных к новому наступлению, но и вернуть им веру в свои силы и в возможность разгромить врага.
Перед 39-й армией стояла задача нанести удар южнее Витебска и во взаимодействии с соседями — частями 1-го Прибалтийского фронта — окружить и уничтожить немецкие войска в этом районе и овладеть городом. После многократных рекогносцировок и подготовительной работы Людникова со своим новым штабом и командирами всех рангов под его руководством был разработан план, в основе которого лежал замысел по отвлечению внимания противника от направления главного удара, где удалось обеспечить значительный перевес в живой силе и технике. 22 июня перешла в наступление соседняя 5-я армия, которой командовал генерал-полковник Н. И. Крылов, хорошо знакомый Людникову по Сталинграду. Ранним утром 23 июня Людников приказал начать артподготовку в полосе своей армии, во время которой плотность огня на узком участке прорыва составляла 120 стволов на километр фронта. Эффективность действий нашей артиллерии и успешно осуществленная скрытность проведения операции позволили частям 39-й армии ранее запланированных сроков окружить Витебскую группировку противника. 26 июня, сломив яростное сопротивление немцев, наши части освободили Витебск.
Противник пытался вырваться из окружения, создавая сильные группы численностью в несколько тысяч человек с танками и артиллерией. Однако части 39-й армии в ходе тяжелых боев не выпустили противника из котла, уничтожив большинство окруженных частей. 27 июня по предложению Людникова через радиоустановки немцам был передан ультиматум с предложением сложить оружие, после чего они начали сдаваться. С Витебской группировкой было покончено. В ходе этой операции вермахт потерял 20 тысяч человек убитыми и почти столько же пленными[101].
В июле — августе 1944 года 39-я армия влилась в состав 1-го Прибалтийского фронта и участвовала в изгнании немецких войск с территории Литвы и освобождении городов Шяуляя, Паневежеса. Каунаса. В интересах достижения общего успеха, в последующие несколько месяцев 39-я армия несколько раз переходила из «своего» 3-го Белорусского фронта в 1-й Прибалтийский и обратно. В сентябре армия Людникова получила приказ провести важную Таурагскую операцию, целью которой являлся разгром немецких войск у города Таураге, прикрывавших пути в Восточную Пруссию с северо-восточного направления. После тщательной разведки, проведенной по указанию Людникова, выяснилось, что оборона врага не имеет оперативных резервов. Как и в Витебском сражении, было принято решение нанести мощный удар на ограниченном участке. Артиллерийские позиции врага на высотах было намечено подавить «Катюшами».
Перед началом сражения на КП к Людникову прибыли представитель Ставки маршал Советского Союза А. М. Василевский, командующий фронтом генерал-полковник И. Д. Черняховский, член Военного совета фронта генерал-лейтенант А. А. Макаров, маршал артиллерии М. Н. Чистяков, генерал-полковник авиации Т. Т. Хрюкин. Присутствие такого количества видных военачальников дает представление о том, какое значение придавалось готовящейся операции.