Императору пришлось затем обновить руководство в трех епископствах на севере Италии: Милане, Равенне и Аквилее. Особенно тяжелой потерей для императора оказалась смерть его сводного брата, архиепископа Равенны – Арнульфа. Он скончался 17 ноября 1019 года. За исключением архиепископства Милан, принятого архиепископом Арибертом, представителем североитальянского дворянства, оставшиеся два епископства были переданы под управление немецким клирикам. В Аквилее обосновался Поппо, из баварских дворян, в Равенне – Гериберт, ранее никому не известный священник.
Осенью 1019 года в Страсбурге император созвал большой рейхстаг, на который прибыли представители всех поддерживающих Германию сил из Италии. Принимались законы, ужесточавшие действовавшие в Италии правила.
Осенью 1021 года настал тот крайний срок, после которого не выполнить данное папе Бенедикту VIII обещание было бы уже неприлично. Настал момент отправиться с войском в Италию. 13 ноября император прибыл в Аугсбург. Переход через перевал Бренер в это время года, должно быть, оказался слишком сложным, так как в Вероне императорский караван оказался лишь 6 декабря 1021 года. Здесь все представители прогермански настроенных партий Италии торжественно приветствовали императора. Пребывание в Вероне император начал с заседания суда в монастыре Сан-Зено.
Из Вероны караван, усиленный итальянским войском, направился через Мантую в Равенну, где отметили Рождество. Здесь император дал войскам передышку. И лишь в январе 1022 года Генрих II покинул Равенну.
Мощь императорского войска к этому моменту непомерно усилилась. Генриху II пригодился опыт, полученный им в то время, когда он, еще будучи герцогом Баварии, ходил в походы вместе с Оттоном III. Он разделил войско на три колонны, чтобы в достаточной степени обеспечить солдат продовольствием и по возможности распределить нагрузку в обеспечении войск местным населением равномерно по территории страны. Архиепископ Аквилеи Поппо получил сложнейшее поручение: ему надлежало со своей частью войска пройти через центральную часть Апеннинского хребта. Архиепископ Кельнский, Пилгрим, повел своих солдат, преимущественно людей из Лотарингии, вдоль побережья Тирренского моря через Рим на Капую. Сам император выбрал восточный маршрут и тронулся по побережью Адриатики на юг.
Не встретив на своем пути сопротивления, император достиг Биферно при Термоли. Отсюда он переправился через отроги Апеннин и 3 марта 1022 года вступил в Беневент. Беневент состоял тогда из двух разных частей: античной римской и новой лангобардийской.
На подходе к Беневенту корпус, ведомый архиепископом Поппо, соединился с главными силами. Папа Бенедикт VIII тем временем тоже находился рядом с императором. Третье войско под предводительством архиепископа Пилгрима тем временем остановилось в Монте-Кассино, чтобы наказать аббата Арнульфа, примкнувшего к грекам. Но аббат своевременно скрылся в Отранто и, снарядив там корабль, отбыл в Константинополь. Однако удача покинула аббата: его корабль попал в сильный шторм и затонул 30 марта 1022 года. Все находившиеся на борту погибли.
Из Монте-Кассино Пилгрим достиг находившейся в пятидесяти километрах Капуи, намереваясь привлечь там к ответу брата аббата Арнульфа – князя Пандульфа, тоже на всякий случай перешедшего на сторону греков. Князь Пандульф не стал сопротивляться и был взят в плен. Затем Пилгрим подошел к Салерно. Четырнадцать дней он осаждал сильно укрепленный город, прежде чем к нему явился князь Веймар с обещанием подчиниться императору. Своего сына – тоже Веймара – князь выставил в качестве заложника. Примеру Веймара последовал князь Неаполя, также сдавшийся без боя. Архиепископ Кельнский Пилгрим полностью выполнил приказ и присоединился к основным силам, тем временем выступившим из Беневента на Трою для осады сильной греческой крепости. В середине апреля туда прибыл император.
Крепость Троя расположена на высокой горе, с трех сторон отвесно обрывающейся в пропасть. Лишь с востока представлялось возможным захватить город по наклонно восходящему вверх плато. Впрочем, упомянутое плато являлось довольно узким, поэтому наступление широким фронтом исключалось. Подход к городу с наиболее уязвимой стороны надежно защищали крепостные стены и рвы. Оборонительные рубежи и естественные преграды делали крепость почти неприступной с учетом развития военной техники Средневековья. Осада продолжалась два месяца, прежде чем город сдался. Время поджимало: Генрих II хотел избежать долгого пребывания в южных районах в жаркое время года. Среди воинов уже отмечались первые случаи малярийной лихорадки. Стремясь предотвратить эпидемию в войсках, император отказался закреплять победу полным уничтожением города и отдавать его на откуп солдатам и увел их оттуда. Но уже спустя два года троянцы восстановили город и снова перешли на греческую сторону.