26-й и 27-й отдельные гвардейские тяжелые танковые полки были укомплектованы и направлены в начале мая 1944 года на Ленинградский фронт, где приняли участие в Выборгско-Петрозаводской, а 31-й полк — в Нарвской операциях; противник располагал здесь хорошо оборудованными оборонительными позициями, а сама лесисто-болотистая местность летом была труднодоступной. Тем не менее 27-й полк к исходу 10 июня — первого дня наступления — продвинулся на 14 км вдоль Выборгского шоссе, затем с ходу прорвал вторую и третью полосы обороны и 20 июня овладел городом и крепостью Выборг, за что ему было присвоено почетное наименование Выборгский. В течение следующих 11 суток наступления полк продвинулся на 110 км, со средним темпом 10 км в сутки. Затем 26, 27, 31 и 76-й отдельные гвардейские тяжелые танковые полки были переброшены в Прибалтику. Здесь же принимали участие в наступательных операциях 3, 15, 32, 35, 64, 75 и 81-й полки. Особенностью боевых действий на этом направлении было отсутствие сплошной линии обороны у противника, но большие неприятности доставляла местность, изобилующая болотами, лесами и реками. Уже при переходе к району сосредоточения танкистам 64-го полка пришлось один за другим вытягивать на берег два ИС-2, затонувших при переходе небольших речек.
На танкоопасных направлениях немцы установили множество минно-взрывных заграждений. В 35-м полку только за 10 дней октября на минах подорвалось 9 ИСов (8 из них были быстро восстановлены силами полка). В ходе Таллинской операции с 17 по 26 сентября в 31-м полку подорвалось 13 танков, еще 6 были сожжены фаустпатронами. При наступлении на Мемель 16 октября в 75-м полку во время первой же атаки подорвались на минном поле три танка ИС-2.
За период проведения Таллинской операции с 17 по 24 сентября 26-м отдельным гвардейским тяжелым танковым полком было пройдено с боями свыше 620 км, уничтожено три танка, семь артиллерийских батарей и восемь минометных батарей. Полк потерял: пять офицеров и семь сержантов убитыми, сгоревшими — три танка, подбитыми — десять, четыре из их требовали капремонта.
Еще сложнее была обстановка в Восточной Пруссии. Ее оборонительные рубежи создавались многие годы, а фортификационными сооружениями служили специально оборудованные сельские дома, входившие в единые укрепленные районы. В этих условиях 16 октября 1944 года 81-й тяжелый танковый полк вел бой под Кляйн Дегезен, в ходе которого 6 танков ИС-2 получили от 12 до 19 попаданий, причем до 6 из них — сквозные пробоины. «Тигры» вели огонь из засад по флангам с расстояния 800—1200 м до тех пор, пока наши машины не загорались. Наиболее же ожесточенное столкновение произошло 20 октября, когда полк, наступая в направлении г. Шталлупенен, встретил упорное сопротивление закопанных в землю тяжелых танков и противотанковых орудий. В этом бою советские танкисты уничтожили три «тигра» и десять пушек, но и сами понесли большие потери — семь танков ИС-2 были сожжены и один подбит.
После ремонта и пополнения материальной части полк продолжил боевые действия в Восточно-Прусской операции. На 14 февраля в его составе имелся 21 исправный танк, одна машина требовала капитального ремонта и одна подлежала списанию.