15 ноября 1943 года Новотны сбил 255-й самолет и это была его последняя победа на Восточном фронте. В дальнейшем его назначили на должность командира экспериментального полка, оснащенного Me 262 и носящего его имя. Восстановить в точности события, имевшие место 8 ноября 1944 года в небе над городом Ахмером, в результате которых Новотны был сбит и погиб, очевидно никогда не удастся.
«Зеленые сердца» потеряли в бою «только одного своего командира. Этим неудачником стал оберст-лейтенант Губертус фон Бонин, сбитый 15 декабря под Витебском. Фон Бонин, принявший командование JG 54 из рук оберста (полковник) Траутлофта в июле, за всю свою карьеру сбил 77 самолетов, в том числе четыре победы он одержал в небе Испании. На место фон Бонина встал майор Мадер (Mader), который прежде возглавлял JG 11, сражавшийся на Западном фронте.
В середине января 1944 года на северном участке Восточного фронта, который столь долго находился в спячке, внезапно началось крупное наступление Красной Армии. 21 января советские части заняли Мгу, прорвав тем самым кольцо блокады вокруг второй столицы. I./JG 54 и II./JG 54 в спешном порядке были отозваны, соответственно, с центрального и южного участков фронта. Прибыв на свои прежние места дислокации, летчики вскоре поняли, что остановить наступление противника не удастся, как это не удавалось на Украине. Ведя бои JG 54 отступал через Прибалтику примерно с той же скоростью, с какой в 1941 году продвигался вперед.
К февралю I./JG 54, который возглавил гауптман Хорст Адемайт (Ademeit), базировался в эстонском городке Везенберг. В марте I. и II./JG 54 соединились в Дерпте (Тарту) и Печуре (Пецери), к западу от Чудского и Псковского озер. В это время потери в обоих дивизионах были минимальны, а успехи значительны. 23 марта лейтенант Альбин Вольф (Wolf) сбил свой 135-й самолет, который стал 7000-м самолетом противника, сбитым летчиками JG 54. Спустя десять дней Вольф, занимавший пост командира 6./JG 54, погиб от прямого попадания зенитного снаряда в его самолет в районе Пскова. За эти десять дней Вольфу удалось сбить еще девять самолетов противника, доведя таким образом свой боевой счет до 144 побед, а ведь это именно Вольф говаривал, что Fw 190 «приземляется как мокрый мешок»!
В июне 1944 года началось наступление Красной Армии в Белоруссии, в результате которого прибалтийская группировка немецких войск оказалась отрезанной от основных сил. В то же самое время Красная Армия перешла в наступление на Карельском фронте. I./JG 54 перебрался из Эстонии в Латвию, а 1./JG 54 отправился в Турку, для прикрытия с воздуха немецких кораблей, находящихся на Северной Балтике. II./JG 54 (командир — майор Эрих Рудорффер (Rudorffer)) в полном составе также отправился в Финляндию, где вошел в состав Gefechtsverband Kuhlmey (боевой группы), до этого состоявшей из пикировщиков Ju 87 и Fw 190 в варианте истребителя-бомбардировщика. В течение нескольких месяцев, проведенных в северной Карелии (Иммола) II./JG 54 сбил 66 советских самолетов.
Сюрпризом оказалось прибытие на Восточный фронт омоложенного и пополненного IV./JG 54. После того как этот летавший на Bf 109 дивизион отступил в Румынию, его отвели с фронта, оснастили Fw 190A-8 и включили в систему Обороны Рейха. В это время дивизион насчитывал четыре эскадрильи по 16 машин в каждой. Однако в верхах было решено, что присутствие IV./JG 54 более необходимо на Восточном фронте и дивизион прибыл 30 июня на советско-польскую границу, чтобы оказать прикрытие отступающих сухопутных частей вермахта. Возглавлял IV./JG 54 майор Вольфганг Шпетелатер (Spetelater), который сумел прославиться, возглавляя JG 400, оснащенную Me 163 «Komet». На востоке IV./JG 54 пробыл два месяца, понес тяжелые потери и в начале сентября был снова отведен в тыл.