Следующее десятилетие истории полка связано с эксплуатацией Як-28. Накануне переучивания на МиГ-23М (1975 г.) полк имел в своем составе первую и вторую эскадрильи на Як-28П и третью на МиГ-21МТ с прицелами ЦД-30. Эти МиГ-21МТ были выпущены в 1971 году на московском заводе «Знамя труда» малой серией специально для полёта «парадной эскадрильи» во Францию на праздник полка «Нормандия-Неман». МиГ-21МТ представлял собой упрощенную версию МиГ-21СМТ с увеличенным по сравнению с МФ на 2950 л запасом топлива: планер и двигатель были новые, а радиолокационное оборудование – из того, что поставлялось в «страны боевого содружества». Однако по каким-то политическим причинам визит не состоялся, и самолёты передали в 35-й иап.
В те годы через, полк фактически шла ротация лётного и технического состава из ПВО в ВВС и обратно, так как больше в ВВС уже нигде не оставалось самолётов Як-28П. Для офицеров ПВО это была единственная возможность, исключая службу на Крайнем Севере, получать приличные деньги.
Лётный состав на Як-28 в основном был первоклассный, из «зубров» ПВО, а на МиГ-21 в 1973-74 гг. летали выпускники летных училищ. 3-я аэ готовила лейтенантов в течении года, а затем передавала в другие полки уже лётчиками третьего класса. Инструктора (руководящий состав от командира звена и выше) в этой эскадрилье подобрались исключительные. Это были в основном «арабы», т.е. лётчики, принимавшие участие в арабо-израильской войне 1970 г., либо прошедшие подготовку к ней по «четырёхсотым» (специальная программа пилотажа и воздушного боя с тестированием на базе Мары). На 21-х летал командир полка Матвеев В.П., его первый заместитель п/п-к Бунин В.А. (воевал в Египте). Командир эскадрильи Халиков Реза Измайлович, замполит Н.Г.Онипченко, заместитель А.Виволанец, кэзы В.Баштовой и В.Сокол вместе бороздили небо Египта и были прекрасными лётчиками. Они могли не только рассказать, как летают под мостами, но и показать на практике. Это были люди, которые твердо знали, что именно нужно лётчику на войне. Два кэза Александр Толубаев и Анатолий Евсюков, хоть и не были на войне, но лётчиками тоже были крепкими. А.Толубаев впоследствии вписал свою страницу в историю авиации, когда в 1982 году спас МиГ-29 в Липецке.
В 1974 и 1975 годах полк потерял два самолёта Як-28. Когда в феврале 1975 года самые молодые лётчики из летавших на Яках крутанули бочку на этом аэродинамическом чуде и сорвались в штопор, они приняли единственное верное решение катапультироваться. За год до них бочку крутили опытные пилоты на меньшей высоте – их похоронили. Молодым повезло и в том, что они сделали ещё один правильный поступок: когда после катапультирования предстали перед глазами Командующего, то их чистосердечное признание вызвало поток мата, завершившийся практическим помилованием. Летчик С.Урбас ещё долго и успешно летал, а лётчик-оператор Макагон (который и крутил бочку из кабины оператора) был переведён в лётчики.
В 1974-75 гг. самолеты МиГ-23М почти одновременно поступили на вооружение в четыре полка трех истребительных авиационных дивизий 1б-й воздушной армии: 31-й гв.иап (Фалькенберг), 35-й иап (Цербст), 85-й гв.иап (Мерзебург) и 787-й иап (Финов-Эберсвальде). На тот период это была самая современная и сложная в эксплуатации авиатехника Группы советских войск в Германии. Первыми в 1974 году МиГ-23М получили в Мерзебурге и Фалькенберге полки 6-й гв.иад. Поступившие год спустя в Цербст машины уже отличались от них усовершенствованным двухступенчатым механизмом разворота! колеса МРК-30.
Переучивание полка на МиГ-23М началось в 1975 году. К этому моменту закончилась реконструкция полосы и рулежек в Цербсте и начался их ремонт в Фалькенберге. Поэтому фалькенбергцы тоже перелетели сюда (летный состав даже вместе с семьями), им отдали стоянки и ангар 1-й аэ, и два полка в большой тесноте летали день и ночь до конца 1978 года. Зато ускорился процесс передачи опыта. Первые МиГ-23М и перегоняли в Цербст из Луховиц уже освоившие этот тип лётчики фалькенбергского 31-го гв.иап.