Результаты начатых еще в 1961 г. маловьюотных испытаний ракеты с экспериментального Як-28П потребовали ее доработки в части адаптации параметров автопилота для полета на больших скоростных напорах и упрочнения узлов крепления крыла. Соответствующая документация была разработана в 1962 г., что позволило в том же году начать летные испытания ракет. Усовершенствованная ракета с автопилотом АПС-8-24МЗ и доработанным взрывателем получила обозначение Р-8М-1. Новый автопилот предусматривал настройку параметров под два диапазона высот: свыше 8 км или ниже, до высот 500 м. Ракета Р-8М-1 отрабатывалась на одном из первых Су-11 — самолете Т-47-7, с которого в 1963 г. было выполнено пять пусков. Минимальная высота поражаемых целей для тепловых ракет снизилась до 500 м, но «радийные» ракеты можно было применять только на высотах более 5 км.
В ходе проведения государственных испытаний на Як-28П подтвердилась высокая точность ракет с ТГС: удалось успешно сбить три мишени Ил-28. Однако при пусках ракет с «радийной» головкой выявилась склонность к уходу ракеты к земле на ложную цель из-за влияния отражения подстилающей поверхности. Было признано, что при применении на высотах менее 3000 м не удастся обеспечить заданную вероятность поражения.
На завершающей стадии государственных испытаний Як-28П проводили пуски как К-8М-1, так и последующей модификации К-8М-2, получившей в дальнейшем наименование К-98.
Уже в начале государственных испытаний стало ясно, что по скоростным и высотным характеристикам яковлевский перехватчик существенно уступает Су-11. Однако теоретически двухдвигательное исполнение сулило большую безопасность. Ведь всего за полтора года в начале эксплуатации еще немногочисленного парка Су-9 и оснащенных тем же двигателем АЛ-7Ф Су-7 было потеряно 23 машины. С другой стороны, при подкрыльевом размещении широко разнесенных двигателей Як-28 и применении велосипедного шасси внезапный отказ даже одного из них на взлете или посадке грозил печальными последствиями. Бесспорно, наличие второго члена экипажа облегчало работу летчика, что было особенно важно при пилотировании вблизи земной поверхности. РЛС «Орел-Д» имела большую антенну по сравнению с радиолокатором на Су-11 и, соответственно, увеличенные дальности обнаружения цели и ее захвата на автосопровождение.
Як-28П-самолет, в самом облике которого наглядно отражена принадлежность к 1950-м гг., а не к середине 1960-х гг., когда он и был принят на вооружение. Хотя на одной из опытных машин с нештатными двигателями удалось развить скорость 2250 км/ч, в серийном исполнении по скоростным и высотным возможностям он резко уступал Су-9, Су-11 и МиГ-21, машинам, поступившим в части еще в начале десятилетия. Кроме того, даже приличная для начала 1960-х гг. скорость 1810 км/ч набиралась очень медленно и достигалась чуть ли не к концу полета. При эксплуатации были введены ограничения по скорости: на высотах более 7 км из-за опасения флаттера, ниже — по причине реверса элеронов. Специально для Як-28П пришлось придумать новое название «перехватчик средних и малых высот». Комплекс с Як-28 предназначался в основном для применения на средних и малых высотах и рассматривался как дополнение к высотным перехватчикам Сухого. Почти повторяя по радиоэлектронному и ракетному вооружению Су-11, Як- 28П обладал только двумя реальными преимуществами — в полтора раза большей дальностью и наличием на борту второго члена экипажа. Однако все эти достоинства в куда большей мере воплотились в Ту-128.
Показательна разработка самолета Як-28-64 — своего рода гибрида крыла яковлевского перехватчика с фюзеляжем, максимально приближенным к Су-15. Доступ к техдокуметации по новому суховскому самолету проблемы не представлял: достаточно было сыну Александра Сергеевича посетить «коммунальную квартиру» двух конструкторских фирм — серийный новосибирский завод. Поскольку такой гибрид ставил под сомнение оптимальность технических решений по штатному Як-28П, первый Як-28-64 переделали из серийного Як-28П № 0404 и представили как прототип самолета Як-28Н-носителя еще не существующих ракет X-28 для поражения наземных РЛС. До конца 1964 г. самолет успел совершить пять полетов на заводских испытаниях, начатых 5 ноября. Началась и отработка истребительного варианта Як-28-64П, переделанного из серийного Як-28П № 0903. Однако технический компромисс — Як-28-64П — оказался даже хуже исходных вариантов Як-28П. Да и дальнейшая отработка комплекса с Х-28 велась на другом Як-28Н с подкрыльевым размещением двигателей, переделанном после 1965 г. из серийного бомбардировщика Як-28И.
В целом Як-28П не удовлетворял требованиям военных и не был официально принят на вооружение. Однако на заводе № 153 в Новосибирске с 1962 по 1967 г. было выпущено 432 (по другим данным, 443) Як-28П.