Выписавшись из госпиталя, Яков Федотович пытался вернуться в родную гвардейскую дивизию, но не удалось — к этому времени сталинградцы ушли далеко на запад. Сначала он попал в запасной полк, а затем в 288-й истребительно-противотанковый артиллерийский полк 19-й отдельной истребительной противотанковой артиллерийской бригады Резерва Ставки ВГК. Спустя некоторое время Яков Павлов прочитал в газете про «Дом Павлова» и своих боевых товарищей. Когда он пришел к заместителю полка по политчасти с газетой, то замполит отнесся с недоверием к тому, что боец его полка и есть тот самый Павлов, который оборонял дом в Сталинграде. Он пожелал Павлову думать о будущих подвигах на фронте.
В 1944 году в Житомире Павлов вновь попал в госпиталь с сугубо мирной болезнью — малярией, что вызывало у него отчаянную досаду. И здесь, в госпитале, ему опять попались газетные статьи о «Доме Павлова». Имея неудачный опыт обращения к военному начальству, вернувшись в полк, он дал почитать статьи в газетах своему командиру взвода. Взводный, в свою очередь, посоветовал молчать, так как самозванство в военное время чревато последствиями. Дав такой совет, взводный тем не менее написал письмо-запрос генералу Родимцеву.
Тем временем Яков Павлов храбро сражался в рядах 288-го истребительно-противотанкового артиллерийского полка, который входил в состав 3-го Украинского фронта и вместе с ним двигался на запад. В январе 1944 года Павлов подбил немецкий танк и был награжден еще одной медалью «За отвагу» (приказ командира 288-го ИПТАП № 02/Н от 20 января 1944 года), получил премию в 500 рублей и отпуск на родину. Во время краткосрочного отпуска, находясь дома, Яков узнал от матери о том, что его разыскивает генерал Родимцев. После возвращения в полк Павлов передал письмо генерала, полученное матерью, командованию.
Яков Федотович продолжал доблестно воевать, о чем свидетельствует выписка из наградного листа от 17 мая 1945 года о представлении его к ордену Красной Звезды: «…Тов. Павлов в бою с немецко-фашистскими захватчиками с 21 по 23 апреля во время форсирования р. Одер и завоевания плацдарма на ее западном берегу проявил себя мужественным и стойким.
21.04.45 года, когда батарея отбивала яростно наседавшего противника, видя, что снаряды на исходе, старшина организовал поднос снарядов, чем обеспечил успех и благоприятный исход борьбы. В этот день батарея отбила 13 вражеских атак. 22–23.04.45 г. батарея сопровождала огнем и колесами наступавшую пехоту. Старшина организовал и руководил подносом снарядов, не отставая от пушек, которые двигались с боевыми порядками пехоты. 24.04 в ночной атаке немцев на наши позиции из личного оружия уничтожил до 15 гитлеровцев. За проявленную смелость и умелую организацию по бесперебойному снабжению батареи снарядами старшина Павлов достоин правительственной награды — ордена Красной Звезды».
Бой за город Штеттин стал последним для Якова Павлова: пришла Победа, война была окончена. Накануне демобилизации Павлова вызвал командир полка. Подходя к штабу, Яков увидел, что полк парадно построен. Встав на свое место, он услышал: «Полк, смирно! Защитник дома Павлова в Сталинграде гвардии старшина Павлов — к знамени!» После того как полк прошел церемониальным шагом у знамени, героя Сталинграда вместе с комсоставом пригласил к себе командир. Попрощавшись с Павловым, он передал ему пакет со словами: «Поедешь с ним к генералу Чуйкову, вручи пакет ему лично».
На следующий день Яков Федотович отправился в штаб дивизии получать демобилизационные документы, а затем — к В. И. Чуйкову. Командарм его сразу узнал. Из воспоминаний Я. Ф. Павлова: «Где же ты был? Я тебя всю войну искал. — Воевал, Василий Иванович». Узнав о планах Павлова вернуться на родину, на Валдай, Чуйков предложил ему остаться в армии, сказав, что его боевые заслуги теперь известны всему миру. На что Яков ответил: «По натуре я человек сугубо штатский. Это ведь только война заставила меня взять оружие». Однако он не сразу отправился домой, на какое-то время ему пришлось остаться в распоряжении Чуйкова, который отправил на Павлова представление к присвоению звания Героя Советского Союза. Когда документы пришли, Чуйков от имени Верховного Совета СССР вручил Я. Ф. Павлову медаль «Золотая Звезда» и орден Ленина за подвиги, совершенные в Сталинграде.
Летом 1946 года, впервые после окончания Сталинградской битвы и Великой Отечественной войны, Я. Ф. Павлов приехал в Сталинград. Еще на вокзале он увидел, как французскую военную делегацию встречает девушка-экскурсовод, и слышал, как французские полковники наперебой повторяют: «Павлов», «Павлов». Яков Федотович пристроился к группе, предположив, что они идут на экскурсию к «его» дому. Во время экскурсии, услышав от девушки-экскурсовода, что этот дом советские бойцы и командиры обороняли 58 дней, иностранцы сильно удивились и, не очень поверив ей, воскликнули: «Не может быть! Вся Франция сопротивлялась 38 дней».