Подростком Яков начал работать в колхозе: возил почту на несколько деревень, доставлял молоко на «сливной пункт», окончил курсы колхозных бухгалтеров. В 1938 году счетовод Павлов был призван в Красную армию. Как и многие мальчишки своего времени, Яков мечтал стать летчиком, покорителем небес. Отборочная комиссия при распределении учла детскую мечту, но в школу летчиков Павлов так и не попал, его направили для прохождения службы на должность заведующего складом вещевого снабжения на одном из аэродромов на западе страны. Здесь, в районе Ковеля, в этой должности его застало начало Великой Отечественной войны. С июня 1941 года эта территория оказалась в зоне ответственности Юго-Западного фронта.
Видя, как войска захватчиков стремительно продвигаются по территории родной страны, по словам Якова Федотовича, он не мог дольше оставаться завскладом. Ему удалось добиться отправки на курсы, вскоре он получил звание сержанта и стал командиром стрелкового отделения.
В 1942 году Павлов был переведен в 42-й гвардейский стрелковый полк 13-й гвардейской дивизии генерал-майора А. И. Родимцева. В июле-августе 1942 года старший сержант Я. Ф. Павлов находился в городе Камышин, где быстрыми темпами шло переформирование дивизии. Здесь он принял командование пулеметным отделением 7-й роты 3-го батальона своего полка.
Когда в сентябре 1942 года Сталинградская битва шла уже на улицах города, ожесточенные бои шли за каждый дом, за каждый этаж, за каждую лестничную клетку. Рассчитывая прорваться к Волге в районе площади 9 января, немецкое командование постоянно подтягивало сюда дополнительные силы. В этой ситуации важное стратегическое значение приобрел наименее пострадавший после артобстрелов и бомбежек четырехэтажный жилой дом, с верхних этажей которого хорошо просматривается центральная часть города и проходы к Волге. Пулеметное отделение Павлова еще с 18 сентября обстреливало захваченный к этому времени немцами жилой дом. Перед командованием 42-го гвардейского стрелкового полка была поставлена задача выбить противника из удобного опорного пункта. Для выполнения задания была создана разведгруппа из четырех человек во главе с сержантом Яковом Павловым. В ее состав также вошли рядовые Н. Я. Черноголов, В. С. Глущенко и А. П. Александров. При попытке добраться до дома, когда разведчики по-пластунски переползали прилегающую к нему асфальтированную улицу, они попали под шквальный огонь противника. Тем не менее, несмотря на постоянный обстрел, к вечеру 27 сентября бойцы все же сумели пробраться в нижние этажи дома.
Вооружение четверки разведчиков состояло из автоматов, ножей и гранат. Осторожно, шаг за шагом, разведчики знакомились с домом и оценивали обстановку. В первом подъезде в подвале они обнаружили жильцов верхних этажей, лица которых выражали неподдельное изумление при виде наших бойцов. Эти люди и помогли гвардейцам правильно сориентироваться и определить местонахождение немцев в доме — первый этаж второго подъезда. Пробравшись в указанное место, за дверями двух квартир разведчики услышали немецкую речь. Распахнув одновременно обе двери, они действовали так, как положено штурмовым группам, как уже неоднократно им приходилось бить врага в сталинградских развалинах, — забросали немцев гранатами, ворвались в комнаты, полные дыма и пыли, и дали несколько автоматных очередей.
В подвале второго подъезда бойцы также обнаружили жильцов дома. Среди них Павлов увидел знакомое лицо — это был санинструктор 13-й гвардейской дивизии С. С. Калинин, который оказывал помощь раненым. Он подтвердил, что жители рассредоточены в подвалах, а немцы располагались лишь во втором подъезде. Тем не менее пав-ловцы обошли все здание и сами убедились, что оно полностью в их руках. Главная задача по разведке обстановки в доме группой была выполнена. Но Яков Федотович вполне логично предположил, что немцы вскоре предпримут попытку вернуться в дом. Необходимы были дальнейшие указания командования. Кроме того, у разведчиков почти не оставалось боеприпасов. Нужно было во что бы то ни стало связаться с командным пунктом полка, который находился в здании мельницы. Как доставить донесение? Остаться втроем было рискованно. Павлов принял решение отправить с донесением к комбату А. Е. Жукову санинструктора Калинина. Разведчикам оставалось только ждать: дойдет Калинин до командного пункта или нет?