Советское правительство, осуществляя сокращение Вооруженных Сил, руководствовалось идеями сохранения мира и дружбы между народами и надеялось, что его примеру последуют и западные державы. Но этим надеждам не суждено было оправдаться. Правительство США и их союзники начали «холодную войну», одновременно форсируя гонку вооружения и наращивая свои армии. Уже в 1949 году, то есть менее чем через год после завершения демобилизации армии, ввиду резкого обострения международной обстановки Советское правительство было вынуждено в интересах укрепления обороны страны пойти на увеличение численности армии.
Необходимость укрепления оборонной мощи и повышения боеспособности встала и перед народной армией Польши. Советский Союз, столь щедро помогавший Войску Польскому в годы войны и сразу после нее, и в этот период по-прежнему поставлял в Польшу вооружение, содействовал строительству оборонных предприятий. По просьбе польского правительства значительная группа советских военных специалистов, генералов и офицеров была направлена в Польшу и в течение длительного времени находилась на руководящих постах в Войске Польском.
Президент Польши Болеслав Берут неоднократно обращался к Советскому правительству с просьбой направить Константина Константиновича Рокоссовского в распоряжение польского правительства для службы в Войске Польском. Рокоссовский полностью предоставил решение этого вопроса Советскому правительству, и оно согласилось удовлетворить просьбу президента Польской Народной Республики. Рокоссовский был освобожден от военной службы в Советской Армии и выехал в Польшу. Так он надел мундир маршала Польши.
В первом своем приказе по Войску Польскому от 7 ноября 1949 года Рокоссовский писал: «Мне выпало на долю в течение многих лет служить делу трудящегося народа в рядах героической Советской Армии. Волею военной судьбы я был командующим тем фронтом, в составе которого героически сражались на славном пути от Ленино через Варшаву, Гданьск, Гдыню, Колобжег, Поморский Вал, вплоть до Берлина солдаты вновь возникшего Войска Польского, солдаты 1-й дивизии, а поздней и 1-й армии...
Во исполнение обязанностей, возложенных на меня Страной и Президентом, во исполнение обязанностей перед польскими трудящимися и польским народом, среди которого я вырос и с которым всегда чувствовал себя связанным всем своим сердцем, а также перед братским советским народом, который воспитал меня как солдата и полководца, я принимаю доверенный мне пост, чтобы все свои силы посвятить дальнейшему развитию и укреплению нашего Войска Польского и обороны Речи Посполитой...»
С ноября 1949 года Рокоссовский занимает пост министра национальной обороны и заместителя председателя Совета Министров ПНР. Всю свою энергию он обращает на преобразование Войска Польского, на создание современной армии.
В ходе демобилизации польской армии в первые послевоенные годы ее численность сократилась с 400 до 200 тысяч. В 1949—1955 годах произошло некоторое ее увеличение – до 280 тысяч человек. Но главные изменения происходили в Войске Польском в связи с его перевооружением и реорганизацией. В эти годы в стране была создана военная промышленность, построены новые– предприятия по выпуску артиллерийской, танковой, авиационной и другой техники, не существовавшие ранее или же слабо развитые. Это позволило вооружить польских солдат новой военной техникой. Сила огня польской пехотной дивизии возросла многократно по сравнению с силой огня предвоенной дивизии. Войско Польское располагало теперь танковыми и моторизованными соединениями, способными к быстрому маневру и хорошо обученными для ведения военных действий в новых условиях – в условиях ядерной войны.
В обучении войск Рокоссовский широко использовал свой богатый опыт, приобретенный во время службы в Советской Армии. В апреле 1950 года был введен новый устав внутренней службы польской армии, многие положения которого перекликались с уставом Советской Армии. В августе этого же года сейм принял закон о введении новой клятвы, в которой говорилось об обязанностях солдата по отношению к народной Польше.
Больших трудов стоила Рокоссовскому организация обучения и воспитания офицерских кадров Войска Польского. В годы пребывания Рокоссовского на посту министра обороны в армии развернулась массовая подготовка новых кадров офицеров. Были открыты Академия Генерального штаба имени Кароля Сверчевского, Военно-техническая академия имени Ярослава Домбровского, Военно-политическая академия имени Ф. Э. Дзержинского. В результате к 1956 году военные кадры Войска Польского полностью состояли из преданных делу социализма офицеров – выходцев из рабочих и крестьян.