Командирский взлет Рослого был необычайно стремительным. С последнего курса Военной академии имени М. В. Фрунзе его направили командиром стрелкового полка на советско-финляндский фронт. Не прошло и полутора месяцев, как его полк отличился при прорыве никак не поддававшейся злополучной “линии Маннергейма”. Майор Рослый тут же стал полковником, Героем Советского Союза, а его 245-й стрелковый полк Краснознаменным. 123-я стрелковая дивизия, в которой воевал Рослый, в которой и автору этих строк пришлось впоследствии служить, а потом и воевать в блокадном Ленинграде, была награждена орденом Ленина. Иван Павлович, единственный из командиров полков, был приглашен на заседание Главного военного совета по итогам той зимней кампании 1939—40 гг. и выступил на нем. Из Москвы уезжал уже не командиром полка, а командиром стрелковой дивизии. Именно тогда, на том заседании, услышал запавшие в душу слова И. В. Сталина о том, что война с фашистской Германией неизбежна, неизвестно только, когда она начнется.
Генерал Рослый прошел и всю Великую Отечественную войну, командуя дивизией, а затем корпусом, и в его послужном списке не найти порочащих его строк, хотя приходилось во главе своих полков выбираться из котлов и окружений, терять боевых друзей. Имя генерала Рослого, временно командовавшего войсками 46-й армии, называлось Советским Информбюро в связи с освобождением Краснодара. 9-й Краснознаменный стрелковый корпус, во главе которого он прошел всю оставшуюся часть войны, отличился в боях за Донбасс, крупнейшие его центры — Донецк, Макеевку, Енакиево, в прорыве сильно укрепленной “линии Вотана”, форсировании Днепра, освобождении южной части Правобережной Украины, форсировании Днестра.