В мае 1941 года Смелякова призвали в армию из резерва, зачислили рядовым во 2–ю легкострелковую бригаду и направили в Карелию. Осенью 1941 года во время тяжёлых боёв на подступах к Ленинграду он вместе со своей частью попал в окружение и затем в плен к финнам, воевавшим на стороне фашистов. В лагере он пробыл три года, испытав все тяготы подневольного труда на финской ферме, куда пленных сопровождали конвоиры с овчарками. Обращались фашисты с узниками жестоко. Не один раз пришлось Смелякову сносить сильные удары по лицу прикладом просто за пристальный взгляд на конвоира. Друзьям о нём не было ничего известно, ходили слухи о его гибели. Евгений Долматовский даже написал трагическое стихотворение, посвящённое его памяти. Лишь Маргарита Алигер полагала, что Ярослав жив: вернувшись из эвакуации зимой 1942 года, она неожиданно нашла дома кольцо, подаренное Смеляковым, которое снова куда – то задевалось в её квартире перед отъездом в октябре 1941 года.
Осенью 1944 года между финской и советской сторонами был произведён обмен военнопленных. Из фашистского лагеря вместе с товарищами по несчастью Смеляков попал в наш проверочный лагерь. В 1946 году его освободили из заключения, но в Москву вернуться не разрешили. Не довелось ему больше бывать и в Дзержинском. Ни с Марией Мамоновой, в замужестве Проворовой, прожившей в посёлке всю жизнь13, ни с Валентиной Макаровой – Климович он не встретился. В начале Великой Отечественной войны Валентина Аркадьевна эвакуировалась куда – то в Сибирь, где, видимо, осталась на постоянное жительство.
Смелякова направили в Сталиногорск (ныне Новомосковск) Тульской области. Ярослав работал на шахте в пос. Донском, потом был помощником заведующего банно – прачечным комбинатом, сотрудничал в газетах «Сталиногорская правда» и «Московская кочегарка», где выходили его заметки и стихи. В штат «Сталиногорской правды» Смелякова приняли при содействии главного редактора Константина Ивановича Разина.
Поэт Степан Поздняков14 приютил его в своей комнате в Сталиногорске. Жили в тесноте, да не в обиде: койку Ярослава отделял от хозяев большой самодельный шифоньер. По ночам Ярослав часто сочинял стихи и утром читал их Позднякову. Изредка и неохотно по настойчивым просьбам друга Смеляков рассказывал о своей жизни в немецких и советских лагерях, признавался, что его очень беспокоила разлука с матерью, её страдания и лишения. «А что до меня самого, то это всё ерунда, были бы чернила да то, что этими чернилами можно писать, ведь моим истинным увлечением всегда были и будут одни стихи, и хорошее стихотворение делает меня счастливым вопреки всему остальному»15, – говорил он. По счастью, такая возможность в лагерях у Смелякова была. Несмотря на тяжёлые обстоятельства, он сочиняет светлые стихи о матери, полные патриотизма строки о Родине, о воевавших солдатах, о прекрасных русских женщинах. Из этих стихотворений особенно известны «Вот опять ты мне вспомнилась, мама…», «Земля», «Кремлёвские ели», «Милые красавицы России», «Манон Леско».
Смеляков приходит на спектакли городского народного театра, пишет о них в местной газете. Он руководит литобъединением, участвует в вечерах поэзии, организуемых Поздняковым во Дворце культуры. Стихи Смелякова начинают печатать толстые московские журналы «Знамя», «Новый мир». Московские друзья хлопочут за него, и в 1947 году ему разрешают вернуться в Москву.
Ярослав Васильевич снова восстановлен в Союзе писателей, в 1948 году выходит в свет его книга «Кремлёвские ели», куда включены стихи, написанные до и после войны. К тому времени он был уже два года женат и жил с супругой Евдокией Васильевной и её дочкой Леночкой в однокомнатной квартире по Спасопесковскому переулку.
Однако благополучный период длится только три года. В «Литературной газете» появляется критическая статья С. Львова16, где высказывается мнение, что сборник «Кремлёвские ели» лишь внешне оптимистичен, а по сути стихи Смелякова «всегда о смерти». Вновь начинается травля творческой интеллигенции, которую огульно обвиняют в «космополитизме». В 1951 году на квартиру Ярослава кто – то из «друзей» приводит провокатора, который во время застольной беседы получает на поэта необходимый «компромат». Вскоре Смелякова по доносу арестовывают и осуждают по печально известной 58 статье УК на 25 лет лагерей. Его потрясённая горем 74–летняя мать Ольга Васильевна умерла в Москве в 1952 году.
Несправедливое заключение поэт отбывает в приполярной Инте, где работает на добыче доломита. Поэзия снова помогла ему выстоять. Он не перестал верить в советскую власть, в её прогрессивность. Он считал, что её позорили люди, которые предавали, сажали, истязали его самого и его друзей. Глубинных причин происходящего он понять не мог. В 1952 году в лагере в стихотворении «Мы не рабы» Смеляков писал: