Летом 1940 г. Особое совещание при НКВД СССР отменило предыдущий приговор и осудило С. П. Королева на 8 лет исправительно-трудового лагеря, заменив ярлык «члена антисоветской контрреволюционной организации» на «вредителя в области военной техники». Спустя несколько месяцев мера наказания была пересмотрена, и на основании личного заявления с просьбой использовать его по специальности заключенный Королев был переведен в Центральное конструкторское бюро — спецподразделение НКВД. Там, в стенах ЦКБ-29, под руководством заключенного А. Н. Туполева уже полным ходом велись серьезные разработки нового поколения летательных аппаратов с реактивными двигателями.
Четыре года находился Королев в закрытых конструкторских бюро, или «шарашках», как называли подобные заведения сами арестанты. «Шарашки», как и сам принцип использования дешевой, но весьма квалифицированной рабочей силы, были изобретением наркома Л. П. Берии. Сюда считали за счастье попасть разбросанные по тюрьмам и лагерям ГУЛАГа, измотанные морально и физически инженеры, технологи, конструкторы, ученые…
Под руководством А. Н. Туполева Сергей Павлович принимал активное участие в создании и производстве фронтового бомбардировщика «Ту-2» и одновременно стал инициатором разработки проекта управляемой жидкостной аэроторпеды и нового варианта истребителя-перехватчика. Это послужило поводом для перевода его в 1942 г. в другую организацию такого же лагерного типа — ОКБ НКВД СССР при Казанском авиазаводе № 16, где велись работы над созданием самолетных двигателей новых типов. В Казани Королев приступил к воплощению идеи использования ракетных двигателей в самолетостроении, которая в теории должна была привести к сокращению длины пробега самолета при взлете и повышению его скоростных и динамических характеристик во время воздушного боя.
В июле 1944 г. Королев был досрочно освобожден из заключения и по окончании войны командирован в Германию, где в составе Технической комиссии знакомился с немецкой трофейной ракетной техникой. В мае 1946 г. было принято секретное постановление правительства о создании в СССР отрасли по разработке и производству ракетного вооружения. Вскоре все советские специалисты были отозваны из Германии для работы во вновь созданных НИИ и ОКБ. Среди них был и Королев, который по возвращении в Москву приступил к исполнению обязанностей главного конструктора баллистических ракет дальнего действия и начальника отдела НИИ-88 по их разработке. К тому времени он уже развелся со своей женой, ведущим хирургом-травматологом Боткинской больницы, которая не захотела играть роль лишь домохозяйки при муже, отдававшем себя без остатка работе. В мае 1947 г. Сергей Павлович женился на 26-летней Нине Котенковой, работавшей в НИИ в бюро переводов, и счастливо прожил с ней до конца своих дней.
Первой задачей, поставленной правительством перед ним и всеми организациями, занимающимися ракетным вооружением, было создание копии немецкой ракеты «Фау-2» из отечественных материалов. Но уже в 1947 г. ученые получили задание на разработку новых баллистических ракет с большей, чем у немецкого прототипа, дальностью полета — до 3 тыс. км. В следующем году главный конструктор приступил к летным испытаниям баллистической ракеты «Р-1» (аналога «Фау-2») и в 1950 г. успешно сдал ее государственной комиссии. В те же годы Королевым были разработаны ракеты «Р-2», «Р-5» и «Р-11», впоследствии принятые на вооружение.
В 1956 г. под руководством Королева была создана первая отечественная стратегическая баллистическая ракета с ядерным боевым зарядом «Р-5М», ставшая основой ракетно-ядерного щита страны. В этот период ОКБ-1 было выведено из состава НИИ-88 и стало самостоятельной организацией, главным конструктором и директором которой был назначен С. П. Королев. В следующем году под его руководством были созданы первые мобильные баллистические ракеты наземного и морского базирования, что стало революционным событием в деле развития ракетной техники.
В 1960 г. на вооружение ракетных войск стратегического назначения была принята первая межконтинентальная ракета «Р-7», которая обеспечивала достижение первой космической скорости и возможность вывода на околоземную орбиту летательных аппаратов массой в несколько тонн. Именно с ее помощью были выведены на орбиту первые три искусственных спутника Земли — первый запустили 4 октября 1957 г., через месяц — второй, с собакой Лайкой на борту, а 15 мая 1958 г. — третий, с большим количеством научной аппаратуры.