25 апреля 1921 года ЦК ВКП(б) принял постановление о возвращении на флот всех моряков-большевиков, работавших в советских учреждениях и народном хозяйстве. В 1922–1923 годах была проведена реорганизация Военно-морского училища, созданы Высшие специальные курсы командного состава флота, открылось Военно-морское политическое училище.
Летом 1922 года из Военно-морского училища были выделены кораблестроительный, механический и электротехнический отделы и образовано Морское инженерное училище. В этом же году Военно-морское гидрографическое училище стало готовить кадры специалистов-гидрографов.
На флоте приступили к работе двухгодичные общеобразовательные курсы, Военно-морское подготовительное училище, которые давали общеобразовательную подготовку личному составу флота. Для подготовки морских специалистов были открыты учебные классы электриков, мотористов, машинистов, кочегаров, минеров, комендоров, рулевых и сигнальщиков.
Большую помощь в вопросе подготовки кадров для флота оказал Коммунистический союз молодежи, взявший в 1922 году шефство над РККФ. Тысячи юношей по комсомольским путевкам пришли на флот и с энтузиазмом взялись за восстановление кораблей и военно-морских баз, многие из них были направлены на учебу в военно-морские заведения. Только в Школу подводного плавания в этом году пришли учиться 410 комсомольцев-добровольцев.
Большое значение для укрепления дисциплины и порядка в армии и на флоте имело принятие Президиумом ВЦИК 25 марта 1922 года решения о приведении всего личного состава РККА и РККФ к военной присяге, которая и была проведена 1 мая.
28 сентября 1922 года ВЦИК и СНК приняли декрет «Об обязательной воинской повинности граждан РСФСР», в котором срок службы на флоте устанавливался в 4,5 года (21 марта 1924 года срок службы был сокращен до 4 лет). После прохождения обязательной службы военнослужащий увольнялся в запас, в котором находился до 40-летнего возраста. Принятие этого документа значительно повысило профессиональную подготовку личного состава флота.
Огромнейшее значение для повышения обороноспособности страны имело принятие на I Всесоюзном съезде Советов (декабрь 1922 г.) исторического решения об объединении советских республик в единое государство— Союз Советских Социалистических Республик.
В связи с образованием СССР в правительстве были рассмотрены вопросы о Государственном флаге Союза ССР, флагах РККА и РККФ, Военно-воздушных сил. В 1924 году Президиум ЦИК и СНК утвердили рисунки всех флагов и вымпелов. Новый Военно-морской флаг представлял собой красное полотнище, посредине которого был белый круг с восемью расходящимися лучами, а в круге — красная пятиконечная звезда с серпом и молотом. В 1927 году советское правительство учредило Почетный революционный Военно-морской флаг, который вручался наиболее отличившимся кораблям (2.11.1927 г. вручен крейсеру «Аврора») и представлял собой кормовой флаг, имевший в круге на белом поле изображение ордена Красного Знамени. Удостоенные этого флага корабли стали именоваться «Краснознаменными».
После окончания Гражданской войны возникла необходимость проведения реорганизации органов управления флотом. 24 марта 1921 года специальная комиссия рассмотрела вопрос о руководстве РККФ, в результате чего ВЦИК и СНК приняли «Положение о Народном комиссариате по морским делам», в котором регламентировалась деятельность всех руководящих органов флота. В августе проводится очередная крупная реорганизация центральных органов руководства флотом: упраздняется должность командующего морскими силами, расформировываются Штаб всех морских сил и Морской генеральный штаб, одновременно образован Морской штаб Республики.
Но и в дальнейшем происходит реконструкция центрального аппарата руководства флота в поисках его наиболее целесообразной структуры. В январе 1922 года из состава Морского штаба выводится Техническо-хозяйственное управление, которое преобразуется в Главное морское техническо-хозяйственное управление (Гламортеххозупр), в функции которого входили вопросы кораблестроения и судоремонта, вооружения, материально-технического и финансового обеспечения флота.
В апреле этого же года в состав Морского штаба вводится Управление военно-морских заведений и учебных отрядов, а в мае и воссозданное Главное гидрографическое управление.
Приказом РВСР от 30 января 1923 года в действие было введено «Положение о Морском штабе Республики», на который возлагались следующие задачи:
— организация морской обороны государства;
— разработка планов применения сил флота;
— учет личного и боевого состава;
— боевая подготовка морских сил;
— обучение и подготовка личного состава для флота;
— разработка общих и специальных законодательных оснований строительства морских сил.