Новый управляющий начал реформирование Морского ведомства с привлечения на службу предприимчивых и образованных людей. Особо почитались понятия чести и преданность делу. В его ведомстве, в отличие от других, где царило слепое подчинение высочайшим указам, тяжелая работа, полная разочарований и неудач, все же была творчеством и вдохновением. Он умел рассеять сомнения, понять оттенки разномыслия, объяснить суть. Будучи профессионалом флотского дела, Константин Николаевич издает циркуляр, осуждавший «всеобщую официальную ложь», требовавший не похвалы, а истины, и «в особенности глубокого и откровенного изложения недостатков», призывавший к отказу от канцелярской парадности и бумажной отчетности, в которой прятали истинное положение дел.
Так, в трагическую Крымскую кампанию 1853–1856 годов он выступил против панегириков в адрес родного флота и его августейшего начальника, то есть в свой собственный. Последовал по его инициативе циркуляр о прекращении славословий даже в пору победы Нахимова в Синопской бухте. Он знал как никто другой истинное положение России в «большой войне», развязанной в 1854 году Англией и Францией путем ввода в Черное море объединенного флота. Ради расчленения России Европа начала военные действия на Дунае, в Закавказье, на Балтийском и Белом морях, на побережье Камчатки.
Словом, Константин Николаевич медленному течению жизни предпочитал действия. Вместе с Великой княгиней Еленой Павловной, поддерживавшей его во всех начинаниях, он организовал первые госпитали в районе театра военных действий. Так были заложены основы российского Красного Креста. Великий князь отдает свои 200 тысяч рублей на сооружение шестидесяти канонерских лодок, в то время как правительство отказывается выделить эту сумму на сооружение кораблей нового поколения. «Все, что я имею, принадлежит России» — эти слова навсегда связаны с именем Константина Николаевича.
Однако Крымская война стала трагическим итогом царствования Николая I. «Вся фантасмагория его величественного царствования рассеялась как дым. Остался чужой флот в Черном море, бомбардировки Одессы, армия без вооружения, флот, разграбленный лихоимством, унижение России», — писал современник.
В своих нововведениях Константин Николаевич опирался на передовой офицерский состав флотов. Проект Морского устава впервые в стране разрабатывался гласно и публично. Черновой его вариант рассылался «по всему морскому миру», офицерам Балтийского и Черноморского флотов. От них требовалось подать свои отзывы и замечания, которые обязательно учитывались при доработке. При этом привлекался законодательный опыт морских стран Европы. Головнин позже отмечал, что Великий князь «приказывал составить подробные обозрения всех прежних узаконений» для сравнения с «постановлениями иностранными».
Николай I неожиданно умер 18 февраля 1855 года, в самый разгар кошмарной для России Крымской войны. Появились даже слухи, что Император, не выдержав трагических потрясений, покончил жизнь самоубийством. На самом деле, как утверждают историки, он подхватил воспаление легких и после двухнедельной болезни скончался. Главный его завет преемнику содержался всего в двух словах: «Служи России». Символичной была одна из последних фраз, обращенных к Наследнику престола: «Держи всё, держи всё». Это был основной принцип властвования самого Николая I, который руководил, «сам держа всё», стараясь вникнуть и повлиять на каждую мелочь в каждом уезде. Он искренне считал, что только так и можно руководить такой страной, как Россия, тем самым лишив подданных инициативы.
Власть перешла к его старшему сыну Александру. Но еще раньше братья пообещали друг другу «идти рука в руку заодно и не позволять, чтобы их разрознивали», потому младший Константин, энергичный, с широкой эрудицией, соединенной с трудолюбием, встал рядом с Императором Александром II, человеком, как говорили, вялым и нерешительным во всех делах.
И началось… «Реформатор и либерал» — эти слова преследовали Великого князя с разной долей злобы, ревности и восхищения. Однако Константин Николаевич упорствовал в своем стремлении к переменам, не признавая критики, пусть даже разумной, но страдающей отсутствием инициативы, положительного жизненного творчества, не признавая деятелей, не способных произвести что-либо реальное. Он выступил против того, что К. П. Победоносцев, один из ярых его противников, называл «натуральной силой инерции».
Многие, критикуя братьев-реформаторов, утверждали, что убийство Александра II стало результатом его ультралиберальных реформ, так как именно эти скороспелые изменения и привели к росту свободомыслия. В этом конечно же была доля истины.