Спустя год, 26 мая, в семье цесаревича родился второй сын, названный в честь державного деда Александром. Однако этот младенец прожил менее года. В апреле 1870 года стали распространяться тревожные слухи о его болезни, а 17 апреля — в день рождения Александра II — высочайший выход к Божественной литургии был отменен. В тот день появился первый официальный бюллетень о здоровье маленького князя, где заявлялось, что «мозговые припадки не ухудшились» и что Его Высочество был «более в сознании и угнетение мозговых отправлений несколько меньше». Бюллетень подписали три врача: лейб-акушер Я. Я. Шмидт, директор Родовспомогательных заведений Императорского столичного воспитательного дома Г. И. Гирш, в то время — доктор цесаревича, и К. А. Раухфус — директор и главный врач детской больницы принца Ольденбургского в Санкт-Петербурге. Но вскоре «Правительственный вестник» опубликовал траурный бюллетень с извещением о смерти великого князя, последовавшей 20 апреля. Смерть наступила от быстро увеличивавшегося «выпотения в мозгу», как тогда писали, то есть от гидроцефалии — отека мозга.
Кончина члена дома Романовых, как всегда, сопровождалась изданием императорского манифеста. В нем выражалось убеждение в том, что все подданные «соединят с Нашими молитвами свои к Верховному Подателю благ об усопшем Великом Князе и о ниспослании Родителям Его утешения, даруемого верой в святой, неисповедимый промысл». Затем, как обычно в подобных случаях, публиковался церемониал выноса и погребения тела, назначенного на 22 апреля в Петропавловском соборе. По случаю кончины великого князя на лиц первых пяти классов был наложен месячный траур. Кончина второго сына не только глубоко огорчила родителей (что вполне естественно), но, по воспоминаниям современников, имела прямым последствием значительное сближение цесаревича и его супруги, незаметное в первые годы их совместной жизни. «Общее горе закрепило их крепкий союз, — вспоминал друг Александра III граф С. Д. Шереметев, — который отныне безоблачно стал уделом их [жизни] до конца. Я дежурил ночью перед телом ребенка. При мне Крамской рисовал его портрет. Верхом сопровождали мы тело его в карете в крепость. Родители безутешно плакали». В тот год великий князь Николай Александрович впервые присутствовал на похоронах.
К концу 1860-х годов Императорский дом уже весьма разросся. В «Придворном календаре» все его члены имели строго фиксированное место. Главой Дома был император Николай I, за ним следовали его супруга, наследник-цесаревич, его супруга и, наконец, их старший сын. Далее в списке шли дети (мужского пола) Александра II: Владимир, Алексей, Сергей и Павел. Последний, родившийся 21 сентября 1860 года, был всего лишь на восемь лет старше своего племянника — великого князя Николая. Список продолжали брат царя Константин Николаевич, его супруга и дети: Александра Иосифовна, Николай, Константин, Дмитрий, Вячеслав Константиновичи. Затем следовали Николай Николаевич (Старший), его супруга Александра Петровна и их дети Николай (Младший) и Петр Николаевичи. За ними «Придворный календарь» помещал младшего сына императора Николая I — Михаила Николаевича, его супругу Ольгу Федоровну и их детей — Николая, Михаила, Георгия и Александра Михайловичей.
Так постепенно внутри Императорского дома формировались своеобразные «кланы», в дальнейшем получившие названия «Константиновичей», «Николаевичей» и «Михайловичей». В год рождения первого внука императора список «Придворного календаря» заключали представители женской части Дома — великая княгиня Елена Павловна, вдова дяди Александра II Михаила Павловича; дочь царя Мария Николаевна, дочь Николая I королева Вюртембергская Ольга Николаевна и его внучка — королева эллинов Ольга Константиновна; юные великие княжны Вера Константиновна и Анастасия Михайловна; великая княгиня Екатерина Михайловна — супруга герцога Георгия Мекленбург-Стрелицкого. В самом конце шли дети великой княгини Марии Николаевны от герцога Лейхтенбергского, носившие титул князей Романовских: сыновья Николай, Евгений, Сергей, Георгий Максимилиановичи и замужние дочери — Мария и Евгения Максимилиановны — с титулами княгинь. Мария была замужем за принцем Евгением Баденским, а Евгения — за принцем Александром Ольденбургским. Все члены Дома имели тогда титул Их Императорских Высочеств.