Здесь, в Ярославле, жизнь супругов Ляпуновых сложилась более счастливо. Судьба даровала им двоих сыновей. Старший, нареченный Александром, родился 25 мая 1857 года. Его появление воскресило в сердце Софьи Александровны утраченную было радость. А 18 ноября 1859 года она произвела на свет второго сына, которому дали имя Сергей. Забота о детях стала отныне главным делом ее жизни.
На густолиственных аллеях лицейского сада происходили игры и прогулки мальчиков. Порой их уводили к откосу, с которого открывался необозримый вид на Волгу и на низменную плоскость противоположного ее берега. Лицей был расположен на оконечности высокого мыса, образованного слиянием реки Которосли с Волгой. Старожилы Ярославля называли это место Рубленым городом. В самом Ярославле, где находились губернские присутственные места, казенные палаты, гостиный двор, театр, Спасский монастырь с архиепископским домом и казенный дом губернатора, дети почти не бывали. Лишь изредка вместе с матерью отправлялись они к зданию мужской гимназии встречать отца, наведывавшегося туда по делам службы. Ведь был он вместе и директором лицея, и директором Ярославской губернской гимназии, которая располагалась хоть и не рядом, а все же неподалеку.
В ожидании отца детям дозволялось бегать кругом высоченной бронзовой колонны, утвержденной на гранитном пьедестале. Ее увенчивал вызолоченный орел, расправивший крылья. То был монумент П. Г. Демидову, основателю лицея. Широкая Ильинская площадь, посреди которой был воздвигнут памятник, лежала как раз между Рубленым городом и главной частью Ярославля. На ней Саша и Сережа с интересом рассматривали сновавшие во множестве городские элегантные экипажи и наблюдали, как рослые, здоровенные лицеисты задирают слоняющихся стайками гимназистов.
Студенты лицея доставляли Михаилу Васильевичу весьма огорчительные неприятности. Поведение их мало отличалось от поведения казанских студентов, нравы которых были еще свежи в его памяти. Инспектор лицея и дежурные надзиратели едва ли могли уследить за всеми их предосудительными действиями. Студенты не только пренебрегали ношением формы, что строго вменялось правилами лицея, но порой учиняли в нетрезвом виде дебоширство в городе. К тому же некоторые оказались одержимы непозволительными болезнями, отчего пришлось уволить из лицея сразу несколько человек.
Согласно воле завещателя лицей предназначался давать образование обедневшим дворянам, но на самом деле был открыт и для лиц других сословий, окончивших гимназический курс. В течение трех лет обучения лицеистов приготовляли к гражданской службе: к занятиям в казенных палатах и присутственных местах — камерах. Поэтому основу лицейского курса составляли камеральные науки: политическая экономия, статистика, сельское хозяйство, технология, лесоводство, землемерие, наука о торговле, законы казенного управления и финансы. Преподавались также юридические науки: государственные законы и учреждения, законы государственного благоустройства и благочиния, гражданские и уголовные законы с их судопроизводством. Для лучшего уразумения камеральных наук лицеистам читались физика, химия, зоология, ботаника и минералогия. Учебных дисциплин было много, а профессоров по штату полагалось только шесть. Поэтому каждому из них приходилось вести по три, четыре, а то и по пять различных предметов. Так, зоологию, ботанику и минералогию преподавал один и тот же профессор. Другой читал технологию, сельское хозяйство и лесоводство.
Вступая в должность директора, Ляпунов видел в лицее прежде всего новое поприще для приложения своих сил. Учебное заведение достаточно мало, рассуждал он, чтобы одному человеку можно было целиком объять различные его стороны, и с тем вместе оно довольно необычно, чтобы возбуждать интерес к делу. Уму его представлялась ободряющая перспектива: следуя по стопам Лобачевского и Симонова, копировать их административную и организаторскую деятельность. Разве забыл он, сколько усилий употребил Симонов на устроение астрономической и магнитной обсерваторий! А как неутомим был Лобачевский в своих стараниях о благоустройстве университетском, начиная с упорядочения библиотеки и кончая строительством новых учебных зданий! Конечно, лицей не университет, масштабы совсем не те, но ведь и он не Лобачевский, фигура куда скромнее. Тем не меньше характер его задач тот же: библиотеку надлежит привести в возможный порядок, и кабинетами надобно призаняться. Все пять кабинетов — физический, зоологический, минералогический, технологический и сельскохозяйственный, да еще химическая лаборатория оборудованы не так, как бы следовало. С такими мыслями предался Ляпунов хлопотам поновления и переустройства.