Обучение наукам началось в частном пансионе сестер-француженок Верзес, располагавшемся недалеко от дома, на Полянском рынке. В одиннадцать лет Шмелев сказал «прощай» праздности вольной, его отдали в Первую гимназию, что у храма Христа Спасителя. Попасть туда оказалось делом нелегким, на шестьдесят вакантных мест было четыреста кандидатов. Приемный диктант по русскому языку он написал без ошибок, но на экзамене по арифметике сбивался и робел. Хлопотать за него принялась крестная, Елизавета Егоровна, его дальняя родственница, сама в девичестве Шмелева. Проучился он там всего три месяца, с августа по ноябрь. В 1913 году Шмелев вспоминал: «Меня подавили холод и сушь. Это самая тяжелая пора моей жизни — первые годы в гимназии. Тяжело говорить. Холодные сухие люди. Слезы. Много слез ночью и днем, много страха». Уже в детстве накопились обиды и страхи, все, что в зрелые годы обернулось страстностью, непримиримостью и даже мнительностью.
Каждое утро маленький Иван шел по Якиманке, через Большой Каменный мост к Волхонке, к розовому огромному зданию за высокими чугунными воротами. Из-за своих рефлексий он был отстающим; разбирая «Птичку Божию», не мог определить сказуемое; получал колы и двойки, и смятение его разрасталось, застило весь свет. На перемене он ютился под пожарной лестницей на большом дворе; до него доносились запахи сыра, колбасы, слоек, он в одиночестве жевал в своем укрытии пустой розанчик — пятачка на гимназический завтрак дома не выдавали.
Матушка решила перевести его в другую гимназию — под номером шесть. Она находилась неподалеку от дома, в Большом Толмачевском переулке, в усадьбе графов Соллогубов, за чугунными воротами с литым фруктовым орнаментом. Собственно, посоветовал ей это сделать четырехклассник шестой гимназии некто Сережа Волокитин. Хотя бабушка и называла его пакостником, совету его вняли. Просторные классы сменили маленькие уютные комнаты, а в учебе Шмелев выказывал успехи. Из последних учеников стал чуть ли не первым. Он попал в свою среду.
На молебны в гимназию приходил дьякон Алексий, впоследствии старец, схимник Зосимовой пустыни. Он был литературно и философски образованным человеком, о котором учитель словесности Федор Владимирович Цветаев, дядя Марины Цветаевой, преподаватель шестой гимназии и инспектор Московского учебного округа, говорил: «О, он