В октябре 1903 года Прокофьев начал сочинять и первую в своей жизни фортепианную сонату, сведений о которой сохранилось крайне мало.
Ненадолго вернувшись в Солнцевку, Мария Григорьевна с Серёжей отправились в Петербург, чтобы выбрать хорошую гимназию для дальнейшего обучения. Отец был уверен, что Москва куда лучше Северной столицы. Консерватория там имелась отличная, а признанный авторитет среди её педагогов Танеев благоволил к их сыну. Всё решил разговор с Александром Константиновичем Глазуновым, вождём так называемого «национального» — национального в смысле любви к гармонизации русского фольклора по немецким лекалам, по сути цивилизаторско-академического — направления в русской музыке, Глазунову не исполнилось и 39 лет, а вес его в музыкальном мире оказался уже таков, что, присоветуй он что-либо, можно было не сомневаться, что так оно и случится. Аудиенции добиться было непросто, но, раз услышав, как мальчик играет «Пир во время чумы», Глазунов оказался под таким впечатлением, что сам пришёл на квартиру к Марии Григорьевне и Серёже. Мать как раз отсутствовала, а гостевая комната была в полном беспорядке. «…На столе стояла недоеденная каша, рядом лежал учебник арифметики и тетрадка, в которой я писал задачу, а около неё резиновый пистолет. На пианино, которое мы брали напрокат, валялись груды нот. У моей матроски не хватало пуговицы, и волосы свалялись, так как я недавно спал на диване», — вспоминал склонный к педантизму и аккуратности Прокофьев тридцать пять лет спустя. Словно не замечая всего этого, Глазунов посоветовал купить взамен стоящего на пюпитре четырёхручного переложения симфоний Бетховена такое же, но Шумана, и проиграть все его четыре симфонии с матерью, сам же пообещал прийти завтра в то же время. Его как бы вскользь оброненный совет сыграл огромную роль в становлении юного композитора. На годы Шуман — образец владения симфонической формой, по мнению Глазунова, — станет для него и образцом фортепианного композитора. Это потом уже зрелый Прокофьев, обретя свой стиль, будет иронизировать над несовершенствами шумановского романтизма, чтобы, по здравом размышлении, принять и эти несовершенства.
На следующий день Глазунов встретился с Марией Григорьевной: «Я пришёл уговорить отдать вашего сына в консерваторию. Если ребёнка, обладающего такими способностями, как ваш, нельзя отдать в консерваторию, то тогда кого же можно? Именно в консерватории талант его получит полное развитие, и есть все шансы, что из него выйдет настоящий артист. А если вы будете готовить на гражданского инженера, то музыкой он будет заниматься по-любительски и никогда не сможет выявить себя в полной мере». Глиэр со своей стороны побеседовал с Николаем Андреевичем Римским-Корсаковым, профессорствовавшим в Петербургской консерватории, и тот вроде бы не возражал против приёма столь юного студента во взрослый класс.
28 июня (11 июля) 1904 года Мария Григорьевна подала прошение на имя директора Консерватории: «Желая определить в С.-Петербургскую Консерваторию сына моего Сергея, родившегося 1891 года 15 апреля для изучения
Так неожиданно поиски хорошей гимназии в Петербурге сменились необходимостью держать экзамены в высшее музыкальное учебное заведение столицы.
23 августа (5 сентября) 1904 года Мария Григорьевна привезла Серёжу из Солнцевки в Петербург на приёмные испытания в консерваторию. Общеобразовательные предметы мальчик сдал без труда, главным был экзамен 9/22 сентября но специальной теории. Решающим было здесь мнение Римского-Корсакова. Римский расспрашивал много и с пристрастием — просил сыграть с листа как музыку классиков, так и сочинённое самим экзаменуемым, проверял его абсолютный слух, умение угадывать аккорды, общий круг интересов, спрашивал о вероисповедании, знании языков — словом, обо всём, что могло прийти в голову, проверяя не только музыкальные способности, но и общий склад личности.
По впечатлению будущего одноклассника нашего героя Нориса Асафьева, одновременно державшего экзамен по композиции, Римский-Корсаков «сперва возражал против приёма 13-летнего Серёжи Прокофьева в консерваторию, но потом всё же согласился». Очевидно, причиной был именно возраст ученика. Сам Римский-Корсаков попал преподавателем в консерваторию, пройдя прежде обучение на офицера военно-морского флота.