В 1875 году, во время одного из домашних концертов, на Кастальского обратил внимание преподаватель Московской консерватории П. Т. Конев и уговорил его поступать в высшее музыкальное учебное заведение, хотя Александр Дмитриевич собирался учиться в Петербургской сельскохозяйственной академии. Из воспоминаний Кастальского: «Мои дарования никем, кроме Конева, особенно замечены не были, да и сам я проходил курс не борзо, одолевая науку не без труда; не прочь был при случае и увильнуть от уроков (ходить в консерваторию приходилось пешком и далеко, иногда по два раза в день). Фортепианными упражнениями надоедал домашним. Помню, в одно лето перенесли мою рояль в садовую беседку; погода стояла жаркая, и я упражнялся, наливая себе за ворот воды для прохлады. Теорию музыки я проходил в консерватории под руководством П. И. Чайковского (1 год), Н. А. Губерта и С. И. Танеева. В ученическом оркестре играл на литаврах, причем однажды, за невнимательный счет пауз, мне порядочно попало от горячего Н. Г. Рубинштейна. Мое музыкальное развитие заключалось, главным образом, в слушании симфонических концертов и репетиций к ним; помогал в оркестре, играя в группе ударных. Зарабатываемые уроками небольшие деньжонки я нередко тратил на покупку партитур исполняемых сочинений. Изучал “Руслана”, симфонии Бородина, оркестровое “Садко” Римского-Корсакова, сборники песен Балакирева, Мельгунова. Думаю, что этим путем развил себя больше, чем консерваторскими задачами. К классикам особого тяготения не имел. <…> Вообще, в церковной музыке был полным профаном, хотя и чувствовал эффекты хоровой звучности. <…> Поступив в 1887 году в Синодальное училище преподавателем на фортепиано, я впервые познакомился с работой над специально церковным хором; им руководил знаменитый впоследствии В. С. Орлов, с которым мы были хорошо знакомы еще по консерваторской скамье и благодаря которому я и поступил в “Синодалку”, как называли иногда училище. <…> Церковным композитором и даже “родоначальником” целого направления сделался я совершенно неожиданно как для себя, так и для других; так же случайно, как попал в консерваторию, готовясь к сельскому хозяйству. Рассматривая и выбирая как-то (1896 год) с В. С. Орловым различные пьесы для репертуара Синодального хора, я попробовал сличить мелодию одного “Достойно” сербского напева с подлинными мелодиями его в сербском обиходе и заметил, что автор, видимо, не умел справиться ни с одной из них. Василий Сергеевич предложил мне гармонизировать одну из этих мелодий».
Вскоре Кастальский гармонизировал и аранжировал несколько церковных песнопений, в том числе и «Милость мира». Но его произведения были настолько новаторскими, что во многих храмах их просто отказывались исполнять. К тому же в то время в моде была концепция, предложенная С. И. Танеевым: церковные мелодии следует не гармонизировать, а контрапунктировать по примеру западноевропейских мастеров XV–XVI веков. А композитор Кастальский в этом вопросе придерживался иного мнения. В 1898 году он создает музыкальную композицию «Сам Един еси Без-смертный», которая приводит в восторг тогда ещё молодого Сергея Рахманинова. После этого к Кастальскому приходит настоящая слава.
Первые годы XX века Александр Дмитриевич посвятил работе над песнопениями Всенощного бдения. При этом он поставил перед собой трудную задачу — отрешиться от шаблона (сплошного четырехголосия). В каждом произведении, считал Кастальский, обязательно должна быть своя оригинальная музыкальная мысль, чтобы слушатель сразу мог узнать знакомую мелодию. Этому впоследствии он будет учить и Жарова, своего любимца, поняв, что мальчик (отчаянный шалопай и непоседа) обладает уникальным музыкальным чутьем.
У Жарова было много учителей, но именно Кастальский оставил самый глубокий след — он обучал основам и приемам хорового письма. Он же в своё время познакомил юношу с древнерусскими певческими рукописями, привезенными в Московское синодальное училище со всей России. Жаров видел, как Кастальский работал с ними и как рождалась современная интерпретация лежащих в их основе древних распевов. Пресса отмечала, что Кастальский нашел новый путь развития православной церковной музыки. О нем с восхищением писали такие влиятельные издания России, как «Русская музыкальная газета», «Музыкальный труженик», «Музыка и пение», «Баян», «Музыка и жизнь»…
«Идеолог нового русского стиля», знаменитый петербургский критик и создатель духовной музыки Николай Иванович Компанейский (1848–1910) отзывался об Александре Дмитриевиче как о композиторе, «разгадавшем русский церковный стиль, ту симфонию голосов, которая, быть может, смутно витала в воображении наших предков». Эту свою способность проникать в глубинную, потаенную суть произведений искусства, ощущать их историческую преемственность Кастальский впоследствии передаст Жарову.