Среди мотивов, по которым композитор согласился на уговоры Теляковского и встал за пульт, было не только его намерение усовершенствовать дирижерскую технику, но и горячее желание работать вместе с Шаляпиным.
Рахманинов и Шаляпин встретились в пору, драматичную для композитора. Только что провалилась в Петербурге, в Дворянском собрании, Первая симфония. Рахманинов подавлен, он не мог сочинять, и именно в этот тяжелый момент руку помощи ему протянул Савва Иванович. «Что могло быть более желанным, чем приглашение Мамонтова? — вспоминал композитор. — Я чувствовал, что способен дирижировать, хотя и имел весьма туманное представление о технике дирижерства. Мамонтов был рожден режиссером, и этим, вероятно, объясняется, почему его главный интерес сосредоточился на сцене, декорациях, на художественной постановке. Он высказал себя в этой области настоящим мастером».
Дебют Рахманинова-дирижера в «Самсоне и Далиле» отметили «Русское слово», «Русские ведомости», «Московский листок». «Газеты все меня хвалят. Я мало верю», — писал Рахманинов в Петербург друзьям. За первыми спектаклями последовали «Русалка», «Кармен», «Рогнеда», «Аскольдова могила», «Майская ночь». Быстро освоив технические навыки управления оркестром, Рахманинов теперь и сам оценивал себя иначе. «Дирижерский рубикон я перешел, — сообщал он в письме, — и мне теперь нужно только безусловное внимание и подчинение себе оркестра, чего я как второй дирижер никогда от них не дождусь». Последнее обстоятельство вскоре и обусловило переход Рахманинова в Большой театр.
В Частной опере Рахманинов познакомился с интереснейшими людьми, с которыми он, в силу замкнутого образа жизни, мог и не встретиться: с художниками Коровиным, Врубелем, Серовым, с прекрасными артистами — Н. И. Забелой-Врубель, Е. И. Цветковой.
«Предлагая мне место дирижера в своей опере, — вспоминал много лет спустя Сергей Васильевич, — Мамонтов сказал, что пригласил в труппу молодого певца, обладающего беспредельным талантом, с которым, он был уверен, мне будет приятно работать. Такая оценка ничуть не оказалась преувеличенной: это был Федор Шаляпин. Это было время, когда Шаляпин создавал своего Бориса Годунова, своего Ивана Грозного и другие роли, которыми он завоевал мир. В эти дни возникла моя дружба, которая, к моему счастью, связывает меня с этим великим человеком и по сей день».
Шаляпин и Рахманинов часто выступали вместе в симфонических и камерных концертах, в оперных спектаклях. Композитор посвятил певцу свои романсы «Судьба», «В душе у каждого из нас…», «Воскрешение Лазаря», «Ты знал его», «Оброчник». Однажды Рахманинов слушал в исполнении Шаляпина «Судьбу» и был потрясен: схватился за голову, воскликнул: «Неужели это я написал?!»
В первые же дни нового сезона в оркестровых репетициях Сергея Васильевича Рахманинова Шаляпин сразу ощутил иную творческую атмосферу. Они были ровесниками и сразу почувствовали взаимное расположение.
«Рахманинов был в то же время одним из немногих чудесных дирижеров, которых я в жизни встречал, — писал Шаляпин. — С Рахманиновым за дирижерским пультом певец мог быть совершенно спокоен. Дух произведения будет проявлен им с тонким совершенством, а если нужно задержание или пауза, то будет это тоже в йоту… Когда Рахманинов сидит за фортепиано и аккомпанирует, то приходится говорить: „Не я пою, а мы поем“».
Дружба была искренней и взаимной, сохранилась до последних дней жизни Шаляпина: Рахманинов пережил его на пять лет. Оба чрезвычайно ценили природный музыкальный гений друг друга, мастерство, высочайший художественный вкус. В начале 1900-х годов пути Шаляпина и Рахманинова пересекались, они часто выступали в концертных программах пианиста и дирижера Александра Ильича Зилоти.
В 1903 году Зилоти открывает в петербургском Дворянском собрании цикл абонементных концертов. Заручившись материальной поддержкой владельцев русско-американской компании Г. Гейзе, М. Нейшнеллера и Г. Гильзе, субсидировавших на первых порах концерты, Зилоти становится пропагандистом лучших произведений западноевропейских и отечественных композиторов.