Опера Н. А. Римского-Корсакова впервые ставилась в Мариинском театре еще в январе 1873 года, но не продержалась на сцене, несмотря на прекрасный исполнительский состав. Когда Шаляпин познакомился с клавиром оперы, его испугали нетрадиционность музыкального языка, отсутствие развернутых арий и вокальных ансамблей. Как создать характер Грозного, какими красками выявить его силу, своеобразие, эмоциональность? Мамонтов погружает его в историю.
Кремлевские соборы, Василий Блаженный, монастыри, часовни, площади, улицы, переулки старой Москвы… В Третьяковской галерее Федор подолгу простаивает перед картиной «Иван Грозный и сын его Иван»: «Вот где я воскликнул великое спасибо Илье Ефимовичу Репину. Совершенно подавленный, я ушел из галереи. Какая силища, какая мощь! Хотя эпизод убийства не входил в играемую мной роль, однако душа Грозного (несмотря на все зверства, им творимые), как именно и хотелось, представлена была Душой Человеческой, то есть под толщею деспотизма и зверства, там где-то, далеко-далеко, я увидел теплящуюся искру любви и доброты».
Шаляпин собирал черты Грозного по крохам: что-то взял у Репина, что-то и у Аполлинария Васнецова (эскиз васнецовского портрета Ивана IV певец видел дома у инженера С. П. Чоколова, знакомого Мамонтова). Илью Ефимовича Репина Мамонтов привлек к репетициям: художник обладал уникальной коллекцией иконографии эпохи Грозного. Пригодились Шаляпину и впечатления от исторических картин В. Г. Шварца, знаменитой скульптуры М. М. Антокольского. Так постепенно складывалась целостность монументального сценического образа.
Работа над «Псковитянкой» шла трудно. Артист не спал ночей, нервничал, рвал в отчаянии ноты, иногда плакал от досады — не задавалось все, даже самая первая фраза: «Войти аль нет…» Мамонтов внимательно следил за ходом репетиций, старался вселить в Федора спокойствие.
— Хитряга и ханжа у вас в Иване есть, а вот Грозного нет… — заметил Савва Иванович.
Слова Мамонтова прозвучали для Шаляпина откровением! «Интонация фальшивая! — сразу почувствовал я. Могучим, грозным, жестко-издевательским голосом, как удар железным посохом, бросил я свой вопрос, свирепо озирая комнату. И сразу все кругом задрожало и ожило… Интонация поставила поезд на надлежащие рельсы, и поезд засвистел, понесся стрелой».
12 декабря 1896 года состоялась премьера. Дирижировал И. А. Труффи, оформляли спектакль К. А. Коровин и В. М. Васнецов. Подробное описание спектакля, самой театральной атмосферы оставил художник М. В. Нестеров: