В 1882 г. Константин оставил Училище живописи и поступил в Петербургскую Академию художеств. Однако уже через несколько месяцев он был разочарован «духом академического обучения» и вернулся назад, в Москву. Как раз тогда в училище появился новый преподаватель, одаренный художник В. Поленов, ставший для Коровина любимым педагогом и духовным наставником. Впечатлительный Константин, подверженный острым приступам меланхолии, неверия в свои силы и частой смене увлечений и настроений, находил в своем учителе трогательную заботу и внимание. Оставшийся к этому времени без отца и матери, он проводил много времени в семье Поленова, которая стала для него родной.
От Поленова, провозглашавшего в своем творчестве «культ глубокой натуры», Константин впервые узнал об импрессионистах. Работая в его мастерской, он написал несколько пейзажей, в которых уже ощущалось то неудержимое стремление передать яркость и чистоту цвета, трепетность солнечного света и воздуха, которое так характерно для искусства импрессионистов. Спустя годы об одном из таких этюдов художника, «Последний снег», С. Глаголь сказал, что именно Коровин «подметил и написал тот весенний мотив с остатками снега на задворках, который так долго царил затем в русском пейзаже». «Внутренняя общность в подходе к натуре» объединяет «Последний снег» с «Портретом хористки», исполненным художником в 1883 г. Хотя сама женщина, по словам автора, «некрасива, даже уродлива», живописное истолкование образа раскрывает в модели какую-то особую, неуловимую с первого взгляда прелесть. Игра света и воздуха на лице, блики на шляпке и платье вносят в образ трепетность и очарование. Этот портрет резко отличался от произведений портретного жанра второй половины XIX в., что выразилось в отсутствии психологического анализа образа, в стремлении к выражению в нем поэтического начала, в «ином, чем прежде, понимании эстетически прекрасного». Картина вызвала бурные обсуждения и почти единодушный протест преподавателей Московского училища живописи, которые усмотрели в поиске Коровина покушение на незыблемые каноны красоты, отход от принципов психологического портрета и не сумели оценить новаторства молодого живописца. Даже Поленов, так понимавший своего ученика, не мог на этот раз простить ему «небрежности исполнения» и посоветовал снять картину с выставки. И тогда Константин Коровин записал на обороте этюда мнение И. Репина, которое произвело на него самое сильное впечатление: «Это живопись для живописи только. Такое бывает позволительно испанцу, но у русского – к чему это?» Эти слова прозвучали для художника как вызов. Всю свою жизнь Коровин будет отстаивать самоценность живописной выразительности без какого-либо литературного начала. Портрет харьковской хористки стал первой попыткой изображения свежих красок, словно растворимых в световоздушной среде, что по существу явилось первым импрессионистическим опытом не только в творчестве Коровина, но и во всей русской живописи. Несколькими годами позже, когда Константин Алексеевич побывает в Париже и познакомится с современной французской живописью, он воскликнет: «Импрессионисты… у них нашел я все то самое, за что так ругали меня дома, в Москве».
В 1885 г. благодаря Поленову Константин познакомился с известным промышленником и меценатом, человеком редкой художественной одаренности Саввой Мамонтовым, который не только сам пробовал заниматься музыкой, поэзией и скульптурой, но и всячески поддерживал талантливых людей. Еще в 70-е гг. в его подмосковном имении Абрамцево собирались известные художники, артисты, поэты, среди них – Репин, Васнецов, Шаляпин, Станиславский. В 80-е гг. мамонтовский кружок вместе с Левитаном и Врубелем стал посещать и Коровин. Остроумный, подвижный и талантливый Костенька Коровин, как его тогда называли, быстро стал любимцем общества. Для театра Мамонтова молодой художник начал создавать свои первые декорации. Оформив по эскизам В. Васнецова декорации к опере Н. А. Римского-Корсакова «Снегурочка», Коровин открыл в себе дар театрального художника. Не случайно в первые годы самостоятельного творчества в художественных кругах Коровин был известен больше как декоратор, нежели живописец. В течение 16 последующих лет его деятельность была связана с оформлением постановок Частной оперы, которая образовалась из Любительского театра Мамонтова. «Аида», «Кармен», «Псковитянка», «Орфей», «Орлеанская дева», «Фауст» и еще множество других спектаклей были поставлены при активном участии Коровина. В Частной опере он сформировался как художник сцены и приобрел широкую известность в театральном мире. Весь свой накопленный опыт он с успехом использовал позже, оформив около 150 постановок императорских театров.