В 1955 году Майлс Дэвис, лидер самого знаменитого джаз-квартета того времени, решил пригласить Колтрей- на в свой коллектив. Разумеется, он знал, что этот молодой человек занимается на саксофоне часы и дни напролет и потому владеет блестящей техникой. Но Дэвис уловил в игре Колтрейна что-то необычное, сумел услышать рвущийся наружу новый, неповторимый голос. Он всячески подбадривал Колтрейна, убеждая его смело и без оглядки идти своим путем. Временами Дэвис жалел о своем выборе — музыкант, которого он взял, с трудом вписывался в его команду. У Колтрейна была странная, изломанная, угловатая манера, не похожая на текучий стиль остальных музыкантов. Быстрые пассажи он чередовал с протяжными звуками, когда подолгу тянул аккорды, так что создавалось впечатление, будто саксофон звучит одновременно несколькими разными голосами. Никто прежде не достигал подобного эффекта. Окраска звука тоже была совершенно необычной; Колтрейн захватывал мундштук каким-то особым способом, очень плотно, и слушателям казалось, что к звуку инструмента примешивается низкий голос самого музыканта. В его игре чувствовались тревога, агрессия, придававшие музыке особую напряженность.
Хотя многих это необычное новое звучание отпугивало, некоторые критики находили в нем что-то притягательное, волнующее. Один критик в своем описании игры Колтрейна заметил, что из его саксофона вылетают «пласты музыки», как если бы Джон проигрывал одновременно множество нот, целые группы, неразделимые в едином потоке, сметающем слушателя. Но, даже обретя признание и известность, Колтрейн не почивал на лаврах. Он продолжал сомневаться и искать. Все эти годы, не оставляя постоянных упражнений и музыкальных экспериментов, он искал что-то неуловимое, что едва ли мог передать словами. Он яростно пытался сделать звук своего инструмента уникальным, неповторимым, стремился передать через него самую суть своей личности, немедленно выразить все, что чувствует, что бурлит у него внутри, — зачастую это были переживания духовные и трансцендентальные, облечь которые в слова вряд ли возможно.
Возможно, помехой были глубокие знания, которые стесняли и ограничивали музыканта. В 1959 году Колтрейн расстался с Майлсом Дэвисом и организовал собственный квартет. Теперь ничто не препятствовало ему почти все время экспериментировать и пробовать, пока он не нашел наконец звук, которого искал.
Его композиция «Гигантские шаги» из первого альбома с тем же названием разрушала все существующие музыкальные условности. Сложные переходы тональностей, отстоявших друг от друга на терцию, создавали впечатление лихорадочных скачков. (Такие переходы тональностей через терцию получили название «замены Колтрейна», их теперь используют в джазовых импровизациях музыканты по всему миру.)
Теперь ему хотелось вернуться к мелодичной музыке, найти что-то свободное и более выразительное. В поисках он неожиданно для себя обратился к музыке своего раннего детства — негритянским спиричуэлс. В 1960 году Колтрейн создал невероятно популярный хит, расширенную версию композиции «Мои любимые вещи» из нашумевшего бродвейского мюзикла «Звуки музыки». Он исполнил ее на сопрано-саксофоне в необычном стиле, напоминавшем и о музыкальной культуре Вест-Индии, и о спиричуэлс, но с характерными «колтрейновскими» изменениями гармонии и тональных планов. Это была причудливая смесь экспериментальной и популярной музыки, не похожая ни на что, сделанное до него.
Колтрейн превратился в своего рода алхимика, совершающего почти невозможное путешествие в поисках самой сущности музыки. Он всей душой желал заставить музыку глубже и точнее передавать бушующие в нем чувства, с ее помощью установить связь с подсознанием. И он мало-помалу продвигался к своей цели. В балладе «Алабама», написанной в 1963 году в ответ на акцию куклуксклановцев, взорвавших негритянскую церковь в городе Бирмингем, штат Алабама, Колтрейну удалось передать свою боль и смятение. Казалось, это не просто музыка, а настоящее воплощение тоски и безысходности.