В 1976 году Маккой вошел в состав группы гитариста Берни Торме (Bemie Torme) SCRAPYARD, заменив Бернарда Хегли (Bernard Hagley). Джон тогда носил длинные волосы, свободную одежду и, по словам Торме, напоминал Демиса Руссоса. Ребята играли песни ZZ ТОР и THE ROLLING STONES, а с чужим репертуаром сложно достичь успеха. Когда Маккой предложил Торме переименовать SCRAPYARD в McCOY (якобы новое название более благозвучное и поможет группе стать популярной), тот отказался, а Джон ушел из ансамбля, оказавшись в NEO. Этот коллектив был создан вокалистом Иеном Нортом (Ian North). Вместе с ним играли гитарист Стив Бирд и барабанщик Брисон Грэм (Bryson Graham). Интересно, что NEO записывались в студии Гиллана, «Kingsway Recorders».
Следующий этап в карьере Маккоя — участие в группе SAMSON, той самой, куда годом позже придет будущий вокалист IRON MAIDEN Брюс Дикинсон. Их дебютный альбом Survivors вышел уже тогда, когда Джон ушел к Гиллану. Маккой был принят в группу Гиллана без раздумий.
Из списка гитаристов Геноки выбрал Ричарда Брэмптона (Richard Brampton). Но после нескольких репетиций Маккой сказал Таунсу, что он знает музыканта получше. Джон повел Колина на концерт группы Сони Кристины (Sonja Kristina, экс-вокалистка CURVED AIR) в лондонском клубе «Music Machine», чтоб тот увидел кандидата в деле. Этим гитаристом был Стив Бирд. Таунсу Стив понравился.
Когда Иен вернулся после небольшого отпуска, Колин представил ему уже готовую, сыгранную группу. Иен назвал ее просто — GILLAN. Как оказалось, проверку временем прошел только Маккой. Он стал настоящей находкой. Кроме отменного владения инструментом, благодаря своему внешнему виду (толстый, лысый, с бородой, иногда в черных очках), Джон стал изюминкой сценических представлений группы. Главным же генератором идей был Колин Таунс. Он давно понимал, что джаз-роковая трясина — это не то, чем должен заниматься Иен.
Новоиспеченная группа собралась в студии, записав песню «Fighting Man», а 27 августа 1978 года на престижном фестивале в Ридинге состоялось боевое крещение группы. GILLAN вышли на сцену после ALBION BAND, SQUEEZE и Джона Оутвэя (John Otway). Следует отметить, что основная масса зрителей были поклонниками панк-рока, и они приняли Гиллана с коллегами улюлюканьем и советами «катиться к такой-то матери». Многие из них пришли на Тома Робинсона (Tom Robinson) и Пат-ти Смит (Patti Smith), которые в тот день были заявлены «главными музыкантами». Иена новое поколение относило к отжившим свое динозаврам. Но GILLAN дали жару, доказав, что их еще рано списывать на пенсию. После этого выступления Геноки ушел в группу Джерри Рафферти, который в то время высоко поднял свои акции, выпустив успешный альбом City То City.
На место Лайама Стив Бирд привел Пита Бэрнэкла (Pete Barnacle) из группы Сони Кристины (ранее он также был членом NEO). Пит сел за ударную установку, показав, на что способен. «Он работал на совесть, имел солидную подготовку, был молод и решителен», — вспоминает Таунс.
На свои первые гастроли в ипостаси хард-группы GILLAN отправилась уже с новым менеджером. Дэйва Хэнфилда (Dave Hanfield) сменил Фил Бэнфилд (Phil Banfield) по кличке «Сделай им херово» (Bung’em’il). До лета 1978 года Фил сотрудничал с Иеном как агент по организации концертов. Однажды, после выступления IAN GILLAN BAND в «Queensway Hall» г. Данстабл, Гиллан спросил мнение Фила. Тот ему прямо в глаза заявил, что выступление было ужасным, сказав, что видел выражение лиц у зрителей: «Ты же рок-певец, а не джазовый исполнитель. Все ваши песни — просто нагрузка к «Smoke On The Water»!» Узнав, что Иен собрал новую группу и собирается играть старый добрый хард-рок, Бэифилд позвонил ему и сказал, что уж теперь-то можно смело гастролировать по Европе, после чего Гиллан предложил ему место менеджера.
Первой на очереди была Германия. Дебютный концерт немецкого тура состоялся 3 сентября 1978 года в г. Вайзенах. Группа выступала как в небольших городках (Мильтенберг, Дельменхорст), так и в крупных (Гамбург и Киль).
28 и 29 сентября музыканты сыграли два концерта в «Marquee», 6 октября — в Salford University (г. Манчестер) и 7-го — в «Barbarella Club» (г. Бирмингем).
В октябре в Японии вышел альбом Gillan (он также известен как Japanese Album). До сих пор остается неясным, кто именно исполнил на нем партии ударных, Геноки или Бэрнэкл. На конверте оригинального винилового издания указан Лайам, на «компактовом» варианте — Пит.
Уже первый номер диска Gillan, «Secret Of The Dance», показывает, что Гиллан вернулся к той музыке, благодаря которой стал знаменитым. Интенсивная и энергичная композиция задала тон всему альбому.