Иоанн избавился таким образом от турок, но не избавился от крымского хана, который не переставал требовать Казани и Астрахани. Очевидно, это было только предлогом к нападению. Всё лето 1570 года прошло в тревогах, в ожидании татарского нашествия. Войско русское стояло на Оке; сам Иоанн два раза выезжал к нему по вестям о приближении хана. Но вести оказались ложными, и царь уже было успокоился, думая, что татары не затевают ничего особенного. Весною 1571 года тревога возобновилась. Воеводы с 50 000 войска отправились к Оке; сам царь с опричниною выступил в Серпухов. На этот раз тревога оказалась не мнимая: хан Девлет-Гирей, собрав 120 000 войска, пошёл к московским украйнам. В степи к нему прибежали дети боярские и сказали, что «во всех городах московских два года сряду был большой голод и мор, много людей померло, а много других государь в опале побил, остальные воинские люди и татары все в немецкой земле; государя ждут в Серпухове с опричниною, но людей с ним мало; ты ступай прямо к Москве; мы проведём тебя через Оку». Хан пошёл по указанию изменников и переправился через Оку. Отрезанный от главного войска, Иоанн поспешил отступить из Серпухова в Бронницы, оттуда в Александровскую слободу, а из слободы в Ростов, чтобы спастись от неприятеля, спастись от изменников: ему казалось, что воеводы выдают его татарам!
Узнав, что хан уже за Окою, воеводы предупредили его, пришли в Москву 23-го мая и расположились в её предместьях, чтобы защищать город. 24-го мая, в праздник Вознесения, хан подступил к Москве. Утро было ясное и тихое. Хан приказал зажечь предместья. Русское войско готовилось к смертному бою, как вдруг вспыхнул пожар сразу во многих местах. Запылали сначала деревянные домишки по окраинам предместьев. Быстро с кровли на кровлю перебегал огонь по скученным деревянным постройкам и с треском пожирал сухое дерево. Небо омрачилось дымом; поднялся вихрь, и чрез несколько минут огненное, бурное море разлилось из конца в конец города с ужасным шумом и рёвом. Никакая сила человеческая не могла остановить разрушения: никто не думал тушить. Забыли о татарах. Жители Москвы, толпы людей, бежавших из окрестных мест от татар, воины — все в беспамятстве искали спасения и гибли под развалинами пылающих зданий или давили друг друга в тесноте, стремясь в город, но отовсюду гонимые пламенем; многие бросались в реку и тонули. Начальствующие люди уже не повелевали — их не слушались, успели только завалить ворота Кремля, не впуская никого в это последнее убежище спасения, ограждённое высокими стенами. Люди горели, падали мёртвые от жара и дыма в каменных церквах. В три часа не стало Москвы — ни посадов, ни Китай-города; уцелел один только Кремль, где в Успенском соборе сидел митрополит Кирилл с святынею и с казною. Любимый Арбатский дворец Иоаннов исчез. Главный воевода, князь Бельский, задохся в погребе на своём дворе. Погиб главный доктор царский Арнольф Ликзей и 25 лондонских купцов. Людей погибло невероятное множество — более 120 000 воинов и граждан, кроме женщин, младенцев и сельских жителей, бежавших в Москву от неприятеля, а всего около 800 000 человек. Москва-река не пронесла мёртвых: нарочно поставлены были люди спускать трупы вниз по реке.
Этот необыкновенный пожар поразил страхом даже и самих татар. Среди почти сплошного огня им было уже не до грабежа. Хан приказал своей орде отступить к селу Коломенскому. Осаждать Кремль он не решился и ушёл со множеством пленных (по некоторым известиям до 150 000); услыхав о приближении большого русского войска, Девлет-Гирей оставил Иоанну такую надменную грамоту: