Сперва Иван избавился от своих ближайших советников, личного духовника отца Сильвестра и дворянина Алексея Адашева, объявив, что они замышляли убить Анастасию. Затем он покинул Москву и удалился в провинцию, фактически заточив себя в монастырь. Депутация из представителей всех слоев общества явилась к нему и умоляла вернуться на престол, дабы избежать безвластия. Иван согласился при условии, что ему будет позволено управлять страной так, как он считает нужным, без какого-либо постороннего вмешательства. Разумеется, его условия были приняты, и царь возвратился в столицу. Первым делом он разделил российский народ на две большие группы. Одной частью безраздельно правил царь, а другой управляла армия его чиновников.
Затем, чтобы хорошенько напугать своих подданных, Иван ввел печально знаменитую опричнину. Опричники наделялись чрезвычайными полномочиями карать врагов государства. Они разъезжали повсюду в черных плащах, на черных конях, и на седлах у каждого было изображение метлы и собачьей головы. Эти люди с безграничной жестокостью расправлялись со всеми, кого подозревали в заговоре против Ивана. С их помощью царь свел многие старые счеты. С плеч полетели головы более четырех тысяч дворян. Семья Старицких, доводившаяся родственниками Ивану и, следовательно, представлявшая потенциальную опасность для его власти, была полностью уничтожена. Когда митрополит Филипп, глава московской православной церкви, проклял опричников и отказался благословить царя, безжалостные черные всадники выследили старика и жестоко с ним расправились.
Иван Грозный сам нередко принимал участие в оргиях опричников, пытая, насилуя и убивая вместе с ними. Его ярость была неописуема, когда один из информаторов доставил донесение о том, что жители Новгорода, второго по величине и значимости города тогдашней России, замыслили мятеж. Не давая себе труда проверить информацию, которая наверняка не соответствовала действительности, Иван с отрядом опричников отправился на север разорять дворянские семьи, монастыри и церкви в радиусе восьмидесяти километров от злосчастного города. Опустошив все окрестные поля, царь повелел обнести Новгород деревянным забором, дабы никто не убежал, и затем пять недель наблюдал за самой настоящей резней, а временами и сам принимал в ней участие.
Жен и мужей заставляли смотреть, как пытают их детей и родителей. Многие женщины были живьем зажарены на вертелах. Массовыми убийствами занимались почти как спортом. Один немецкий торговец писал: «Усевшись на лошадь и размахивая копьем, он (Иван) разгонялся и сходу нанизывал людей на острие, развлекаясь подобным образом на глазах у собственного сына…». Позже советские схоласты утверждали, что тогда погибло не более двух тысяч человек, но западные историки полагают, что в Новгороде было уничтожено около шестидесяти тысяч невинных жителей. Садистская расправа Ивана над Новгородом и позже над Псковом, также заподозренным в измене, произвела неизгладимое впечатление на царских оппонентов. Когда русские войска вторглись в соседнюю Ливонию, один из осажденных гарнизонов предпочел взорвать себя, лишь бы не попасть в лапы свирепого тирана.
В 1572 году Иван Грозный внезапно распустил опричников и запретил всякое упоминание о них. На протяжении всей жизни вспышки невероятной жестокости сменялись у царя периодами маниакальной религиозной депрессии. Тогда он публично каялся в грехах и надевал рубище. Быть может, это было действительно искреннее раскаяние после шести лет террора. Также возможно, что турки, атаковавшие южные границы России, заставили царя отложить разборки с врагами внутри страны или же к тому времени Иван уже уничтожил всех, кто ему мешал.
Многолетнее кровавое правление легко сходило Грозному с рук благодаря поддержке православной церкви. Западная Европа переживала религиозный кризис, и православное духовенство опасалось, что протестантское свободомыслие проникнет на русскую землю, ослабив их власть над темным, непросвещенным народом. В обмен на поддержку своей жесткой линии в отношении различных религиозных ересей, не исключавшую даже сжигание на костре, православная церковь обеспечивала безоговорочное отпущение грехов и со временем превратилась в царский пропагандистский орган. Если очередной крестьянский бунт жестоко подавлялся, во всех грехах принято было винить нерадивых, продажных чиновников. Иван Грозный, конечно же, был ни при чем.