Первоначальное отсутствие поддержки планов Юстиниана его советниками и военачальниками было вполне оправданно: во многих отношениях это завоевание являлось просто уловкой. Победа в Африке была бесспорной, но она имела место на довольно ограниченной территории. К тому же у Юстиниана не было времени ни стабилизировать положение, ни укрепить страну; в 568 году лангобарды без труда захватили большую часть страны, хотя при этом Византия сохранила за собой Южную Италию и Равеннский экзархат до самого Рима. Завоевание Рима, стоившее непомерных усилий, заставило пренебречь защитой и укреплением других провинций, в особенности крепостей на Балканах, и это в тот самый момент, когда началось славянское вторжение в империю.
Как видно, Юстиниан руководствовался не столько военными, сколько идеологическими соображениями, и главным из них было стремление к восстановлению римского единства. Юстиниан имел ясное представление о реформах, необходимых для осуществления и укрепления своей власти. Была проведена кодификация права, выполненная его квестором священного Дворца Трибонианом. Он приказал свести все действующие законы в единый Кодекс, ставший известным как Кодекс Юстиниана. Кроме того, он приказал объединить труды по юриспруденции в «Дигесты» и снабдил тех, кто изучал римское право, учебником «Институции»; и, наконец, именно он повелел объединить все законы, появившиеся вслед за обнародованием Кодекса в 529 году, в единый сборник. В основном они были написаны на греческом языке, так как это был язык, на котором говорила значительная часть населения империи, ставший ее официальным языком.
Юстиниан попытался также реформировать управление империей, опираясь на двух префектов претория. Они зарекомендовали себя весьма способными людьми, но все население их ненавидело. Это были Иоанн Каппадокиец и Петр Варсима. В провинции царила анархия, порядок там поддерживало ополчение, состоявшее на службе у власть имущих. Они навязывали свое покровительство землевладельцам в ущерб городской аристократии и мелким землевладельцам, являвшимся основными налогоплательщиками. Зная это, Юстиниан попытался вернуть себе власть, отдав управляющим провинциями всю совокупность гражданских и военных полномочий, которые в Риме традиционно были разделены. Ему удалось внедрить это в Африке и в Италии, но его попытка в 535—536 годах провести везде такую реформу закончилась полным провалом: ее пришлось отложить до 548 года.
В 541—542 годах у Юстиниана появилась новая проблема: началась эпидемия чумы, до тех пор неизвестной в римском мире. В течение четырех месяцев она терзала Константинополь и повторилась в 557—558 годах.
Несмотря на неоднократное откладывание сбора налогов, население все менее поддерживало налоговую систему, предназначенную для возвеличивания империи. Смерть великого императора 14 ноября 565 года была воспринята с большим облегчением.
Хотя Византия сохранила Африку до 670 года, но быстрая потеря Бетики и большей части Италии возвратила империю Юстиниана, теперь грекоговорящую, к ее восточной основе. К тому же ей угрожало новое вторжение — славянское. С конца V века славяне обосновались на Дунае, однако подвергались сильному давлению со стороны двух племен — болгар и аваров, пришедших с Востока. Начиная с 550 года, они регулярно предпринимают попытки пересечь Дунай. Несмотря на то что у славян не было ни серьезной политической, ни военной организации, империя в результате отсутствия у нее серьезной линии защиты оказалась неспособной сдержать стремительный напор этих пришельцев в период с 580—581 до 587—588 годов, и они заполнили Балканы вплоть до южной границы — мыса Мале, оставив под византийским контролем только тонкую прибрежную полосу; сельские поселения, окружающие такие важные города, как Фессалоники, оказались полностью славянизированными. От вторжения не пострадала только Фракия.
Правда, славяне не представляли серьезной опасности для столицы из-за отсутствия у них жесткой политической организации. Но авары, очень воинственный народ, начиная с 586 года, неоднократно осаждали Фессалоники. Затем, в период с 27 июля по 10 августа 626 года, они подвергли штурму Константинополь, в результате которого захватили город. Они разграбили Влахернскую церковь Богородицы, находившуюся тогда вне стен города, откуда население успело забрать реликвии. Они не смогли взять штурмом городскую стену, в то время как корабли славян были сожжены «греческим огнем». Авары ушли и более не возвращались, но империя практически сократилась до ее азиатской части и африканских территорий, откуда в 610 году пришел Ираклий, сын экзарха Карфагена, изгнавший кровожадного тирана Фоку.