Основные события развернулись восточнее - по реке Дону. Для похода к Азову выделили 31 тыс. человек - отборные русские полки. Половину из них во главе с Головиным и Лефортом отправили из Москвы 30 апреля водой - ратнпки плыли по Москве-реке, Оке и Волге. 8 июня прибыли в Царицын. Отсюда до казачьего Паншина городка на Дону войско шло пешим путем. Преодолевая трудности, лишения, войско собралось в Паншине. В нем находился и царь - бомбардир. Поплыли вниз по реке, достигли Азова 29 июня. Подошло войско Гордона, шедшее сухим путем. Оно сильно запоздало - нужно было строить мосты через реки, преодолевать непослушание стрельцов.
Началась осада Азова. Длилась она три месяца и лавров русскому оружию не принесла.
Плохая подготовленность похода, поспешность штурмов, непредусмотрительность и неумение в ряде случаев делать минные подкопы, управлять войсками, отсутствие флота заставили Петра отдать в начале октября приказ об отступлении. Оно тоже сопровождалось потерями людей, и немалыми: одни утонули в разлившемся Дону, другие умерли от голода и холода, когда шли степью до Валуек, первого южного русского города, так как, несмотря на раннюю зиму, солдаты были одеты легко, не по сезону. Царь в своих письмах откровенно называет неудавшееся военное предприятие «походом о невзятии Азова».
Уже тогда не в привычке Петра было опускать руки от первой же неудачи. В нем удваивалась и утраивалась энергия. Царь принял немедленные меры: все сухопутные войска поручил командующему генералиссимусу А. С. Шеину; флот, который нужно было еще построить, - адмиралу Лефорту. В ноябре был объявлен сбор дворянского ополчения, а в январе - призыв вступать в армию для участия во втором походе на Азов всех желающих, в том числе холопов, которые тут те получали свободу. Немалое число их воспользовалось царским указом.
В Воронеже и его окрестностях Петр устроил верфи. Выбор места не был случайным. На берегах Дона и Вороны уже издавна строили плоскодонные речные суда - струги. Вокруг Воронежа росли хорошие корабельные сосны. Петр зимой сам направился в Воронеж, несколько месяцев наблюдал за постройкой судов, сам не раз брал в руки топор. Сюда из окраинных городов согнали 26 тыс. плотников. Трудная работа, зимняя стужа, пожары и спешка мешали строительству. 29 января неожиданно умер старший брат Петра царь Иван, и он уехал на похороны, но тут же вернулся, хотя у него сильно разболелась нога. Усилия и мучения дали плоды - к началу апреля начали спускать на воду суда, а изготовили их немало: 23 галеры, 2 корабля, 4 брандера и 1300 стругов. Подходили к Воронежу войска - до 40 тыс. человек. 3 мая длинная вереница судов поплыла вниз по Дону-батюшке. На галере «Принцнпиум» находился капитан Петр Алексеев, сам ее и построивший. У Азова, помимо Петрова войска, должны были воевать казаки, донские и запорожские.
В конце мая русская армия пришла к своим прошлогодним шанцам (окопам), обновила их и начала бомбардировку Азова. 12 тыс. человек днем и ночью возводили земляной вал, с тем, чтобы сделать его выше крепостных стен. Осажденные попытались помешать осуществлению этого замысла, предложенного Гордоном, но их отбили. Город окружили со всех сторон. На реке действовала русская флотилия - сначала казаки на небольших судах уничтожили турецкие корабли, разгружавшиеся у стен крепости; потом русская эскадра вышла в море, где на рейде располагались тяжелые турецкие корабли с 4 тыс. пехоты, запасами продовольствия, снаряжением, и не позволила войти им в устье Дона, пройти к осажденной крепости.
Турецкий гарнизон, видя безнадежность своего положения, капитулировал. Его командование оговорило сохранение жизни своим солдатам и их семьям, выход из крепости вместе с личным оружием. Победителям достались 136 пушек.
Разрушенную крепость, в которую русские вошли 19 июня, Петр после пира и пышного салюта велел восстановить. Вскоре нашли удобную гавань для флота - в Таганроге.
Царь и его войско, оставив в Азове гарнизон, вышли из него в августе. Царь останавливался в имениях своих вельмож, посетил тульские металлургические заводы. С этого посещения и началось, как говорит предание, возвышение тульского мастера Демидова и его потомков, будущих уральских заводчиков, богатейших русских промышленников, баронов. Петр после разговора с ним велел выдать мастеру из казны 5 тыс. руб. для постройки оружейного завода. Демидов с лихвой оправдал надежды, возлагавшиеся на него царем, временем и потребностями быстро развивавшейся страны.