Таким образом, была собрана значительная армия. Не отдыхая от своего похода на Белое море, Петр немедля, в сентябре же 1702 года, начал поход к морю. Этим самым восприяла начало его знаменитая операция завоевания Ингрии. До Петра московские стратеги считали Нарву ключом ко всей Ингрии и Невским устьям. Так вначале думал и Петр, почему и покусился, прежде всего, на Нарву. Теперь он думает иначе и строит свои расчеты по-новому. Осенью 1702 года он берет штурмом Нотебург и, не забывая его старого новгородского имени «Орешек», называет его, однако, новым именем «Шлиссельбург» (Ключ-город), выражая этим мысль, что, захватив эту крепость, он овладел ключом к Ингрии и морю.
Весь ноябрь 1702 года Петр провел в устройстве вновь приобретенного города, укреплял его поврежденные осадой стены, был «зело обременен артиллерией неприятельской» (было взято 150 пушек) и занят отправкой шведского «полона» в Москву. К январю 1703 года он был уже в Москве, затем отправился в Воронеж, а в марте был уже в Шлиссельбурге и начал поход к морю по Неве.
Первого мая была взята шведская крепость Ниеншанц («Канцы») при впадении р. Охты в Неву. Ее положение не понравилось Петру: укрепление Ниеншанца слишком мало, и по характеру местности увеличить его невозможно; сам город далеко от моря. Петр решил искать в устьях Невы другого места для крепости и порта. И в том же мае была основана Петропавловская крепость, а под ее стенами город, который в первые дни назывался «Петрополем», а затем получил имя «Питербурха» или «Санкт-Петерсбурга». Таким образом, все течение Невы было завоевано и укреплено. Но этим Петр не удовлетворился, а вышел из Невы в залив и на острове Котлине к началу навигации 1704 года создал «ситадель Кроншлот» и несколько батарей, под защиту которых поставил флотилию из судов морских типов, построенную к тому времени на Олонецкой верфи. Выросла, стало быть, цепь укреплений в занятом районе; взять их атакой в лоб шведам с моря было бы чрезвычайно трудно: приходилось брать четыре ряда укреплений: Кроншлот («ситадель на фарватере»), Петрополь, Канцы и Шлиссельбург. Возможность фланговых атак Петр также предвидел. Они и были: в 1703 году с севера угрожал русским на Неве шведский генерал Крониорт, а позднее, в 1704 году, генерал Майдель.
В нескольких столкновениях у самого Петербурга и на реке Сестре русские отбили атаки шведов. Но северное направление не особенно беспокоило Петра. На севере, в глухой Финляндии, не было крупных шведских сил. Главным театром военных действий в данный момент был южный берег Финского залива. Там действовали крупные отряды шведов; оттуда мог явиться сам король Карл. Предупреждая возможность шведского нападения с этого фронта, Петр тотчас же по взятии Ниеншанца, летом 1703 года, в самые дни основания Петербурга, уже двинул Шереметева в Нарвском направлении. Шереметев взял Копорье и Ямбург. Последней крепости придавали тогда большое значение оплота со стороны Эстляндии. Петр сам посетил Ямбург и приказал спешно его укрепить, «понеже великое дело в том состоит». «Работали, как наискорее, всеми солдатскими полками»; трудилось до 22 000 человек.
Таким образом, определилось, что с левого фланга защитой Ингрии будет течение реки Луги и на ней крепость Ямбург. Но военное счастье улыбнулось Петру: летом 1704 года русским удалось взять Дерпт и Нарву. Этим задача обороны Ингрии и Петербурга с запада и юга была окончательно решена. Ямбург сыграл роль не оборонительного оплота, а базы для действий против Нарвы, прочно теперь захваченной Петром. Не так хорошо и гладко обстояло дело на правом фланге. В 1706 году Петр пробовал осадить Выборг, в котором он правильно видел опорный пункт для операций шведов против Петербурга. Осада не удалась. Она была повторена с успехом только в 1710 году. Выборг сдался, и Петр изобразительно определил значение своего успеха: «уже крепкая подушка Санкт-Питербурху устроена», писал он в одном из частных своих писем. Действительно, с этих пор Петербург мог быть спокойным за свое ближайшее будущее.