Пока Георгий Гапон весной-летом 1905 года наблюдал за происходящими в Российской империи событиями из-за рубежа, Петр Рутенберг активно действовал. По решению ЦК партии эсеров он был назначен руководителем военной организации, занимавшейся боевой подготовкой масс и приобретением оружия. Летом 1905 года он принимал участие в попытке доставить оружие в Россию на пароходе «Джон Крафтон», которая закончилась неудачей.
В начале осени 1905 года он был арестован в Петербурге по доносу провокатора, освобожден из тюрьмы после выхода «Манифеста 17 октября». В ноябре-декабре того же года Петр Рутенберг возглавлял боевую дружину эсеров в одном из рабочих районов Санкт-Петербурга.
Так или иначе, он был вынужден отправиться в эмиграцию, где начался новый этап в его жизни. Биографы практически не сообщают о его личной жизни в российский период.
По некоторым сведениям, он принял православие, чтобы жениться на русской женщине. Впоследствии он вернулся к иудаизму. Вот как он сам десять лет спустя характеризовал революционный период своей жизни:
«Как и большинство еврейской учащейся молодежи моего поколения, молодежи из черты оседлости, я должен был преодолевать "нормы" и "проценты", чтобы добиться высшего образования, права жительства. И в большом городе, в его большой жизни, вдали от семейного круга, я обнаружил путь и потребность, которая зрела во мне еще с детских лет, там, в еврейском "гетто", — потребность в протесте и борьбе против притеснения и преследования. И тогда я добровольно вступил в лагерь русских революционеров и служил ему с преданностью изо всех моих сил. Верой и правдой, не за страх, но за совесть. Всего себя я посвятил этому служению, все, что было в моих силах. Русская литература, наука, искусство и музыка раскрыли предо мной всю глубину страдания русского народа. Страдания евреев переплетались и соединялись с ними. Будучи изначально далеким от этих страданий, я все больше и больше видел их, все больше и больше слышал их…. В результате этого влияния, я, как и многие люди моего круга, удалялся все дальше от своего многострадального народа, пока не оторвался и не ушел от него окончательно».
Он эмигрировал в Италию и порвал со своим революционным прошлым. Вот тут ему пригодился диплом инженера, полученный в Санкт-Петербургском университете. Он занялся гидротехникой. Тогда же он впервые обращается к специфическим еврейским проблемам:
«В то время, еще задолго до войны, встали передо мной следующие вопросы. Почему я, культурный человек, обладающий определенным авторитетом, почему я стесняюсь своего "еврейского происхождения" и пытаюсь всеми силами и способами скрыть его от неевреев? Почему так же поступают очень многие другие евреи, люди, без сомнения, обладающие уважением и авторитетом? Почему неевреи, те люди, к которым я отношусь с большим уважением, даже близкие мне, мои товарищи революционеры, за единичными исключениями, почему и они не "любят" евреев, почему они в глубине души — антисемиты? Почему этот антисемитизм, в той или иной форме, существует не только в России, где есть так много бесправных, преследуемых и унижаемых евреев, но и в других странах, где евреев мало и они имеют все гражданские права?»
Петр Рутенберг приходит к выводу, что еврейский вопрос может быть решен только путем национальной организации еврейского народа. Именно с этого времени он целиком посвящает себя сионизму. Среди его достижений во время Первой мировой войны — участие в создание Американского Еврейского Конгресса. Тогда же он под псевдонимом Пинхас Бен-Ами издает на идиш свою книгу «Национальное возрождение еврейского народа», написанную им по-русски в Италии.
Будучи в Америке, Петр Рутенберг разработал детальный ирригационный план для Палестины и план использования гидроэнергии. Претворение этого плана в жизнь становится его мечтой. Хотя судьба вновь отправляет его в Российскую империю.
В феврале 1917 года Петр Рутенберг был одним из многих эмигрантов, приветствовавших революцию и желавших вернуться в Россию. Когда в Нью-Йорк прибыл посланник нового правительства Борис Бахметьев, представители русской эмиграции организовали ему восторженную встречу в зале Мэдисон-Сквер-Гарден. Петр Рутенберг был избран председателем собрания. В этом мероприятии участвовали и еврейские активисты, например, редактор газеты «Форвертс» Эйб Каган.
Благодаря своим связям Петр Рутенберг смог покинуть Нью-Йорк на одном из первых направлявшихся в Россию пароходов уже в июле 1917 года. В Петрограде его тепло встретил соратник по партии эсеров Александр Керенский, возглавлявший Временное Правительство и нуждавшийся в энергичных единомышленниках. Несмотря на 12-летнее отсутствие в России и фактический отход от деятельности эсэров, уже через несколько дней Петр Рутенберг был назначен заместителем губернского комиссара Санкт-Петербурга (должность, аналогичная губернатору в царской России).