Времена были слишком нестабильны для яростных взаимных обвинений. Нацистскую партию запретили; Гиммлер потерял работу и вынужден был униженно вернуться домой. Дом теперь находился в Мюнхене, куда семья снова переехала в 1922 году. Рем, к которому Гиммлер продолжал относиться с уважением и любовью, как к старшему товарищу-офицеру, подобно другим участникам неудавшегося путча, находился в тюрьме. 15 февраля 1924 года Гиммлер попросил у Баварского министерства юстиции разрешения посетить Штадельхеймскую тюрьму, где содержался Рем. Он приехал в тюрьму на мотоцикле, взяв с собой несколько апельсинов и выпуск газеты «Гроссдойче цайтунг». «Двадцать минут говорил с капитаном Ремом, — записал он по возвращении. — Мы прекрасно побеседовали и были абсолютно откровенны». Они обсуждали разных людей, Рем благодарил за апельсины. «Он сохранил свое чувство юмора, он все тот же добрый капитан Рем», — отметил Гиммлер.
На суде над заговорщиками, который начался 26 февраля и продлился 3 недели, Гитлер выступал так, будто был обвинителем, и процесс превратился в глупую формальность. Гитлера признали виновным и вынесли условный приговор, а Рема освободили, хотя и объявили виновным в государственной измене. Гитлер был заключен в замок Ландсберг, Рем же проводил в жизнь собственные планы основания революционного военного движения, пока Гитлер, диктовавший книгу «Моя борьба», намеренно позволил своей ушедшей в подполье партии дезинтегрироваться в его отсутствие. К тому времени, когда Гитлера освободили (во многом благодаря расположению к нему баварского министра юстиции Франца Гюртнера), Рем уже не был желанным членом партии Гитлера. В апреле 1925 года он был вынужден послать Гитлеру свое заявление об отставке с должности командира штурмовиков.
Гиммлер в это время тоже был активен. К огромному неудовольствию семьи он отказывался искать работу: он говорил, что хочет быть свободен для занятий политикой. Националисты и антисемитские крайне правые группы, называемые народниками, больше всего соответствовали распущенной нацистской партии. Самыми выдающимися их сторонниками были Людендорф, Грегор Штрассер и Альфред Розенберг. Вместе группы народников имели сильное влияние в баварском правительстве, и в 1924 году во время выборов в рейхстаг им удалось получить достаточную поддержку для того, чтобы обеспечить себе 32 места. Штрассер, Рем и Людендорф были среди тех, кто стали депутатами рейхстага.
Такой успех конечно же привлекал Гиммлера. Имея много свободного времени, он принял участие в политической кампании народников в Нижней Баварии. Он начал приобретать опыт участника выступлений на политических митингах; он объездил все городки и деревни в окрестностях Мюнхена и говорил о «порабощении рабочих биржевыми капиталистами» и о «еврейском вопросе». «Труден и мучительно тяжел для людей этот долг», — пишет он после сложной встречи в деревне, на которой присутствовали крестьяне и коммунисты. Так же, как и другие выступающие, он смешивался с толпой слушателей и поощрял отдельные высказывания. Таким образом, основа его первых политических опытов закладывалась в той же суровой школе, что и у молодого Йозефа Геббельса, который был втянут в ту же область политики и выступал на подобных собраниях в промышленной области Рур.
Имя Гитлера едва упоминается в уцелевших дневниках Гиммлера. 19 февраля 1924 года Гиммлер замечает, что читал друзьям брошюру «Жизнь Гитлера», но с уходом Рема ему нужно найти нового руководителя, которому он мог бы предложить свои услуги и у которого, возможно, смог бы получить оплачиваемую работу.
Он вновь присоединился к нацистской партии 2 августа 1925 года; в этот же период он поступил на работу к Грегору и Отто Штрассерам — братьям-баварцам, которые были одними из главных руководителей восстановления нацистского движения. У Штрассеров было фармацевтическое предприятие в Ландсхуте. Они были неудобными партнерами для Гитлера, который, освободившись из Ландсберга 20 декабря 1924 года, в возрасте 35 лет снова начал сосредотачивать власть в своих руках. Если Штрассеры были за компромисс с другими националистскими группами, то Гитлер был полон решимости основать новую сильную политическую партию, над которой он имел бы полный единоличный контроль. В месяц освобождения Гитлера из тюрьмы союз нацистов и народников после вторых выборов потерял большинство мест в рейхстаге[7], сохранив лишь 14 из 32, но Гитлера, к огромному раздражению Штрассеров и Рема, это, похоже, мало волновало. Добившись отмены запрета на нацистскую партию, он был готов к потере поддержки антикатолических Народнических групп. Все это было для него стимулом начать сначала, реформировать нацистскую партию, стать ее бесспорным руководителем. Обо всем этом он заявил в конце февраля 1925 года, и его политическая платформа включала жестокую кампанию против марксистов и евреев.