К 1933 году, когда к власти пришли нацисты, Лееб был уже известен как аскетичный, неприступный и не лишенный здравого смысла офицер-христианин с высокими моральными принципами. Он открыто выражал неприязнь к нацистской партии и ее лидеру, в то время как остальные генералы с энтузиазмом поддержали программу Гитлера, направленную на милитаризацию Германии. Добрый католик Лееб специально ходил на мессу в форме офицера (вместе с семьей), а это не очень одобрялось нацистами. Бескомпромиссный в принципиальных вопросах Риттер фон Лееб отказался посещать обеды, устраиваемые Альфредом Розенбергом, одним из главных нацистов, только потому, что тот был атеистом.
Со своей стороны Адольф Гитлер, называвший Лееба в узком кругу «неисправимым антифашистом», установил над ним негласный надзор гестапо. Лееб стал одним из первых генералов, удостоенных такой сомнительной чести.[63] Но, будучи человеком мыслящим и разумным, он не входил в число заговорщиков и конспираторов. Лееб не участвовал в Сопротивлении и наверняка не знал о подготавливаемом Штауффенбергом покушении на Гитлера, пока оно не провалилось.
Но антифашистское настроение в те времена еще не служило серьезным препятствием для продвижения по служебной лестнице, так что в конце 1933 года фон Лееб был назначен главнокомандующим группой армий 2, расквартированной в Касселе. 1 января 1934 года он был произведен в генералы артиллерии. В 30-е годы была опубликована его книга «Оборона», а в 1938 году она была повторно издана военным министерством в престижном «Militarwissenschaftliche Rundschau» («Научное военное обозрение»), что повысило авторитет Лееба как специалиста по оборонным мероприятиям Его работа была переведена на английский и русский языки и была использована при создании полевого устава Красной Армии.
Несмотря на знаменитость Лееб был одним из первых командиров, смещенных со своих постов после того, как 4 февраля 1938 года командование сухопутными войсками принял на себя генерал Вальтер фон Браухич и немедленно начал увольнять генералов, по мнению Гитлера, враждебно настроенных к идеям национал-социализма.
Присвоив ему почетное звание генерал-оберста, Лееба против его воли 1 мая 1938 года отправили в запас Повторно его призвали на службу в должность командующего вновь созданной 12-й армии уже в августе, когда казалось, что Судетский кризис вот-вот приведет к войне. После англо-французской дипломатической капитуляции в Мюнхене войска Лееба в октябре 1938 года оккупировали Южную Богемию. Вскоре после этого генерал вновь удалился от дел и вернулся в свой дом в Баварии. В следующем году его снова призвали на службу, так как на этот раз политика Гитлера действительно привела к войне.
Во время Польской кампании, когда остальные германские армии завоевывали Польшу, на группу армий «Ц», которую возглавлял Лееб, была возложена оборона западной границы рейха. Три его армии (1-я, 5-я и 7-я) и оперативная группа «А» насчитывали 51 дивизию, которые были укомплектованы в основном пожилыми резервистами. Ни орудий, ни транспорта у них не было. Так что, если бы французы решились предпринять серьезное наступление, фон Лееб оказался бы в большом затруднении. Но это Лееба не слишком волновало, поскольку он, как и Гитлер, считал быструю реакцию союзников маловероятной. Они оказались правы. Французы 9 сентября сделали попытку провести ограниченную атаку в зоне Саара. 13 сентября, продвинувшись всего на 16 миль, они были остановлены. К 24 октября Лееб вернул все утраченные позиции, потеряв при этом менее 2000 человек убитыми.