Для этого он должен был непременно завоевать также генерала фон Браухича. Под его командованием Гальдер работал еще в отделе боевой подготовки военного управления. Прежнее сотрудничество облегчало Гальдеру общение с новым главнокомандующим сухопутными войсками, который охотнее совещался с им самим предложенным обер-квартирмейстером I, чем с чересчур настойчивым начальником главного штаба. Таким образом, постепенно восстановились былые доверительные отношения между Гальдером и Браухичем, в то время как у Бека возникло ощущение, что Браухич бросил его на произвол судьбы. Если в ходе дальнейшего обострения внешнеполитической ситуации с весны 1938 года генерал Бек все более явно противился военной политике Гитлера и многократно призывал Браухича к прямому протесту, то главнокомандующий сухопутными войсками все чаще и теснее сотрудничал с Гальдером как представителем Бека, потому что взгляды Гальдера преимущественно совпадали с его точкой зрения и он не с такой последовательностью, как Бек, требовал от него выступления против «фюрера». Очевидно, Гальдер рассчитывал на то, что созданием сдерживающей внешнеполитической ситуации удастся удержать Гитлера и в конечном счете избежать прямой борьбы за власть и «поединка» с Гитлером.
Когда вконец разочаровавшийся Бек 18 августа подал в отставку, так как не видел никаких шансов действенно сдерживать военную политику Гитлера, Браухич, естественно, попросил именно Гальдера взять на себя функции начальника главного штаба сухопутных войск. После недолгого размышления и с согласия Бека 54-летний Гальдер принял предложение. Однако он не мог исходить из того, что его назначение повсюду найдет однозначное одобрение. Так, рейхсфюрер СС Генрих Гиммлер называл нового начальника главного штаба «генералом Божьей Матери» и критиковал за краткое пребывание на фронтах во время первой мировой войны, чтобы принизить его перед Гитлером. Гитлер также выразил Браухичу свои сомнения, так как полагал, что Гальдер католик и поэтому будет критически относиться к национал-социализму. В этой связи характерно то, что национал-социалисты оценивали его как ревностного прихожанина, хотя, по его собственному признанию, он никогда не был «ходоком в церковь».
Гальдер хотел использовать свое положение в духе Бека, чтобы вместе с Браухичем бороться против авантюрной военной политики Гитлера. Но возник вопрос о том, не переоценивает ли он свои возможности воздействия как начальника штаба сухопутных войск, так как созданная после введения всеобщей воинской повинности должность «начальника генерального штаба сухопутных войск» уже не имела такого влияния, как бывшие начальники главного генерального штаба в империи, каковыми были граф Мольтке и граф Шлиффен. После того как Гитлер взял на себя лично имперское > военное министерство и было вновь создано верховное командование вермахта под руководством генерала Кейтеля, эта должность занимала подчиненное место в рамках высшего руководства вермахта и имела гораздо меньшее значение, чем могло внушить звучное, традиционное название, введенное 1 июля 1935 года. Начальник генерального штаба сухопутных войск не имел самостоятельного положения и тем самым не имел права лично докладывать Гитлеру. Помимо этого, он не обладал властью отдавать приказы, хотя в текущих делах в случае отсутствия главнокомандующего сухопутными войсками замещал его. В конце концов начальник генерального штаба, после того как Бек проиграл в борьбе за новую организационную структуру командования вермахта, являлся лишь «чисто техническим бюро» одной из трех частей вермахта, даже если в генеральном штабе претендовали на ответственность за общее ведение войны рейхом.
С другой стороны, мнение Гитлера о новом начальнике генерального штаба, казалось, дает возможности влиять на военную политику диктатора, так как, судя по поздним высказываниям современников, Гитлер спустя определенное время больше доверял Гальдеру, чем Беку. Фюрер считал, что Гальдер «современно ориентирован» и «открыто идет навстречу» ходу его мысли, тем более что начальник генерального штаба как представитель баварского офицерского корпуса «значительно прогрессивнее и более положительно настроен к национал-социализму», чем офицеры из «так называемого прусского офицерского корпуса», как объяснял сам Гитлер. Тем не менее Гальдер не мог обойти Браухича и непосредственно проверить свои возможности влиять на Гитлера. Таким образом, основной оставалась задача завоевания главнокомандующего как передового борца против авантюрной внешней и военной политики Гитлера.