Объявление всеобщей воинской повинности командованием рейхсвера в марте 1935 года и связанное с ним быстрое увеличение рейхсвера до 36 дивизий имело для Гальдера профессиональные последствия: 15 октября 1935 года он был назначен командиром 7-й дивизии и 1 августа 1936 года произведен в генерал-лейтенанты. Как командир дивизии Гальдер руководил осенними маневрами своего соединения во всей Баварии. В ноябре 1936 года генерал-полковник фон Фрич поручил ему подготовку и проведение маневров вермахта в Мекленбурге в 1937 году, которые впервые должны были включать боевое применение и движение крупных моторизованных частей и танковых соединений. Для этой цели Гальдер как начальник вновь образованного штаба учений был командирован до сентября 1937 года в главный штаб сухопутных войск в Берлин, где он был непосредственно подчинен главнокомандующему сухопутными войсками. «С тяжелым сердцем» он оставил командование 7-й дивизией, так как этот пост командира соединения, который в сознании немецких высших офицеров представлял собой важный этап карьеры, он занимал только один год.
После маневров вермахта в Мекленбурге он остался в главном штабе сухопутных войск в качестве главного квартирмейстера под началом генерала артиллерии Людвига Бека. На этой должности Гальдер отвечал за обработку всех вопросов боевой подготовки, а как начальник отделов 4-го и 11-го также и за военно-научную и военно-историческую работу в главном штабе. На подобную должность обер-квартирмейстера в то время был назначен генерал-лейтенант Эрих фон Манштейн. Оба, таким образом, были основными сотрудниками начальника главного штаба Бека. В этот период, в феврале 1938 года, Гальдер мог с самого близкого расстояния наблюдать за событиями, связанными с отставкой Бломберга и Фрича Гитлером, когда тот избавлялся от потенциальных противников своего плана войны, который он представил узкому кругу 5 ноября 1937 года. При этом диктатор ловко использовал скандал вокруг генерал-фельдмаршала фон Бломберга, связанный с женитьбой, и ложное обвинение генерал-полковника барона фон Фрича в гомосексуализме, которые были сфабрикованы и инсценированы Герингом, а также рейхсфюрером СС Генрихом Гиммлером, начальником уголовной полиции и службы безопасности Рейнхардом Гейдрихом, чтобы принудить обоих к отставке. Гитлер непременно хотел избавиться от главнокомандующего сухопутными войсками, потому что видел в нем консервативный и «тормозящий элемент» своей военной политике и гонке вооружений; в соответствии с этим он отклонил восстановление Фрича в прежней должности главнокомандующего сухопутными войсками после того, как суд оправдал его.
Скандал Бломберга — Фрича стал для Гальдера поворотным моментом в его отношении к диктатору; после этого он был готов принять в расчет свержение режима СС, размышляя об изменении политической ситуации. Гальдер попытался повлиять на Бека, чтобы не допустить оскорбительного отношения к главнокомандующему сухопутными войсками со стороны национал-социалистского руководства. Начальник генерального штаба, однако, отклонил насильственную акцию против руководства государством, сказав, что то, чего требует Гальдер, является «мятежом, революцией». Бек возразил тогда также, что для немецкого офицера об этом не может быть и речи. Позднее он признал, что в те дни был упущен решающий момент для выступления против Гитлера. Но и Фрич не был той опорой, на которую можно было рассчитывать в борьбе против Гитлера. Он был доволен исходом судебного разбирательства о клеветническом обвинении против него и последующей реабилитацией, хотя это и не стало известно общественности. В конечном счете Гитлеру удалось успешно использовать аферу Бломберга— Фрича в своих целях и ввести новую кадровую структуру в руководстве вермахтом и сухопутными войсками.
В ходе последовавших за этим кадровых изменений Гальдер принял предложение нового главнокомандующего сухопутными войсками генерал-полковника Вальтера фон Браухича занять с 10 февраля 1938 года пост обер-квартирмейстера I и одновременно получил звание генерала артиллерии. Он отвечал за все оперативное планирование сухопутных войск, которое возлагалось на главный штаб в рамках гитлеровской политики. Очень скоро он благодаря этому познакомился с игрой Гитлера «ва-банк» и его стремлением к войне. Он соглашался с Беком в том, что следует бороться против политики силы и экспансии диктатора, но оба считали это преждевременным.