После решения не начинать процесса против Гальдера в Нюрнберге он согласно назначению контрольного совета союзников и «освобождающему закону» о денацификации от 5 марта 1946 года, который был издан в Баварии, Гроссгессене и Вюртемберг-Бадене, должен был отвечать перед немецкой комиссией по денацификации, чтобы «освободиться» от обвинения в поддержке и принадлежности к национал-социализму и милитаризму. Как и другие немцы старше 18 лет, Гальдер должен был заполнить обычную анкету в рамках акции денацификации военной администрации США. В своих показаниях от февраля 1947 года он особое значение придавал принадлежности к кругам сопротивления Гитлеру; в целом же он называл себя кадровым офицером, который «никогда не занимался политикой». После этого на основании его деятельности в качестве начальника генерального штаба против него был возбужден иск. Соответственно его местожительству это находилось в компетенции баварской комиссии по денацификации в американской оккупационной зоне. Обвинение было предъявлено 6 апреля 1948 года в специально для этих целей устроенной в лагере Нейштадт баварской комиссии по денацификации. Слушание должно было начаться 22 апреля. В целом военное командование обвинялось в «подобострастии, недостатке гражданской смелости и, в конечном счете, смирении», в том, что послушно отдалось душой и телом «национал-социализму и его преступным планам». Именно как начальник генерального штаба он должен был бы наложить на это свое вето и не предоставлять «свои силы и способности на столь важной должности в распоряжение режима до октября 1942 года» и не помогать «Гитлеру осуществлять его военные и политические планы». Поэтому Гальдер несет также «ответственность за то невыразимое бедствие, которое война и ее последствия принесли этому поколению» и поэтому его следует включить в «группу главных виновников».
Какими бы правильными и точными ни были общие выводы обвинения относительно моральной ответственности Гальдера за действия нацистского государственного руководства на основании его бывшей служебной должности, невозможно было не учитывать его бывшую тайную оппозиционную деятельность и последующее пребывание в различных концентрационных лагерях и объявлять его «главным виновником» режима в смысле ответственности за политические и военные действия нацистов. На это противоречие настойчиво указывал защитник Гальдера перед комиссией по денацификации адвокат Мартин Горн, отклоняя обвинение.
То, что процесс должен был состояться в лагерной комиссии по денацификации, могло иметь для Гальдера негативные последствия, так как там заседание, как правило, проводилось в письменной форме и без присутствия общественности. Так что ему просто повезло, что рассмотрение дела было наконец перенесено на июль 1948 года в Мюнхен в комиссию по денацификации X, где оно вызвало большой интерес со стороны средств массовой информации. За границей этот процесс даже называли «самым значительным и глубоким из всех процессов по денацификации в Западной Германии». Слушание дела против Гальдера продолжалось с 15 по 20 сентября 1948 года «при широком участии общественности»; при этом ожидаемых временами беспорядков не было.
Сама комиссия понимала свою задачу как «урок истории на базе комиссии по денацификации». Многие бывшие единомышленники периода сопротивления до 1940 года, как, например, барон фон Вайцзеккер, Кордт, фон Эцдорф и генералы Хойзингер и Шпейдель, помогли Гальдеру своими соответствующими заявлениями или письменными высказываниями, в которых подтвердили его борьбу против военного курса Гитлера. Процесс живо обсуждался в местных и региональных газетах и комментировался в основном в пользу Гальдера.
В своих показаниях перед комиссией по денацификации Гальдер утверждал, что не был информирован о многих распоряжениях и приказах Гитлера, особенно о бесчинствах групп СС на Восточном фронте, и свое положение в нацистском государстве зачислял в категорию низких; далеко не все документы попадали на его письменный стол. Защитник поддерживал Гальдера в стремлении представить себя как человека, не располагавшего достаточной информацией, тем более, что в своей работе о «принципиальных вопросах освободительного закона» он называл процесс денацификации «жестоким спектаклем», которого «еще долго будут стыдиться будущие поколения». Выступления защитника многократно сопровождались бурными аплодисментами.
Общественный обвинитель в своем выступлении ходатайствовал о зачислении Гальдера в хрупну главных виновников с направлением его в трудовой лагерь на три года и о конфискации 30 % имущества. Комиссия приняла решение, что Гальдер как офицер генерального штаба попадает под «действие, но не под обвинение» закола о денацификации; процесс следует прекратить. К тому же комиссия постановила, что о коллективной вине генерального штаба не может быть и речи.