Момент для действий более активных, чем разговор напрямую с Гитлером, оказался упущен. 20 ноября группа армий «Юг» фон Рундштедта взяла Ростов-на-Дону, однако сразу же этот выступ с обеих сторон стал подвергаться сильному давлению русских. Не став терять время на ожидание разрешения, Рундштедт поступил так, как подсказывал здравый смысл: он отступил. Это было первое стратегическое отступление немцев с 1919 года. А когда ОКБ приказало отменить этот приказ, он, в момент крайней усталости, отметил, что для таких дел придется найти другого человека. На смену фон Рунштедту пришел Рейхенау, но отступление продолжалось, а отставка Рундштедта лишь подстегнула волну сопротивления. Даже Зепп Дитрих, эсэсовский военачальник, преданность которого Гитлеру не вызывала сомнений, сказал фюреру о неправильности его подхода. Накануне крупного советского контрнаступления под Москвой, начавшегося 6 декабря, Гудериан, Гепнер и Рейнгардт поставили Бока перед свершившимся фактом и отвели свои передовые части. Почти сразу же после этого они стали испытывать возрастающее давление русских, пришлось начать отступление, при этом немцы вынуждены были оставить часть тяжелого вооружения и другой техники, а также склады и некоторые полевые лазареты с ранеными и обмороженными. И все же, отступая, немецкие армии огрызались, и довольно чувствительно для советских войск. Несмотря на поражение, дисциплина в немецких частях находилась на должном уровне, не было никаких признаков паники.
Предвидя неминуемую катастрофу, Гудериан в своих усилиях остановить наступление и начать планомерный отход на заранее подготовленные позиции пытался заручиться поддержкой влиятельных лиц, что подтверждается соответствующими документами. Для него безопасность всегда заключалась в движении вперед или назад. Самым больным местом было обеспечение бесперебойного снабжения горючим, боеприпасами и продовольствием для поддержания боеспособности и нормальных условий жизнедеятельности личного состава. 23 ноября Гудериан натолкнулся на непонимание в штабе группы армий и попросил своего старого товарища по оружию Балка, приехавшего на фронт из Германии с ознакомительной поездкой, передать его пессимистическое мнение Браухичу. Записи в книге Телефонных разговоров 2-й танковой армии свидетельствуют о борьбе Гудериана с Боком за окончание зимней кампании – печальный документ. 8-го декабря Гудериан обрабатывал приезжих генералов, а 10-го послал рапорты Шмундту и Бодевину Кейтелю в попытке пробиться к Гитлеру. На совещании в Рославле 14-го декабря с Браухичем, Боком и Клюге, чья 4-я армия уже начала отходить, он попросил разрешения отвести войска на линию по рекам Суша – Ока, прикрывающую Орел. На этом совещании ему поручили командовать южным крылом, состоявшим из 2-й общевойсковой армии и 2-й танковой армий. Эту группировку назвали «Временная армия Гудериан». На следующий день Браухич, повторяя сказанное Гудерианом, сообщил Гальдеру, что не видит для армии никакого выхода.
16-го декабря Гудериан встретился со Шмундтом возле фронтовой полосы «по моей настойчивой просьбе», а затем написал Гретель: «Теперь я ожидаю вызова фюрера явиться к нему с докладом о нашем положении и о мерах, которые я считаю насущными. Надеюсь, что еще не слишком поздно… Не знаю, как мы выберемся из этого. В любом случае, нужно действовать быстро и энергично… Я рад тому, что фюрер ясно представляет себе ситуацию, и надеюсь, что он с присущей ему энергией вмешается, и недостатки в работе железных дорог будут устранены. Не припомню случая, когда бы надо мной так довлели обязанности. Надеюсь, что выдержу. Опять дал о себе знать мой застарелый радикулит. Ночами я лежу без сна. Это настоящая пытка – думать о том, как помочь моим бедным солдатам, совершенно не готовым к зиме. Это ужасно, просто невообразимо».