Как и командующий 2-й Западной армией П. И. Багратион, Алексей Петрович тяготился отступлением и планом Барклая, но все же смирял самолюбие «во имя пользы отечества». Сам Барклай-де-Толли в своем «Изображении военных действий» так характеризует Ермолова: «Человек с достоинством, но ложный и интриган». Кстати, столь же нелестен и отзыв о нем Александра I: «Сердце Ермолова было так же черно, как его сапог». Барклай и Ермолов «делывали» друг дружке мелкие неприятности, но последний все же отдал должное командующему как одному из тех, кто спас Россию «своим промедлением».
По личной просьбе Александра I Ермолов (как, впрочем, и Э. Ф. де Сен-При, начальник штаба 2-й армии Багратиона) писал ему обо всем происходившем. Многие считают, что эти «записки» очень смахивали на доносы. Как начальник штаба Петр Алексеевич много сделал для успешного соединения двух армий под Смоленском, но при этом всячески стремился «сподвигнуть» Багратиона на прошение царю о единоначалии в армии. В их переписке Алексей Петрович всячески подталкивал Петра Ивановича к этой «акции». В письмах ближайшим сотрудникам императора Багратион уже давно не выбирал выражений, характеризуя Барклая: «подлец, мерзавец, тварь». В то же время именно Ермолов был свидетелем дикого скандала, который закатил Багратион Барклаю после Смоленска, когда один назвал другого «немцем», получив в ответ прозвище «дурак». Только благодаря Ермолову мало кто узнал о деталях скандала, поскольку Алексей Петрович, по его собственным словам, «стоял у ворот, отгоняя всех, кто близко подходил, говоря, что командующие очень заняты и совещаются между собою». И наконец, именно он не единожды писал императору об острой необходимости назначения единого командующего, поскольку только тогда «дело пойдет». При этом Ермолов признавал, что ни Барклай, ни Багратион в сложившейся обстановке на роль главнокомандующего не годятся. И действительно, первый «был слишком осторожен» и не имел авторитета в армейской среде, а второй – «безрассудно отважен… хотя и имел склонность к принятию разумных решений». Александр I не видел среди своих генералов «человека приличного по обстоятельствам», которого можно было бы назначить главнокомандующим.
Еще под Смоленском Алексей Петрович не исключал оставления Москвы: «…если судьба позволит [французам] овладеть ею, кажется, и то к благу нашего народа: не окончив войны, будем защищаться до последней крайности… » Уже тогда он полагает, что голод и холод довершат то, что не успеют сделать солдаты летом. 7 августа 1812 г. Ермолова представили к званию генерал-лейтенанта, но производство в связи с военным лихолетьем затянулось. А затем грянуло генеральное сражение на поле Бородина, в котором Петр Алексеевич фактически выполнял обязанности начальника штаба Кутузова, находясь при главнокомандующем.