Еще 11 июля Рокоссовского назначили командующим 4-й армией вместо арестованного и впоследствии расстрелянного А. А. Коробкова. Из него, как и из Д. Г. Павлова и некоторых других генералов, сделали козла отпущения за поражения первых дней войны. Рокоссовский прибыл в штаб Западного фронта 17 июля, но в связи с ухудшением обстановки в районе Смоленска был оставлен организовывать оборону в районе Ярцева.
В Москве Рокоссовский узнал, что под Ярцевом «образовалась пустота» в результате высадки противником крупного воздушного десанта. На самом деле никакого десанта не было, а был прорыв немецких танков и мотопехоты. Но советские военачальники предпочитали говорить о десантах, чтобы не признавать перед вышестоящим начальством, что противник сумел прорваться через позиции их войск.
Группа Рокоссовского должна была прикрыть направление на Вязьму и помочь 16-й и 20-й армиям прорваться из смоленского котла. По словам маршала, его группа пополнялась
«за счет накапливавшихся на сборном пункте бойцов, отставших от своих частей, вышедших из окружения. К сожалению, последние, вернее большинство из них, приходили без оружия, и нам с большим трудом удавалось вооружать их. Причем делать это приходилось во время боев, не прекращавшихся ни днем ни ночью. Люди познавали друг друга, можно сказать, сразу же в горячем деле.
В те дни текучесть личного состава была огромной.
В непрерывных боях со все усиливавшимся на ярцевском направлении противником было много случаев проявления героизма как со стороны отдельных лиц (красноармейцев, офицеров), так и подразделений и частей.
К великому прискорбию, о чем я не имею права умалчивать, встречалось немало фактов проявления военнослужащими трусости, паникерства, дезертирства и членовредительства с целью уклониться от боя.
Вначале появились так называемые „леворучники“, простреливавшие себе ладонь левой руки или отстреливавшие на ней палец, несколько пальцев. Когда на это обратили внимание, то стали появляться „праворучники“, проделывавшие то же самое, но уже с правой рукой.
Случалось членовредительство по сговору: двое взаимно простреливали друг другу руки.
Тогда же вышел закон, предусматривавший применение высшей меры (расстрел) за дезертирство, уклонение от боя, „самострел“, неподчинение начальнику в боевой обстановке. Интересы Родины были превыше всего, и во имя их требовалось применение самых суровых мер, а всякое послабление шкурникам становилось не только излишним, но и вредным».
Как легко убедиться, несмотря на мягкость характера, Рокоссовский без колебания приказывал расстреливать дезертиров и «самострельщиков».