Гитлер готовился взять «реванш за Сталинград» на Курской дуге. Этот план был своевременно разгадан советским командованием, и в район Курска, Орла, Белгорода были направлены главные силы Красной армии. Чтобы обеспечить успех Красной армии под Курском, нельзя было давать вермахту передышки на других участках фронта, особенно в самом центре, в районе Духовщины и Смоленска. Калининскому фронту предстояло решать важнейшие оперативные задачи. Фронт располагался на одном из главных стратегических направлений — в междуречье Западной Двины и Днепра, вошедшем в героическую историю нашей страны под названием «Смоленские ворота». К середине июля 1943 года, то есть к началу подготовки Смоленской наступательной операции, войска Калининского фронта обороняли рубеж Жары (30 километров севернее Великих Лук) — восточнее Новосокольников — Усвяты — Велиж — Рядыни, общей протяженностью 340 километров. Занимавшие позиции напротив немецкие войска ожидали наступления советских войск на Смоленском и Рославльском направлениях и продолжали укреплять свои оборонительные рубежи.
Соединения Калининского и Западного фронтов, несмотря на хорошо подготовленную немецкую оборону, наносили столь сильные и болезненные удары, что немецкое командование не только не сумело снять с этого направления войска в помощь тем, что находились в районе Орла и Белгорода, а, наоборот, было вынуждено перебросить с Курского направления на центральный участок до десяти дивизий.
В ходе инспектирования воинских частей Еременко выявил недостатки в обеспечении подразделений боеприпасами и обмундированием. Эти недочеты в ряде случаев зависели не только от объективных причин, но и от старшин рот, от того, каким было их отношение к своим непосредственным обязанностям. Андрей Иванович разработал ряд мероприятий по улучшению снабжения соединений фронта. Он пришел к выводу, что для улучшения подвоза грузов крайне необходима железнодорожная ветка протяженностью примерно 120 километров (от станции Старая Торопа в направлении на Велиж), которая значительно сократила бы сроки снабжения трех армий всем необходимым. Еременко принял решение строить железную дорогу силами фронта, который при этом не прекращал вести боевые действия. В Наркомате путей сообщения никак не могли поверить, что военные строители могут построить дорогу без привлечения их специалистов, поэтому прислали своих представителей, чтобы ее опробовать, перед тем как разрешить движение. В дальнейшем эта железнодорожная ветка сыграла важную роль в осуществлении всех операций Калининского фронта.
В начале августа 1943 года возглавляемый Еременко фронт был усилен 3-м гвардейским кавалерийским корпусом. Теперь общая численность войск фронта составляла около полумиллиона человек.
Неожиданно для командования фронта Сталин сообщил по ВЧ о своем намерении приехать 5 августа на Калининский фронт, назначив местом встречи село Хороше-во под Ржевом. Во время встречи с Верховным Еременко доложил ему план Духовщинско-Смоленской наступательной операции, который Сталин одобрил. Как уже отмечалось, это был единственный за всю войну выезд Сталина на фронт для встречи с командующим.
Одиннадцатого августа 1943 года Еременко провел совещание с командным составом 39-й и 43-й армий, на котором был подробно рассмотрен план предстоящей операции по этапам и по задачам. Еременко отдал следующий приказ: «Верховное главнокомандование поставило перед войсками Калининского фронта задачу: во взаимодействии с правым крылом Западного фронта разгромить Духовщино-Ярцевскую группировку противника, имея в виду дальнейший выход на р. Днепр с захватом г. Смоленск. Подготовка войск к этой операции закончена. Приказываю командующему 39-й армии генерал-лейтенанту А. И. Зыгину и командующему 43-й армии генерал-лейтенанту К. Д. Голубеву с утра 13.08.43 г. перейти в решительное наступление».
Вскоре после начала наступления, 17 и 18 августа, противник контратаковал наши войска. Испытывавшая нехватку боеприпасов 39-я армия не могла обеспечить необходимую плотность огня при прорыве немецкой обороны. Возникла угроза срыва сроков наступления наших войск. На командный пункт фронта, который находился на направлении главного удара 39-й армии, 26 августа прибыли представители Ставки — командующий артиллерией РККА маршал артиллерии Н. Н. Воронов и командующий ВВС РККА маршал авиации А. А. Новиков — для координации взаимодействия Калининского и Западного фронтов. А. А. Новиков занимался также вопросами усиления 3-й воздушной армии фронта — в ее состав были переданы две новые авиадивизии. За действиями фронта внимательно следил и Сталин, который в телефонном разговоре с Еременко 22 августа сообщил ему о передаче Калининскому фронту 31-й армии из состава Западного фронта. 27 августа 1943 года А. И. Еременко было присвоено звание генерала армии.