После разгрома немецкой группы армий «Центр» и полного освобождения Чехословакии от немецко-фашистских оккупантов войска 1-го Украинского фронта (за небольшим исключением) оставались там, где их застал конец войны. Отдельные, наиболее боеспособные дивизии и корпуса срочно погружались в железнодорожные эшелоны и отправлялись на Восток, но никто не знал, куда и для чего. Лишь некоторые генералы, близкие к высшему командованию, втайне поговаривали, что готовятся боевые действия против Японии. Остальные воинские соединения приводили себя и технику в порядок, подсчитывали потери. Командиры разных рангов готовили донесения-отчёты для вышестоящих инстанций, а рядовой и сержантский состав завалил полевые почты «солдатскими треугольниками», в которых сообщали родным, что, слава Богу, кончились бои-походы и они собираются демобилизовываться, то есть разъезжаться по домам. Словом, жди меня, и я вернусь…
Больше других, разумеется, знал о будущем войск фронта его командующий маршал Конев. Ещё в начале июня из Москвы ему сообщили, что предстоит передислокация войск 3-го Украинского фронта из Австрии в Болгарию и Румынию. Их место должны занять войска 1-го Украинского фронта, образующие Центральную группу войск (ЦГВ). Её главнокомандующим назначается маршал Конев. Одновременно он становится Верховным комиссаром Австрии. Сообщая об этих планах, Сталин, как всегда, с лёгкой иронией спрашивал: «Не будет ли со стороны товарища Конева возражений?» Разумеется, возражений не последовало.
Как только состоялось это решение, Иван Степанович тут же отправился в Австрию, что называется, на рекогносцировку местности. В своей деятельности он как Верховный комиссар Австрии обязан был учитывать многие обстоятельства. Главные из них состояли в том, что в годы Второй мировой войны Австрия находилась в тесном союзе фашистских государств и её войска вместе с немецкими воевали против Красной Армии. Даже в 1945 году, когда исход четырёхлетней борьбы был ясен не только для немцев, но и их союзников, Австрия продолжала поддерживать Гитлера. Иван Степанович знал и то, что фашистские заправилы всячески запугивали австрийский народ, распространяя лживые слухи, будто Красная Армия намерена уничтожить австрийцев — членов национал-социалистской партии. Они пытались насильно эвакуировать население в Германию и превратить Вену в такой же узел сопротивления, каким был Будапешт. Но на жителей Вены большое впечатление произвело воззвание командующего 3-м Украинским фронтом маршала Толбухина от 6 апреля, в котором говорилось: «Жители города Вены!.. Час освобождения столицы Австрии Вены от немецкого господства настал, но отступающие немецкие войска хотят превратить и Вену в поле боя, как это они сделали в Будапеште. Это грозит Вене и её жителям такими же разрушениями и ужасами войны, которые были причинены немцами Будапешту и его населению».
Далее в воззвании подчёркивалось, что Красная Армия стремится сохранить Вену, её исторические памятники, австрийцы должны не покидать город, а всячески мешать немецким войскам минировать его. Но, разумеется, всё зависело от быстроты действий советских войск, стремительно штурмовавших Вену с востока и юга. Одновременно с запада её обошли войска 9-й гвардейской и 6-й гвардейской танковых армий. Сломив сопротивление врага, они вышли к Дунаю. Путь отступления фашистам на запад был отрезан. 9 апреля 1945 года правительство СССР выступило с заявлением об Австрии. «Советское правительство, — указывалось в нём, — не преследует цели приобретения какой-либо части австрийской территории или изменения социального строя Австрии. Советское правительство стоит на точке зрения Московской декларации союзников о независимости Австрии. Оно будет проводить в жизнь эту декларацию. Оно будет содействовать ликвидации режима немецко-фашистских оккупантов и восстановлению в Австрии демократических порядков и учреждений. Верховным Главнокомандованием Красной Армии дан приказ советским войскам оказать своё содействие в этом деле австрийскому населению».
Это заявление имело очень большое значение для быстрого завершения борьбы на территории Австрии. 13 апреля Вена была полностью очищена от противника. В ознаменование этой победы соединениям и частям, отличившимся в боях за столицу Австрии, было присвоено наименование Венских. Президиум Верховного Совета СССР учредил медаль «За взятие Вены», которую получили более двухсот шестидесяти восьми тысяч советских воинов.