9 августа в 00 часов 10 минут передовые батальоны и разведывательные отряды 1-го, 2-го Дальневосточных и Забайкальского фронтов в крайне неблагоприятных погодных условиях — летнего муссона, приносящего частые и сильные дожди, — двинулись на территорию противника. Одновременно 19-й бомбардировочный авиационный корпус 9-й воздушной армии нанес удары по военным объектам в Чанчуне и Харбине. С рассветом главные силы трех фронтов перешли в наступление и пересекли государственную границу. С целью достижения внезапности артиллерийская и авиационная подготовка атаки не проводилась. Тихоокеанский флот начал постановку оборонительных минных заграждений, а его авиация и соединения торпедных катеров нанесли удары по кораблям, судам и другим объектам в портах Северной Кореи. В тот же день американцы сбросили еще одну атомную бомбу, теперь на японский город Нагасаки.
В 9 часов 40 минут 9 августа маршал Василевский доложил Сталину об успешном начале операции, отметив, что удар советских войск оказался для противника неожиданным.
На Забайкальском фронте главные силы 17-й армии генерала А. И. Данилова к вечеру 9 августа на чифынском направлении продвинулись на 50 км, а передовыми частями — на 70 км. Соединения 39-й армии генерала И. И. Людникова, обойдя с юга Халун-Аршанский укрепрайон, прошла 60 км. Корпуса 6-й гвардейской танковой армии генерала А. Г. Кравченко, развивая наступление на Чанчунь, продвинулись на 120–150 км. Ее передовые отряды к исходу дня вышли на подступы к перевалам Большого Хингана. Соединения 36-й армии генерала A.A. Аучинского овладели Чжалайнор-Маньчжурским укрепленным районом, форсировали Аргунь и продвинулись на 40 км. Подвижная группа армии, обходя вражеские узлы сопротивления, прошла за сутки 100 км и вышла на подступы к Хайлару. Успешно действовала и конномеханизированная группа генерала И. А. Плиева. Главные силы 1-й Краснознаменной армии генерала А. П. Белобородова, наступая по бездорожью, к исходу первого дня операции вышли к р. Шитоухэ.
На 1-м Дальневосточном фронте войска 5-й армии генерала Н. И. Крылова прорвали оборону противника на 60-километровом фронте и к утру 10 августа полностью очистили от японцев крупный узел дорог и укрепленный пункт Суйфыньхэ (Пограничная). В полосе 2-го Дальневосточного фронта Амурская военная флотилия нанесла удары по базам японской Сунгарийской флотилии. Соединения 2-й Краснознаменной армии генерала М. Ф. Терехина успешно форсировали Амур в районе Благовещенска и юго-западнее Хабаровска.
Японское командование, ошеломленное внезапными ударами советских войск, поспешно отводило соединения Квантунской армии в глубь Маньчжурии. Оно решило оказать сопротивление на рубеже железной дороги Тумынь — Чанчунь силами 3-й и 5-й армий 1-го фронта, а на рубеже железной дороги Чанчунь — Дальний — войсками 3-го фронта. В район Гирина через Харбин отходила 4-я армия, чтобы занять оборону на рубеже между войсками 1-го и 3-го фронтов.
Утром 10 августа японское правительство через нейтральные страны (Швецию и Швейцарию) направило правительству СССР заявление, в котором говорилось:
Пока правительство Японии ожидало ответ на свое заявление, советские войска продолжили наступление. 11 августа войска 2-й Краснознаменной армии 2-го Дальневосточного фронта при содействии Амурской военной флотилии заняли г. Фугдин (Фуцзинь) на р. Сунгари, а также г. Сяоцзяхэ на западном берегу р. Уссури, что открыло войскам фронта путь на Цзямусы. В тот же день малый хурал и монгольское правительство объявили священную войну Японии на стороне Объединенных Наций и заявили о полном присоединении к «Заявлению Советского правительства».