На преподавательской работе Маршалл завоевал репутацию сторонника пехотной тактики. Сослуживцы уважали его за честность, доброту и профессионализм. «Мораль - главное условие победы, - излагал свои принципы Маршалл. - Мало просто сражаться. Решает дело дух, с которым мы идем в битву. Сердце и душа солдата - это все… Вера человека делает его непобедимым».
В 1938 году Маршалла назначили помощником начальника военного планирования в генеральном штабе, и он переехал в Вашингтон. Прошел лишь год и его назначили исполняющим обязанности начальника штаба в чине генерала. С началом Второй мировой войны Маршалл стал начальником штаба армии.
Большие усилия Маршалл прилагал для совершенствования американской армии. Так в 1940 году он убедил конгресс принять закон о выборочной службе и рассмотреть вопрос о национальной гвардии.
После японской атаки на Перл-Харбор президент США Ф.Д. Рузвельт сделал Маршалла своим советником по вопросам стратегии и тактики. Маршалл сопровождал президента во всех его поездках - на конференциях в Аргентине, Касабланке, Квебеке, Каире, Тегеране и Ялте. Маршалл координировал поставки оружия и продовольствия в СССР.
Не остался Маршалл в стороне и от театра военных действий. Совместно с англичанами он руководил военными действиями в Северной Африке и на Сицилии, победоносно закончил войну с Италией. Именно Маршалл спланировал крупнейшую десантную операцию по высадке войск в Нормандии.
Во время войны Маршалл участвовал в работе политического комитета по контролю над созданием атомной бомбы. В 1945 году он рекомендовал президенту Трумэну применить это оружие против японских городов Хиросимы и Нагасаки. «Бомба покончила с войной, - говорил Маршалл позже. - Поэтому мы должны были ее применить».
После капитуляции Японии Маршалл подал в отставку с поста начальника штаба. В 1947 году новый президент Трумэн назначил Маршалла государственным секретарем и возложил на него всю тяжесть задачи послевоенного восстановления международных связей.
Весной 1947 года, по словам Дина Ачесона, «Соединенные Штаты нашли идею, которая воспламенила воображение во всем мире». Эта «идея» получила название плана Маршалла, хотя сам государственный секретарь США не раз указывал, что он являлся лишь одним из ее авторов. Действительно, многие положения плана Маршалла были разработаны госдепартаментом и министерством финансов совместно с министерствами армии и ВМФ США, с крупными бизнесменами и другими представителями правящей элиты страны, главной заботой которых было «утверждение лидерства США» в европейских и мировых делах.
Как пишет Ю.М. Мельников: «Смысл "новой дипломатической идеи" США состоял в том, чтобы временно отодвинуть на второй план упоминание о "крестовом походе" против коммунизма и сплотить сперва вокруг себя как можно больше союзников под флагом "общей работы по восстановлению экономики".
Задумав сделать максимально широкий жест предложения американской помощи "без каких-либо условий" всем, кто захочет ее принять для того чтобы "встать на собственные ноги", руководители дипломатии США неизбежно столкнулись с вопросом о том, что им делать, если в числе таких стран окажется Советский Союз. После некоторых колебаний и споров Маршалл решил наконец на свой страх и риск не исключать с самого начала возможность участия СССР в "программе восстановления". Он исходил при этом из того, что такое исключение не только сразу бы разоблачило подлинные цели американского плана, но и, возможно, вызвало бы отрицательное отношение к нему других социалистических государств - стран Восточной Европы.
США намеревались фактически предложить СССР в рамках плана Маршалла не помощь в развитии собственного хозяйства, а, наоборот, "содействие" западноевропейскому капитализму, обеспечение сырьем его промышленности и т.п.».
В своем известном выступлении 5 июня 1947 года в Гарвардском университете Маршалл сделал акцент на «серьезности мирового положения», проистекающей из «развала деловой структуры Европы во время войны» и слишком медленного ее восстановления. «Помимо деморализующего эффекта на мир в целом и возможностей беспорядков, возникающих как результат отчаяния страдающих от этого народов, - говорил он, - последствия для экономики США должны быть очевидны для всех. Вполне логично, что США должны сделать все, что они в состоянии сделать, чтобы содействовать возвращению нормального экономического здоровья миру… Наша политика, - провозглашал далее Маршалл «новую дипломатическую идею» США, - направлена не против какой-либо страны или доктрины, а против голода, бедности, отчаяния и хаоса». Роль США «должна состоять в оказании дружеской помощи в составлении европейской программы и позднее в поддержке такой программы в такой степени, в какой это может быть практичным для нас».