В июле 1955 года по наущению Хрущева Жуков дебютировал как дипломат. Министр обороны СССР был включен в состав советской делегации на конференции в Женеве в июле 1955 года. Со своей стороны американские руководители проявили к Жукову отнюдь не самый здоровый интерес. Георгий Константинович не мог не видеть, что вокруг него затеваются политические игры. Он был теперь умудрен отрицательным опытом и отнюдь не горел желанием быть игрушкой в чьих-либо руках. Посему прибег к известной военной хитрости — умнейший человек предстал только исполнителем. Главное — не дать пищи для кривотолков. С большим разочарованием по поводу несбывшихся надежд, а они, несомненно, были, Эйзенхауэр писал в 1963 году: «Перед конференцией в Женеве Жуков был назначен министром обороны СССР. Было ли это результатом изменения обстановки у Советов или его направили в Женеву в ожидании того, что изложение им советской точки зрения на меня окажет влияние, мы не знали. В начале конференции несколько членов моего штата получили туманные, но отнюдь не тонкие предложения в форме предположений, подсказанных простым любопытством — «президент может захотеть повидаться со своим старым другом Жуковым». Я решил последовать этим тяжеловесным намекам, надеясь, что маршал сможет как-то объяснить мне непоследовательный характер русской политики».
Эйзенхауэр пригласил Жукова на ленч в свою виллу. Жуков «немедленно согласился». Они оживленно побеседовали о прошлом, вспомнили войну. «Но как только мы затронули серьезные вопросы, которыми занималась конференция, стало совершенно очевидно — Жуков не тот, каким был в 1945 году… Теперь в Женеве, спустя 10 лет, он был сломан и встревожен. Тихо и монотонно он повторил мне те же аргументы, которые развивал за столом руководитель советской делегации. Но это не была обычная беседа, он говорил, как будто повторял урок, который вбили в него до точки. Он был безжизненным, ни улыбки, ни шутки. Мой старый друг выполнял приказ начальства. Я не извлек ничего из этого личного разговора, кроме горечи». А что хотел извлечь президент США?
Георгий Константинович с достоинством вышел из испытания, каким было для него участие в конференции в Женеве. Конечно, он не был «безжизненным», служившие с маршалом в то время единодушно отмечают — он был полон энергии, неутомим. Другое дело, каким он представал перед западными деятелями, все домогавшимися выяснить, как министр обороны смотрел на те или иные проблемы международной жизни.
Попытки эти нередко носили крайне назойливый характер. Тогдашний американский посол в Москве Ч. Болен попытался разговорить Г. К. Жукова сразу после событии в Польше осенью 1956 года. «На приеме в турецком посольстве он сказал, что в Восточной Германии, Белоруссии и Польше было более чем достаточно войск, чтобы разрешить вопрос на условиях Кремля. Блеснув своими голубыми глазами, он настаивал — «они бы раздавили их как мух». Когда же я спросил, кто это «они», он не дал прямого ответа, но, очевидно, Жуков имел в виду советские войска, ибо он сказал: «Красная Армия проявила «громадную сдержанность» в Польше. Он сказал, что направил командующего силами Варшавского Договора маршала И. С. Конева в Восточную Германию, чтобы гарантировать — войска оттуда не вступят в Польшу. Так сказать, читая между строк Жукова, я полагаю — он выступал за военное вмешательство в Польше, но ему не дали этого сделать. Высказывания Жукова по поводу Венгрии позднее подтвердили мои подозрения». С такими собеседниками Георгию Константиновичу нужно было быть вдвойне, втройне осмотрительнее.
На XX съезде КПСС в феврале 1956 года Жукова избирают членом ЦК (он был переведен из кандидатов в члены ЦК в 1953 году в связи с назначением первым заместителем министра обороны). В декабре 1956 года за выдающиеся заслуги перед советским пародом и в связи с 60-летием со дня рождения Г. К. Жуков награжден орденом Ленина и четвертой медалью «Золотая Звезда» Героя Советского Союза. В следующем, 1957 году Г. К. Жукова вводят кандидатом в члены Президиума ЦК КПСС.
26 января 1957 года индийский народ праздновал 7-ю годовщину провозглашения Индии республикой. Жители Дели с энтузиазмом приветствовали советскую делегацию во главе с Жуковым. Он побыл на параде, встретился с премьером Джавахарлалом Неру и другими деятелями. Маршал поездил по стране, посетил воинские части, училища, корабли и отметил — офицеры подтянуты. По возвращении в Москву министр издал приказ три дня в неделю начинать рабочий день с занятий физкультурой., Группу маршалов собирали для этого в плавательном бассейне ЦСКА. Жуков пунктуально являлся на занятия и аккуратно справлялся у них — людей в среднем около 60 лет и старше, не тяжелы ли занятия. Маршалы бодро заверяли: физкультура творит чудеса. По-видимому, Жуков так и не распознал лукавства старых солдат, между собой утверждавших — полезнее всего поднимать и опускать веки. Этим открытием они остереглись поделиться с энтузиастом физических занятий.