Уже во время своего визита в Париж 11 апреля 1951 года Аденауэр предчувствовал, как много его ждет изматывающих переговоров. «Прием, — с досадой пишет он в своих воспоминаниях, — был совершенно неофициальным. А я, между прочим, был первым членом федерального правительства, посетившим Париж после окончания войны». На летном поле его ожидал даже не министр, а Жан Моне, правая рука министра иностранных дел Роберта Шумана. Возврат Западной Германии в многонациональную семью народов был сопровождаем затаенной враждебностью. При этом очевидно было историческое значение этого визита. До этого город на Сене посетили всего лишь три канцлера — Бисмарк в 1871 году в роли сиятельного победителя в сверкающих доспехах, Брюнинг в 1931 году с мольбой о ссудах и в 1940 году Гитлер. Аденауэр 26 раз побывал в Париже и уже одним этим заложил основы внешней политики Федеративной республики, чтобы раз и навсегда подвести черту под «исторической враждой» между двумя соседними народами. Вашингтон был вторым пунктом его назначения — там он был 12 раз.
Оставив в стороне уничижительное отношение к себе некоторых иностранных коллег, канцлер наслаждался поездками за границу. Он присматривался и подмечал, что во время его прогулок в саду Тюильри и при посещении Лувра и Нотр-Дама французы, которых он встречал, смотрели на него без тени вражды. Его доверенное лицо Герберт Бланкенхорн выяснил, что канцлер неравнодушен к шампанскому и устрицам, поэтому внес эти традиционные галльские деликатесы в программу парижских визитов. Особенно растрогало Аденауэра, когда французская студентка послала ему в знак примирения двух народов Croix de Guerre, полученный ее усопшим отцом еще в Первую мировую войну. После смерти канцлера крест «заклятого врага» нашли у него в ящике стола.
Затем начались переговоры, по окончании которых было образовано Европейское объединение угля и стали, ФРГ вошла в него в качестве полноправного члена, месяцем раньше был сильно смягчен оккупационный режим страны. Самонадеянность, с которой канцлер запоминал эти ранние плоды своей внешней политики, легко можно заметить в замечании, брошенном журналистам немного позже, уже в Рёндорфе: «Если я опять захочу, чтобы Германия стала великой державой — а мы, немцы, должны это сделать, — я должен начать вести себя как канцлер великой державы». Кто из канцлеров, последовавших за Аденауэром, мог с такой же легкостью произнести слова «великая держава»?
В последующие месяцы, после долгих переговоров, результат обрисовался в виде контракта, который, хотя и не воплощал в жизнь мечты о великой державе, но уже представлял собой огромный шаг вперед. Германия в рамках Европейского оборонительного сообщества должна была распустить собственные войска и получить за это значительную часть государственного суверенитета. Оккупационный статус сменялся т. н. Германским договором. Проще говоря, это означало: немецкие войска под западным командованием в обмен на постепенный возврат немецкой государственной самостоятельности. Чудовищный подвох, а именно то, что такой поворот событий означал бы потерю собственной государственной суверенности, Аденауэр понял еще не до конца. Как раз теперь в Федеративной Республике Германия действительно разгорелся спор вокруг набора договоров с Западом, которые должны были быть подписаны летом 1952 года.
10 марта 1952 года Советский Союз вступил в борьбу за общественное мнение, опубликовав ноту, воспринятую как сенсацию. В этой оферте, вошедшей в историю под названием «нота Сталина», Кремль предлагал Западу объединить Германию и провести свободные демократические выборы, но — на неопределенных условиях. Загвоздка была вот в чем: объединенная Германия по условиями СССР должна была соблюдать полный нейтралитет, а это стало бы крахом прозападной политики Аденауэра и чаяний западных стран. Ни один момент в истории канцлерства Аденауэра не был более дискуссионным, чем этот. В постоянном репертуаре критиков появилось утверждение, что Аденауэр летом 1952 года не сделал попытку вступить в диалоге Советским Союзом. Упрек в том, что он «упустил шанс» объединить Германию, так и остался на его совести мертвым грузом. Судя по этим упрекам, на первом канцлере висела известная часть вины за существование двух Германий и угнетение 17 миллионов соотечественников в соцлагере. Это обвинение подкреплялось по сути враждебным отношением Аденауэра к «пруссам». В качестве примера постоянно приводятся его высказывания, в частности, остроумная шутка веймарских времен, что он «занавешивает окно» каждый раз, когда пересекает Эльбу в восточном направлении, или замечание, что «Азия начинается на Эльбе».