Граф, как известный ас Люфтваффе, кавалер Бриллиантов, бывший оберст и командир эскадры, стал объектом особо пристального внимания со стороны различного рода «агитаторов». Можно пред положить, что его и не потребовалось особо сильно агитировать. Достаточно вспомнить его трудное детство и бедность его семьи, его помощь евреям в период работы в муниципалитете Энгена, его потрясения от массовых расстрелов в Белой Церкви и, наконец, спасение лучших немецких футболистов от фронта.
Как бы там ни было, но Граф сделал свой выбор. Хартманн, со державшийся тогда в том же лагере, позднее вспоминал:
Граф написал администрации лагеря соответствующее заявление и вскоре был переведен в другой лагерь, расположенный рядом с Москвой. Среди пленных ходили слухи, что он даже соглашался служить в советских ВВС, если ему дадут звание на одну ступень ниже, чем было у него в Люфтваффе. Граф написал несколько статей в газете, распространяемой среди военнопленных, в которых расхваливал успехи советской авиации в ходе войны.
Ему приписываются следующие слова:
Сейчас трудно сказать, действительно ли эти слова передают смысл того, что хотел сказать Граф. Ведь они несколько раз переводились, сначала с немецкого на русский язык, потом обратно, а уж позднее цитировались в различных источниках и на немецком, и английском языках.
Как бы там ни было, но Графа нельзя упрекнуть в трусости или малодушии. Достаточно вспомнить храбрость, проявленную им в воздушных боях, и как он отказался лететь в Дортмунд, бросив своих подчиненных и беженцев на произвол судьбы. Наверное, какое-то время он искренне верил в то, что делает.
25 декабря 1949 г. Граф был освобожден из советского плена. Затем 3 января 1950 г. он приехал в родной Энген и сразу же был арестован французскими оккупационными властями. Правда, уже вскоре его освободили с условием, что он должен ежедневно отмечаться в местной администрации. Через четырнадцать дней французские власти сняли с бывшего аса все ограничения, и он стал полностью свободным человеком.
В первое время после возвращения в Западную Германию Граф испытывал очень большие трудности. Его мать, с которой у него всегда были близкие отношения, не дождалась возвращения сына. Их дом был полностью разграблен. Вскоре Граф развелся с женой, которая в отличие от матери в общем-то и не особо ждала его возвращения. Уже в том же 50-м году Йола вышла замуж за кино актера Вольфганга Килинга, но и этот брак не стал для нее счастливым. Затем в октябре 1952 г. она в состоянии депрессии покончила жизнь самоубийством.
Практически все бывшие коллеги Графа по Люфтваффе относились к нему с подозрением и недоверием. Они полагали, что свое столь раннее освобождение из плена он «заработал», сотрудничая с советскими властями и подписав несколько документов, в которых, по их мнению, принижались достоинства немецкой армии в ходе прошедшей войны.
Отношение к нему особенно ухудшилось после выхода книги «Я расскажу правду», написанной Хансом Ханном – известным асом и кавалером Дубовых Листьев к Рыцарскому Кресту. 21 февраля 1943 г. тот был сбит в районе г. Демянск, Новгородская обл., и затем провел в советских лагерях около семи лет.
В итоге Графа исключили из вновь созданного Общества немецких летчиков-истребителей, своеобразного объединения ветеранов. Правда, он и сам старался всячески отстраниться от своих прежних успехов и не стремился принимать какое-либо участие в мероприятиях, проводимых бывшими коллегами.
Однако не все придерживались категорического мнения в отношении Графа. Так, Хартман Грассер, тоже бывший известным асом Люфтваффе и кавалером Дубовых Листьев и одно время находившийся в плену вместе с Графом, впоследствии говорил: