Вслед за Пикенброком, фон Лахузеном и фон Бентивеньи в декабре 1943 г. был снят с должности начальник т. н. «Центрального отдела» Абвера оберет Ханс Остер. Одновременно был арестован Йозеф Мюллер, доверенное лицо Канариса в Ватикане. Спустя два дня произошли события, окончательно решившие участь военной разведки. Несколько ведущих сотрудников турецкой резидентуры Абвера, поняв, что СД вот-вот их арестует, переметнулись к англичанам. Первыми из Анкары исчезли супруги Фермерен (Vermehren), затем супруги Клечковские, работавшие на отдел Абвер-III, потом и еще ряд других агентов. Все они были срочно вывезены британской разведкой в Каир.
Это была последняя капля, переполнившая чашу терпения Гитлера. Он приказал немедленно подготовить декрет о включении Абвера в структуру РСХА. Главу турецкой резидентуры Абвера вызвали в Берлин, где он затем, согласно официальным данным, покончил с собой. Адмирал Канарис был снят со своего поста и назначен на малозначительную должность руководителя Управления экономической войны в Главном командовании Вермахта.
14февраля 1944 г. Гитлер издал декрет о создании единой германской секретной службы под руководством рейхсфюрера СС Гиммлера. В июле Абвер был окончательно распущен и все его подразделения переданы в соответствующие управления РСХА. 20 июля произошло известное покушение на Гитлера, закончившееся неудачей. Уже через два дня — 23 июля — адмирал Канарис был арестован и после серии допросов на причастность к заговору против фюрера отправлен в концентрационный лагерь около местечка Флоссенбюрг, в 15 км северо-восточнее г. Вайден. Бывший шеф Абвера, как вспоминали очевидцы, был почти уверен, что сможет пережить войну. Однако ранним утром 9 апреля 1945 г. Канарис и Остер были повешены на лагерном дворе на струнах от фортепьяно, прикрепленных к мясным крюкам со скотобойни. Вместе с ними ушли в небытие многие тайны Третьего рейха…
Aufkl.Gr.Ob.d.L. была распущена, но распущена как группа дальней авиаразведки. В то же время никто не сомневался в том, что необходимо иметь особое авиационное подразделение, которое бы обеспечивало интересы Главного командования Вермахта, рейхcминистерства авиации и РСХА в части проведения специальных операций в самом широком смысле, а также в области развития, войсковых испытаний и применения новейших секретных систем вооружения.
Уже в феврале 1943 г. на аэродроме Рангсдорф, недалеко от Берлина, было сформировано т. н. «Опытное подразделение при Главнокомандующем Люфтваффе» (Versuchsverband Ob.d.L.). Как следовало из названия, оно напрямую подчинялось руководству Люфтваффе, как до этого и авиагруппа Ровеля, но в отличие от последней должно было теперь выполнять и специальные задания РСХА. Его командиром был назначен офицер Генерального штаба Люфтваффе оберет Генрих Хейгл (Heinrich Heigl).
Официально в состав нового подразделения вошли две эскадрильи. Первой из них, созданной на базе бывшей 4-й эскадрильи Aufkl.Gr.Ob.d.L., было поручено заниматься войсковыми испытаниями опытных образцов новых самолетов и вооружения. Ее возглавил все тот же Теодор Ровель, который и до этого уделял много внимания этим вопросам. При этом для него такое назначение, конечно же, являлось понижением. Изредка эскадрилья привлекалась и к разведывательным полетам над Средиземным морем, Англией и на Восточном фронте.
Вторая же эскадрилья занималась исключительно секретными операциями по заброске агентов Абвера и РСХА. Ее командиром был назначен гауптман Гартенфельд, чей авторитет в этой сфере не подвергался сомнению. В его распоряжении были двадцать пять экипажей по три человека, большинство из которых ранее работали летчиками-испытателями или в авиакомпании «Люфтганза». Это было больше, чем штатная численность обычной эскадрильи, и потому 2-я эскадрилья Versuchsverband Ob.d.L. получила неофициальное наименование «группа Гартенфельд» (Gruppe Gartenfeldt).
Помимо этого, оберсту Хейглу в оперативном отношении была подчинена и 3-я эскадрилья из «Опытной станции высотных полетов», которая тоже занималась доставкой шпионов на территорию других стран.