В воскресенье, 23 июля, Вильгельм Канарис был арестован в своем доме самим Шелленбергом «по прямому указанию начальника гестапо Мюллера», оправдался он. Нарушить приказ, как объяснил Шелленберг, он не мог. Адмирала взяли под стражу и отвезли в школу пограничной полиции в Фюрстенберге «до выяснения обстоятельств». Вскоре после покушения гестапо, проводя обыск, нашло в кабинете бывшего начальника абвера в Потсдаме-Айхе папку номер VI его дневника. Эта рукопись охватывала период с марта 1943 по июнь 1944 года. Поскольку первые подозрения против Канариса возникли у гестапо еще весной 1943 г. в связи с арестом фон Донаньи, адмирал с той поры стал очень осторожен. Отпечатанные его секретаршей на машинке материалы этой папки содержали так мало компрометирующих данных, что их было недостаточно, чтобы изобличить адмирала в государственной измене. Гестапо усиленно продолжало искать папки I–V, в которых, как полагали, должны были содержаться записи 1938–1942 гг., а может быть, и более ранние. Но Канарис передал их на хранение подполковнику Шрадеру. Канарис открыто заявил об этом на допросе. Ему не нужно было опасаться за судьбу Шрадера: тот уже покончил жизнь самоубийством.
Вместе с Канарисом на Принц-Альбрехтштрассе сидело множество участников оппозиции. Среди них были Гёрделер, генералы Гальдер, Томас, Остер, бывший министр Попитц, главный судья Зак и доктор Мюллер, а также Лидиг, Штрюнк, Гере, Небе и пастор Бонхёффер. С Канарисом обращались с особенной жестокостью. Он был в наручниках и в течение долгого времени получал лишь треть нормального рациона заключенных.
Расследование дела о попытке государственного переворота Гитлер сразу после покушения поручил лично рейхсфюреру СС Гиммлеру, а исполнение приговора — высшему суду по политическим преступлениям (Фольксгерихтсхоф).[290] Для ведения дознания в РСХА была создана особая комиссия в составе нескольких групп следователей из IV управления (гестапо). Одну из них возглавлял правительственный уполномоченный в РСХА Вальтер Хуппенкотен. Он вначале расследовал дела графов фон Штауффенберга, фон Шверина и фон дер Шуленбурга, затем — генерал-лейтенанта Пфульштайна, последнего командира дивизии «Бранденбург» и подполковника Хайнца. Далее последовали дела Остера и Донаньи и, наконец, — дознание по делу Канариса. На допросах обвиняемых, кроме Хуппенкотена, присутствовали также штандартенфюрер СС Патцингер и комиссары криминальной полиции Зондерэггер, Ланге и Шрай. Хуппенкотен в основном опирался на материалы из архивов управления «Абвер/Аусланд» за период с конца 1942 до конца 1943 г. Эти материалы позволили установить, что в абвере уже несколько лет существовала группа Сопротивления, имевшая связи с другими группами. Одним из связных был служивший в абвере до февраля 1944 г. капитан Гере, арестованный за несколько месяцев до этого по подозрению в государственной измене. Однако вскоре он бежал из-под ареста и скрылся в берлинском подполье. Но в августе 1944 г. он был снова пойман.
В связи с обнаружением на складе учебного лагеря «Майбах-II» в Цоссене запасов взрывчатки гестапо в конце августа предприняло тщательный обыск всех сейфов бывшего управления. При этом оно, конечно, наткнулось на обширные материалы из офиса Канариса, которые в 1942 г. по соображениям безопасности были помещены в сейф Прусского государственного банка. В связи с усилением угрозы в конце 1943 г. подполковник Хайнц переложил эти документы, бегло их просмотрев, в недоступный бункер «Цеппелин» на запасных квартирах ОКХ. Здесь, в особой заградзоне «Майбах-II», располагались во время войны управление общих дел ОКХ и несколько подразделений абвера. Подполковник Шрадер должен был еще раз их просмотреть и в случае серьезной опасности уничтожить[291].
Среди найденных в Цоссене материалов оказались записи, касавшиеся подготовки государственного переворота в 1938 г., установления контактов с Ватиканом с целью подготовки мирных переговоров с Англией, далее — обобщенный обзор обстановки после польской кампании, сделанный генерал-полковником Беком, рукопись карандашом о проведении переворота, написанная рукой Остера, дневник на 20 страницах, который Канарис вел в 1939 г. и где были записи о поездках на фронт с целью склонить командующих к участию в перевороте и, наконец, корреспонденция об усилиях пастора Бонхёффера, устанавливавшего связи для подготовки мирных переговоров после устранения Гитлера. Однако среди всех этих материалов не было пяти папок с дневниками Канариса.