Этот и другие подобные случаи упрочили командование рейхсвера в намерении создать для строящейся 100 тысячной армии специальный отдел контрразведки в системе министерства рейхсвера. Его руководителем назначили майора Гемпа (впоследствии генерал-майор), который в годы войны работал у полковника Николаи в отделе «III-b». Он дал новой тайной военной разведслужбе название «Абвер» (по-немецки «защита, охрана». —
По складу характера майор Гемп был сильной личностью. Пользуясь своим опытом и основательным знанием материала, он сумел взять многое из наработанного в прежней службе разведки как в техническом, так и в методическом плане. Однако в тех трудных условиях, в которых находился тогда молодой рейхсвер, многое нужно было начинать заново, ибо предпосылки, позволявшие работать отделу «III-b» в Большом генеральном штабе, исчезли или изменились в той же степени, как и вся военная и политическая обстановка. Новую тайную военную службу следовало поначалу держать в достаточно скромных, малозаметных рамках. Поэтому абвер тогда насчитывал всего 2–3 офицера генерального штаба и примерно 5–7 вольнонаемных сотрудников, которых можно было уволить в любое время, и несколько писарей. Группа абвер имела два сектора — «Восток» и «Запад», которые занимались главным образом борьбой со шпионажем и диверсиями. Сбор сведений из за рубежа был тогда на втором плане. Поскольку финансовые средства были предельно скромными, о создании полноценной тайной службы военной разведки в ту пору никто и не думал.
Под руководством генерала фон Зекта рейхсвер тем временем превращался в элиту долгослужащих высококлассных военных специалистов и в идеальное ядро будущего вермахта. Войсковое управление стало его настоящим мозгом. Но для охраны пока еще чисто оборонительных мероприятий рейхсвера и сохранения в тайне многих усилий, не предназначенных для сведения общественности, все настойчивее требовалась хорошо функционирующая защита от шпионажа. Именно поэтому абвер-группа была подчинена непосредственно министру рейхсвера. Скрывать само ее существование необходимости не было. Более того, она возникла и начала развиваться совершенно официально под наблюдением межсоюзнической Контрольной комиссии как военный орган защиты от шпионажа. Это обозначение сохранилось и тогда, когда рухнули ограничения, наложенные Версальским договором. Абвер стал понятием, включавшим в себя всю тайную военную службу разведки, контрразведки и связи появившегося позже германского вермахта. Из абвер-группы рейхсвера выросло отделение Абвера в министерстве рейхсвера, а затем в имперском военном министерстве. Потом оно превратилось в отдел внешней разведки и контрразведки в верховном главнокомандовании вермахта и наконец — в октябре 1939 г. — в самостоятельное управление «Абвер/Аусланд» (Абвер/Заграница).
Поначалу абвер-группа состояла из трех подгрупп: I. Разведка, II. Шифровальная служба и служба радиоподслушивания, III. Контрразведка. В качестве непосредственных исполнительных органов в каждом из семи военных округов (корпусов) были созданы отделения абвера. Они располагались так: в 1 м округе в Кёнигсберге, во 2 м — в Штеттине, в 3 м — в Берлине, в 4 м — в Дрездене, в 5 м — в Штутгарте, в 6 м — в Мюнстере и в 7 м — в Мюнхене. В штате каждого из этих отделений, к которым позже добавилось еще одно — при штабе 2 й кавалерийской дивизии в Бреслау, вначале был один офицер генштаба, один офицер-помощник и один писарь. Например, в штабе 1 го округа за решение задач разведки отвечал капитан Вальтер Вайсс (в будущем — генерал-полковник и командующий одной из армий). В его распоряжении были трое офицеров (они служили как вольнонаемные), которые и занимались непосредственно вопросами разведки и контрразведки[19].
Военной разведке, конечно, нелегко было держаться в стороне от напряженных моментов во внутренней и внешней политике. Тогдашние враги Германии — Франция и Англия — имели свои опорные пункты тайных служб на всей территории рейха. Глава межсоюзнической Контрольной комиссии генерал Дюпон прежде был начальником французского Второго бюро (секретной службы). Он покрыл всю Германию сетью шпионов, действовавших во всех сферах. Было также известно, что военный шпионаж направляется главным командованием французских оккупационных войск в Майнце. Специалисты Второго бюро помогали Праге и Варшаве при создании ими своих сетей шпионажа против Германии. Иными словами, рейх был осажден и наводнен разведывательными службами его противников.