Центральный аппарат Абвера состоял из 5 главных отделов, непосредственно подчинявшихся начальнику Абвера. 1-й отдел Абвера (“A-I”) занимался организацией разведки за границей, добывал информацию о военно-экономическом потенциале вероятного противника. Он состоял из подотделов, ведавших различными сторонами военной разведки. Подотделы строились по географическому и отраслевому принципу. Подотдел “Вест” ведал организацией разведки в странах Запада, подотдел “Ост” - в странах Востока. Имелись подотделы, ведавшие разведкой в военно-морских и военно-воздушных силах, военной промышленности иностранных государств и т. д. 2-й отдел Абвера (“A-II”) руководил организацией диверсионной деятельности за границей и в тылу войск противника. В его состав входили подотделы “Вест”, “Ост”, “Зюйд-Ост” и др., а также специальные подразделения для материально-технического обеспечения диверсионно-террористической деятельности. Главные задачи отдела “A-II”: подрыв морального духа армии и населения стран-противников, создание “пятых колонн”, уничтожение или захват особо важных военных и промышленных объектов, совершение террористических операций, дезинформация политического и военного руководства противника. Наряду со специальной агентурой “A-II” для решения своих задач широко использовал в некоторых странах (Франция, США, Норвегия и др.) реакционные политические организации с прогерманской ориентацией, пронацистские группы т. н. “заграничных немцев”, террористические группы эмигрантских и националистических организаций. 3-й отдел Абвера (“A-III”) возглавлял военную контрразведку и вел политический сыск в вооруженных силах и военной промышленности Германии. В его состав входили подотделы, занимавшиеся контрразведкой в сухопутных войсках, ВМС, ВВС, охраной секретов и борьбой с саботажем в военной промышленности, дезинформацией иностранных разведок, “обслуживанием” лагерей для военнопленных. Особое место занимал подотдел “III-Ф”, ведавший контрразведкой за границей. Его главной задачей было проникновение в разведслужбы других государств, выявление их планов и деятельности в отношении нацистской Германии. Важным звеном Абвера был отдел “аусланд” (“заграница”), взаимодействовавший с министерством иностранных дел. Отдел собирал разведывательную информацию путем изучения иностранной прессы, радиопередач и литературы, обработки сведений, поступавших от германских военных атташе за границей, фактически руководил их разведывательной деятельностью. Центральный отдел (“Ц”) Абвера занимался административными вопросами, ведал центральным архивом и картотекой агентов Абвера.
Абвер имел разветвленный периферийный аппарат как в самой Германии, так и за границей. Основными его звеньями в Германии были специальные отделы, т. н. “Абверштелле”, создававшиеся при штабах военных округов и военно-морских баз. Они специализировались на разведывательной и контрразведывательной деятельности по определенным районам. За границей разветвленную систему периферийных органов Абвера составляли резидентуры в странах-противниках, а также т. н. “военные организации” (“Kriegsorganisation” - KO) в нейтральных и некоторых союзных государствах (Турция, Иран, Греция, Румыния, Болгария, Португалия, Испания, Швейцария, Финляндия, Аргентина и др.). Главное назначение этих органов - ведение подрывной деятельности против государств, считавшихся нацистским руководством враждебными. КО включали в себя подразделения “A-I”, “A-II” и “A-III”, которые размещались обычно в германских посольствах и консульствах, но в оперативном отношении были от них независимы.
До начала и в первый период 2-й мировой войны Абвер, несмотря на острую конкуренцию других разведслужб (прежде всего СД - службы безопасности нацистской партии), был центральным органом ведения разведдеятельности за рубежом. Он сыграл большую роль в подготовке и обеспечении успеха гитлеровской агрессии против государств Европы. После захвата Австрии (см. Аншлюс) и Чехословакии усилия Абвера были сосредоточены на выполнении директивы Верховного главнокомандования вооруженными силами (ОКВ) о нападении на Польшу (см. план “Вайс”). При участии Абвера была подготовлена известная провокация в Глейвице, послужившая предлогом для нападения Германии на Польшу (см. Глейвицкий инцидент; “Консервы”). Абвер активно участвовал в подготовке агрессии против Дании, Норвегии, Бельгии, Нидерландов и др.