Считается, что в Германию Шелленберг вернулся только в 1929 году и какое-то время был занят охраной поместий зажиточных землевладельцев. Он собрал отряд преступников из деклассированных элементов, связанных со штурмовиками из СА. По их поручению люди Шелленберга прятали в имении оружие, и когда один из батраков случайно его обнаружил, Вальтер убил его своей рукой. Позднее, когда брат погибшего стал высказывать подозрения в отношении Шелленберга, тот убрал и его, выпустив в отчаянного крестьянина всю обойму из своего парабеллума.
Еще несколько подобных «подвигов» принесли Шелленбергу офицерский чин при вступлении в СС. Однако криминальная полиция занялась делом об убийстве братьев. Опытные немецкие сыщики быстро раскрыли преступление. Но нацисты позаботились о том, чтобы замять дело, и убийца остался на свободе. Да к тому же получил чин оберштурмфюрера СС. В других источниках говорится, что Шелленбергу присвоили звание обер-лейтенант.
Именно тогда Вальтер Шелленберг стал полноправным членом СС — в то время еще маленькой и странной организации, которая вскоре стала грозной вооруженной силой нацизма и хранительницей его самых мрачных тайн. Эсэсманы привлекали на свою сторону не только бандитов и убийц, им были крайне нужны образованные люди, которые бы разделяли идеи национал-социализма. Гиммлер, назначенный Гитлером 6 января 1929 года рейхсфюрером СС, прекрасно понимал: захватить власть — только половина дела, а вот удержаться на вершине пирамиды государственной власти гораздо сложнее. Нужно приложить немало сил и собрать вокруг себя способных, верных людей, на кого-то опираться в решении важных задач, которые ставил перед СС вождь партии Адольф Гитлер.
И здесь справедливо возникает вопрос: как Шелленберг мог попасть в политическую разведку, не имея никакого опыта оперативной, контрразведывательной или разведывательной работы? Это направление деятельности не терпит дилетантов, которые быстро ломают себе шею.
По некоторым данным, образованный Шелленберг с его дипломом правоведа заинтересовал руководство СС, и в начале 1930-х годов его направили на работу за границу, где он служил целям немецкой разведки. В 1933 году, по некоторым сведениям, Вальтер Шелленберг прибыл в Нью-Йорк, в Соединенные Штаты Америки. Это происходило как раз перед тем, как в военном ведомстве Германии «молчаливый полковник» Николаи вновь занял место начальника военной разведки. Именно он создал в США агентурную разведывательную сеть, позднее получившую название «Бременские музыканты».
В январе 1933 года Гитлер стал рейхсканцлером, поэтому Шелленберг получил полную свободу действий. Хитрый, инициативный, безжалостный и циничный, работоспособный молодой разведчик создал при германском Генеральном консульстве специальный секретный отдел, возглавить который решил он сам. Естественно, активность Шелленберга получала одобрение и поддержку Берлина. В Америке Вальтер быстро наверстал пробелы в разведывательной и контрразведывательной практической работе — ему приходилось лично выполнять и организовывать проведение секретных операций, столь важных для его руководства, оставшегося в Германии. В Нью-Йорке он преуспел в оперативной работе, успехи были весьма впечатляющими: уже к 1936 году Шелленберг создал в США мощную разветвленную агентурную сеть политической разведки, без задержек и заминок снабжавшую Берлин политической информацией. Агенты Вальтера были уже во всех властных структурах, незаметно заполняли все слои американского общества и успешно заводили нужные связи на разных уровнях государственного управления. Именно поэтому в конце Второй мировой Шелленберг с легкостью нашел через свою агентуру нужные связи и быстро вышел на контакт с американцами по поводу секретных переговоров о сепаратном мире.
Организация увеличилась, и Шелленберг принял совершенно необычное и смелое для разведчика решение: он легализовал часть разведывательной сети, создав общественное объединение под названием «Друзья новой Германии». Агенты немецкой разведки, работавшие в этой легальной структуре, выполняли еще и контрразведывательные функции — они срывали работу американских спецслужб.
Вместе с тем Вальтер Шелленберг как истинный эсэсовец часто прибегал к грубому принуждению, заставляя немецких эмигрантов в США усердно работать на спецслужбы нацистов.
Вернувшись в Германию, Шелленберг побывал в различных аппаратах государственной власти, пока его профессионально выполненные на высоком уровне доклады о путях развития германского законодательства не привлекли внимания всесильного главы СД Рейнхарда Гейдриха. Он пригласил Шелленберга к себе и предложил должность в своем ведомстве. В ноябре 1939 года Вальтер Шелленберг стал начальником отдела «Е» (контрразведка) в IV управлении РСХА, занимавшегося контрразведывательной работой. В 1941 году Шелленберг был переведен в VI управление РСХА (внешняя разведка) и занял пост заместителя начальника управления, фактически возглавив управление.