Родился Иоганн Раттенхубер 30 апреля 1897 года в деревне Оберхахинг близ Мюнхена, в семье мелкого предпринимателя и содержателя небольшого ресторанчика Ганса Раттенхубера. Девичья фамилия матери, дочери зажиточного крестьянина, - Анна Коглер.
Окончил 4 класса народной школы и 8 классов средней школы в Мюнхене, куда родители переехали в 1907 году.
3 апреля 1916 года был призван в армию и в сентябре того же года, после обучения в Пассау на Дунае, прибыл на фронт. В 1917 году был младшим командиром на курсах прапорщиков, затем, после нескольких месяцев повторного пребывания на фронте, был направлен весной 1918 года на курсы лейтенантов. В октябре 1918 года ему было присвоено звание "лейтенант".
С сентября 1916 до середины мая 1917 года участвовал в боях против Румынии и России в Карпатах и Галиции, с мая 1917-го и до конца войны - на Западном фронте против Франции, Англии и американцев.
В январе 1919 года возвратился домой. Поступил учиться в Высшую коммерческую школу в Мюнхене, затем, проучившись один год, перешел на работу, в качестве волонтера, в Немецкий банк в Мюнхене.
Перспективы карьеры на этой должности были очень незавидные, и Раттенхубер поступил в сентябре этого же года на службу в полицию земли Бавария. До 1922 года служил в городе Бейроте, а затем, в том же году, был переведен в Мюнхен.
В июне 1925 года ему было присвоено звание "обер-лейтенант". До 1925 года в течение трех лет командовал взводом в 8-й и 3-й полицейских ротах, после чего был переведен в 11-ю роту заместителем командира роты. В 1930 году руководство полиции отозвало его в Мюнхен, где был использован в качестве вспомогательного сотрудника по вопросам образования и спорта.
10 марта 1933 года Гитлер пришел к власти. Имперский руководитель СС Гиммлер был временно назначен исполняющим обязанности президента полиции в Мюнхене. Так как Гиммлер не был в достаточной мере знаком с обязанностями президента полиции и взаимоотношениями между подразделениями полиции Мюнхена (сельская полиция, команда по охране улиц и регулированию уличного движения, уголовная и административная полиция), то он попросил у руководителя полиции земли полковника Фрайгерра фон Имгофа дать ему адъютанта.
Выбор пал на Раттенхубера: Гиммлер ещё в 1918 году учился вместе с ним в офицерской школе и они, естественно, встречались и хорошо знали друг друга.
12 марта 1933 года последовало назначение Раттенхубера адъютантом Гиммлера.
В связи с тем что фюрер большей частью находился в Баварии (Мюнхен, Нюрнберг), Гиммлер приказал тогдашнему штандартенфюреру СС Гейдриху выделить команду, состоящую из полицейских-криминалистов, которая должна была сопровождать фюрера в его поездках по Баварии.
Сперва этой командой руководил капитан Беллевиль. В неё входили криминалисты Форстер, Шмидгбауэр, Лутц, Шмидт, Пешль. После перехода Беллевиля в апреле 1933 года в полицию по охране порядка руководство группой перешло к Раттенхуберу.
Фюрер поначалу настороженно относился к этой команде - ещё со времен борьбы за власть у него осталась антипатия к полиции.
В это время Раттенхубер ещё не принимал участия в поездках Гитлера, зачастую находясь в поездках с рейхсфюрером Гиммлером, к которому к тому времени перешло руководство политической полицией страны (Саксония, Вюртенберг, Баден, Гессен, Гамбург и др.). Весной 1934 года, когда Гиммлер взял под свое руководство прусскую государственную полицию, Раттенхубер с хозяином переехали в Берлин.
В декабре 1934 года Раттенхубер женился вторично - первая жена, на которой он женился в 1922 году, умерла. От первого брака остался сын Ганс, 1923 года рождения, который в чине лейтенанта с 1941 года служил в танковом корпусе, - судьба его неизвестна. Во втором браке у Раттенхубера родилась в 1942 году дочь...
...В связи с попыткой начальника штаба штурмовиков Рема сместить фюрера, команда сопровождения Гитлера была усилена. В неё вступили криминалисты Бергмюллер Ганс, Бергмюллер Людвиг, Вурманнштеттер, Иорг, Бюффнер и Виттманн. Благодаря четким действиям членов команды по предотвращению попытки путча, Гитлер проникся доверием к криминалистам и стал с этого времени весьма благосклонно относиться как к тем, кто охранял непосредственно его, так и к тем, кто охранял его квартиру в Берлине.
Вскоре Гитлер поручил Раттенхуберу организовать личную охрану Геринга, Гесса, Гиммлера, Риббентропа, Геббельса, Фрика, Дарре и обеспечить безопасность резиденций в Мюнхене, а с января 1935 года также и в Берхтесгадене.
Работа по организации команд личной охраны в 1934 году в основном была проведена Раттенхубером, он был освобожден от обязанностей адъютанта Гиммлера и поставлен руководителем только личной охраны Гитлера.
С этого времени и начинается круглосуточная работа начальника личной охраны Гитлера, где бы тот ни был.
Скажем, на строительстве зданий, сооружений ставок, в канцелярии или поездках...