Карл Дёниц родился 16 сентября 1891 года в семье инженера в Грюнау под Берлином. В своих воспоминаниях он всегда подчеркивал, что его семья имеет крестьянские корни. Но Дёницы из округа Заале в Тюрингии считались выходцами из семьи довольно состоятельных людей с высшим университетским образованием. — Вероятно, отдельные офицеры были выходцами из этой среды. Но в целом Дёницы происходили из среды образованных немецких бюргеров, для которых военная служба во времена становления империи Бисмарка не очень-то много значила. Однако когда военно-морской флот при кайзере Вильгельме II стал стремительно расти, молодые люди именно из этих бюргерских кругов стали считать для себя профессию морских офицеров престижной. А морской кабинет кайзера, который ведал делами офицерского состава, со своей стороны заботился о том, чтобы офицерский корпус пополнялся из высших кругов общества, и приветствовал, если сыновья из образованных семей выбирали морскую службу. В кайзеровском военно-морском флоте процент офицеров из дворянских семей был всегда ниже, чем выходцев из буржуазной среды.
Одним из решающих обстоятельств, повлиявшим на молодые годы Карла Дёница, стало, во-первых, то, что он очень рано, в возрасте четырех лет, потерял мать, которая была родом из города Кроссена-на-Одере земли Брандербург, и, таким образом, получил строгое мужское воспитание под руководством отца; во-вторых — то, что его отец служил во всемирно известной фирме Карла Цейса в Йене. Так как в семье царили квазипрусские представления о верности государству и служба ему была долгом, не подлежавшим сомнению, то Карл начал свое «служение» сначала в университетском городе Йене, позднее в Веймаре, небольшом полусонном городке, пропитанном духом времени Гете и патриархальным социализмом, куда вместе с фирмой «Карл Цейс» проник бодрящий воздух быстро набирающего силу индустриального мира.
В Йене Карл Дёниц окончил считавшееся тогда очень престижным «Стоическое учебно-воспитательное заведение». Особый интерес он проявлял к истории и естественным наукам, увлекался также живописью и рисованием. Юного Дёница особо привлекала модная в то время школа Ворпсведера. Он читал произведения полярного исследователя Нансена, исследователя Азии Свена Гедина и хотел сам быть «первооткрывателем». Его отец, в котором жила любовь сухопутного немца к морю и который проводил почти каждый свой отпуск на островах Северного моря, советовал сыну избрать профессию морского офицера. Дёниц, выдержав весною 1910 года экзамены на аттестат за курс реальной гимназии в Веймаре, выбрал военно-морской флот. Позднее он вспоминал, что главную роль в этом решении сыграла жившая в нем «военная косточка», а также его желание «вырваться на простор».
1 апреля 1910 года, в свои неполные 19 лет, он вступил в знаменитый кайзеровский военно-морской флот, который в то время стремительно развивался. 207 его товарищей по экипажу были распределены по четырем учебным суднам. Карл Девиц попал на корабль «Герта». Позднее, оглядываясь на прожитые годы, он сам себе задавал вопрос, почему его поколение не прельстилось снобизмом? Что повлияло на это — то ли воспитание, полученное им в родительском доме, то ли тот отпечаток духовности, который оставила школа? Несмотря на весьма скромный достаток в высокообразованных семьях буржуазии, представители этого класса воспитывали из своих сыновей «молодых господ», соблюдавших совершенно четкую дистанцию по отношению к мелкой буржуазии и тем более к рабочему классу. Но способствовало ли такое воспитание гардемаринов очень суровой службе? Серьезные размышления в офицерском корпусе республиканского морского флота о причинах мятежа кайзеровского океанского флота в 1917–1918 годах подтвердили сомнения на этот счет. В национал-социализме привлекательным могло быть то обстоятельство, что здесь социальные различия любого рода настойчиво отвергались.