В отличие от других немецких противотанковых орудий, Pak 38 практически не использовались для различных самоходных установок. Эта пушка устанавливалась лишь на шасси полубронированного 1-тонного Sd.Kfz. 10 (несколько таких САУ использовались в войсках СС), на нескольких Sd.Kfz. 250 (одна такая машина находится в военном музее в Белграде), двух VK901 на базе Marder II и одном образце Minitionsschlepper (VK302).
Разработка новой противотанковой пушки калибра 75-мм, получившей обозначение Pak 40, началась на фирме Рейнметалл-Борзиг еще в 1938 году. Уже в следующем году проводились испытания первых опытных образцов, которые первоначально представляли собой увеличенную до калибра 75-мм пушку Pak 38. Однако вскоре выяснилось, что многие технические решения, используемые для 50-мм орудия не годятся для калибра 75-мм. Например, это касалось трубчатых деталей лафета, которые у Pak 38 были изготовлены из алюминия. При испытании прототипов Pak 40 алюминиевые части быстро выходили из строя. Это, а также ряд других проблем, выявившихся на испытаниях, вынудили фирму Рейнметалл-Борзиг заняться улучшением конструкции Pak 40. Но из-за того, что необходимости в более мощной, чем Pak 38, пушке, вермахт пока не ощущал, проектирование Pak 40 шло достаточно медленно.
Толчком для ускорения работ по 75-мм противотанковой пушке стала кампания против СССР Столкнувшись с танками Т-34 и особенно КВ, противотанковые части вермахта оказались не в состоянии бороться с ними. Поэтому фирма Рейнметалл-Борзиг получила указание в срочном порядке завершить работы по 75-мм орудию Pak 40.
В декабре 1941 года опытные образцы новой противотанковой пушки были испытаны, в январе 1942-го ее запустили в производство и в феврале первые 15 серийных Pak 40 поступили в войска.
Орудие имело ствол-моноблок с дульным тормозом, поглощающим значительную часть энергии отдачи, и горизонтальным клиновым полуавтоматическим затвором, обеспечивающим скорострельность до 14 выстрелов в минуту. Лафет с раздвижными станинами обеспечивал угол горизонтального обстрела до 58 градусов. Для транспортировки пушка имела подрессоренные колеса со сплошными резиновыми шинами, что позволяло осуществлять его буксировку со скоростью до 40 км/ч механической тягой и 15–20 км/ч — лошадьми. Орудие оснащалось пневматическими походными тормозами, управление которыми осуществлялось из кабины тягача или автомобиля. Кроме того, можно было тормозить вручную, при помощи двух рычагов расположенных по обеим сторонам лафета.
Для защиты расчета орудие имело щитовое прикрытие, состоящее из верхнего и нижнего щитов. Верхний, закрепленный на верхнем станке состоял из двух бронелистов толщиной 4 мм, установленных на расстоянии 25 мм друг от друга. Нижний крепился к нижнему станку, причем одна его половина могла откидываться на петлях.