Боевое крещение Pz.II приняли в марте 1938-го, в ходе операции по присоединению Австрии к рейху, так называемом аншлюсе. Боевых столкновений в ходе этой операции не было, но во время марша до Вены около 30 % «двоек» вышло из строя по техническим причинам, главным образом из-за низкой надежности ходовой части. Бескровно прошло и присоединение к Германии Судетской области Чехословакии в октябре 1938 года — как результат Мюнхенского сговора. Потерь в материальной части было уже значительно меньше, поскольку для перевозки Pz.II к местам сосредоточения использовались грузовые автомобили Faun L900 D567 (6x4) и двухосные прицепы Sd.Anh.115.
За Судетской областью последовала оккупация Чехии и Моравии. 15 марта 1939 года первыми вступили в Прагу Pz.II из состава 2-й танковой дивизии Вермахта.
Накануне Польской кампании Pz.II, наряду с Pz.I, составляли большинство боевых машин Панцерваффе. 1 сентября 1939 года немецкие войска располагали 1223 танками этого типа. В каждую роту легких танков входил один взвод (5 единиц) «двоек». Всего же в танковом полку имелось 69 танков, а в батальоне — 33.
Только в строю 1-й танковой дивизии, лучше других укомплектованной танками Pz.NI и Pz.IV, находилось 39 Pz.II. В дивизиях двухполкового состава (2-й, 4-й и 5-й) насчитывалось до 140, а однополковых от 70 до 85 танков Pz.II. 3-я танковая дивизия, в состав которой был включен учебный батальон (Panzer Lehr Abteilung), располагала 175 танками Pz.II. Меньше всего «двоек» имелось в составе легких дивизий. Машины модификаций D и Е состояли на вооружении 67-го танкового батальона 3-й легкой дивизии и 33-го танкового батальона 4-й легкой дивизии.
Броня «двоек» без усилий пробивалась снарядами 37-мм противотанковых пушек wz.36 и 75-мм полевых пушек польской армии, что выяснилось уже 1–2 сентября при прорыве позиций Волынской кавалерийской бригады под Мокрой. 1-я танковая дивизия потеряла там восемь машин Pz.II. Еще большие потери — 15 танков Pz.II — понесла 4-я танковая дивизия на подступах к Варшаве. Всего же за время Польской кампании до 10 октября Вермахт потерял 259 танков этого типа. Однако безвозвратные потери составили только 83 машины.
Для участия в захвате Дании и Норвегии был сформирован 40-й батальон специального назначения (Panzer Abteilung z.b. V 40), состоявший из трех рот, в каждую из которых, в отличие от штатной организации Панцерваффе, входило всего три взвода. На вооружении батальона находились легкие танки Pz.I и Pz.II, а также командирские машины Pz.Bef.Wg.
Вторжение в Данию началось 9 апреля 1940 года. Датские войска практически не оказали сопротивления, и боевые действия завершились еще до полудня. Вскоре «единички» и «двойки» 1-й и 2-й рот 40-го батальона продефилировали по улицам Копенгагена.
Тем временем 3-я рота направлялась в Норвегию. По пути не обошлось без потерь — вечером 10 апреля транспорт «Antaris Н» торпедировала британская подводная лодка, и он затонул с пятью танками на борту. Другой пароход — «Urundi» — сел на мель и прибыл в Осло только 17 апреля. В качестве компенсации за понесенные потери два дня спустя батальону был придан взвод из трех тяжелых трехбашенных танков Nb.Fz. К 24 апреля на Скандинавский полуостров прибыли и две другие роты батальона. Теперь в его составе насчитывалось 54 танка; 3 Nb.Fz., 29 Pz.I, 18 Pz.II и 4 командирских. Эти боевые машины использовались для поддержки пехоты в боях с высадившимися в Норвегии вслед за немцами английскими и французскими войсками. В ходе этих боев, в которых участие танков носило, впрочем, весьма ограниченный характер, батальон потерял 11 машин, из них — два Pz.II Ausf.C.