С самого начала было ясно, что даже для временного вооружения танковых частей (в ожидании более мощных боевых машин) танков Pz. I недостаточно. Поэтому уже в конце 1934 года были разработаны тактико-технические задания к танку массой 10 т, вооруженному 20-мм пушкой. По уже упомянутым причинам танк получил обозначение LaS 100 и так же, как Pz. I, предназначался для учебных целей. Прототипы LaS 100 на конкурсных началах разрабатывались тремя фирмами: «Крупп», «Хеншель» и MAN. Весной 1935 года фирма «Крупп» представила комиссии танк LKA-2 — версию танка LKA с увеличенной башней под 20-мм пушку. «Хеншель» и MAN представили только шасси.

В результате для серийного производства было выбрано шасси MAN, броневой корпус для которого изготовила фирма «Даймлер-Бенц». Генподрядчиками по серийному выпуску должны были стать фирмы MAN, «Даймлер-Бенц», FAMO GmbH, «Вегманн» и MIAG. К концу года изготовили первые 10 танков, оснащенных бензиновыми двигателями «Майбах» HL57TR мощностью 130 л. с. Скорость движения достигала 40 км/ч, запас хода — 210 км. Толщина брони колебалась в пределах от 5 до 14,5 мм. Вооружение состояло из 20-мм пушки KwK 30 (KwK — Kampfwagenkannone — танковая пушка) и пулемета MG-34. По уже упомянутой системе обозначения боевых машин танк LaS 100 получил индекс SdKfz 121.

Первые же серийные танки были обозначены PzKpfw II Ausf. al, следующие 15 машин — Ausf. a2. Танков версии Ausf. aS было выпущено 75 штук. Все эти варианты незначительно отличались друг от друга. На а2 и аЗ, например, отсутствовали резиновые бандажи поддерживающих катков. Немногим отличались от предыдущих и 25 танков Ausf . b. Самым крупным отличием стала установка нового двигателя — «Майбах» HL 62TR.

Испытания всех этих танков выявили существенные недостатки в конструкции ходовой части. Поэтому в 1937 году был сконструирован совершенно новый тип шасси. Впервые его применили на 200 танках Pz. II Ausf. с. Ходовая часть состояла из пяти опорных катков среднего диаметра, подвешенных на полуэллиптических рессорах. Число поддерживающих катков возросло до четырех. Новая ходовая часть повысила плавность хода по местности и скорость движения по шоссе и оставалась неизменной во всех последующих модификациях (кроме вариантов D и Е, речь о которых пойдет ниже). Масса танка возросла до 8,9 т.

В 1937 году на заводе фирмы «Хеншель» в Касселе началось серийное производство наиболее массовых вариантов PzKpfw II Ausf. А, В и С. Месячный выпуск составлял 20 машин. В марте 1938 года на этом заводе производство было завершено и началось на заводе «Алкетт» в Берлине, с темпом 30 танков в месяц.

В танках Ausf. А были введены синхронизированная коробка передач, двигатель «Майбах» HL 62TRM мощностью 140 л. с., новый тип смотровой щели у механика-водителя. Модификация В имела изменения, носившие в основном технологический характер и упрощавшие серийное производство. PzKpfw II Ausf. С получил улучшенную систему охлаждения двигателя и бронестекла в смотровых приборах толщиной 50 мм (у А и В — 12 мм).

Боевое крещение танки Pz. IA и В и Pz. II моделей В и А приняли во время гражданской войны в Испании, в составе 88-го танкового батальона легиона «Кондор». И те и другие не имели почти никаких шансов на успех при встречах с республиканскими Т-26 и БТ-5. Слишком слабым было их вооружение и бронирование. Попытка установить на Pz. I 20-мм пушку успехом не увенчалась. Других попыток модернизировать этот танк не предпринималось. Через некоторое время Pz. I были переданы испанцам и в составе 1-го и 2-го танковых батальонов эксплуатировались до середины 40-х годов.

Что касается Pz. II, то радикальное усиление вооружения тоже было невозможно из-за малых размеров башни. Боевые возможности Pz. II можно было улучшить только путем увеличения толщины брони. В танках Pz. II Ausf. с, А, В и С были усилены части бронекорпуса, наиболее подверженные вражескому огню. Лоб башни усиливался бронелистами толщиной 14,5 и 20 мм, лоб корпуса — 20 мм. Изменилась и конфигурация всей носовой части корпуса. Вместо одного гнутого листа установили два, соединенных под углом 70°. Один имел толщину 14,5 мм, другой — 20 мм. На некоторых танках вместо двустворчатого люка на башне была установлена башенка. Все эти изменения вносились в ходе ремонта и потому присутствовали не на всех танках. Случалось, что в одном подразделении имелись и модернизированные и немодернизированные машины.

Производство Pz. II Ausf. С было прекращено весной 1940 года, причем «под занавес» оно не превышало 7-9 штук в месяц. Несколько особняком в семействе машин Pz. II стоят танки моделей D и Е. В 1938 году фирма «Даймлер-Бенц» разработала проект так называемого «быстрого танка», предназначенного для танковых батальонов легких дивизий. От танка Pz. II Ausf. с была заимствована только башня, корпус и ходовая часть разрабатывались заново. Последняя, применительно к одному борту, имела 4 опорных катка большого диаметра, новые ленивец и ведущее колесо.

Корпус сильно напоминал Pz. III. Экипаж состоял из 3 человек. Масса машины достигла 10 т. Двигатель «Майбах» HL 62TRM позволял развивать максимальную скорость по шоссе до 55 км/ч. Коробка передач имела 7 скоростей вперед и 3 назад. Толщина брони колебалась от 14,5 до 30 мм. В 1938-1939 годах заводы «Даймлер-Бенц» и MAN выпустили 143 танка обоих вариантов и около 150 шасси. Танки модели Е отличались от D «усиленной»подвеской, новой гусеницей и измененным типом ленивца.

К началу второй мировой войны танки PzKpfw I и PzKpfw II были самыми массовыми танками вермахта. На 1 сентября 1939 года в германской армии насчитывалось немногим более 3000 танков, из них 1445 PzKpfw I и 1223 PzKpfw II.