Идею танка с характеристиками, впоследствии воплощёнными в Panzer IV, в начале 1930-х годов, впервые предложил Heinz Guderian. В 1934-35 году Гитлер приказал компаниям Krupp, Rheinmetall-Borsig и MAN разработать прототип BW (Bataillonfuhrerwagen). Необходимые параметры включали в себя полный вес -18 тонн, максимальная скорость - 35 км/ч и главное вооружение - 75мм. орудие.

Все компании изготовили свои прототипы, которые были испытаны в 1935-36 годах. Rheinmetall-Borsig BW - VK2001(Rh) использовал модифицированную подвеску от Neubaufahrzeug, тогда как Krupp BW - VK2001(K) и Maschinenfabrik Augsburg-Nurnberg AG VK2002(MAN) оба использовали новую, разработанную MAN, подвеску. Krupp сосредоточил свои усилия на разработке башни, а MAN работал над подвеской (VK2001MAN). Все прототипы имели схожие характеристики, однако, после всесторонних испытаний, для промышленного производства был выбран прототип Krupp BW - VK2001(K).

В 1935 году, после того как Krupp получил заказ на производство своего прототипа, он модифицировал свою разработку, внеся всё самое лучшее, что было в прототипах других компаний. После дополнительных испытаний Krupp был готов начать производство первого Panzer IV Ausf A (Versuchkraftfahrzeug 622).