La unidad es conformada en Stettin durante el mes de Octubre de 1934. Inicialmente cuenta con el 4º y 5º Regimientos de Infanteria (Prusia) del Reichswehr de la 2º Division de Infanteria, es inicialmente conocida como Wehrgauleitung Stettin y sus hombres son principalmente reclutados en la Pomerania y el Este de Prusia y de manera no oficial es conocida como la Division Pomerania. Al poco tiempo de su conformacion recibe el nombre encubierto de Artilleriefuhrer II con el que se espera confundir acerca de su funcion real. Una vez que Hermann Goering anuncia oficialmente la creacion de la Wehrmacht en Octubre de 1935, la division recibe su nombre oficial de 2º Division de Infanteria. En 1937, la unidad es reorganizada con el fin de convertirse en una de las primeras divisiones motorizadas de la Wehrmacht, recibiendo el nombre de 2º Division de Infanteria Motorizada en Octubre de 1937.

En Marzo de 1939 a pesar de no estar completamente movilizada la unidad toma parte en la ocupacion de Checoslovaquia formando parte del XIV Cuerpo de Ejercito bajo el mando del General Gustav von Wietersheim en conjunto con la 13º Division de Infanteria Motorizada y la 17º Division de Infanteria. 

POLONIA
En Agosto de 1939, la 2º Division de Infanteria Motorizada es llevada a su constitucion completa para el ataque a Polonia. Con base en la Pomerania es asignada junto con la 20º Division de Infanteria Motorizada al XIX Cuerpo de Ejercito bajo el mando de Guderian en el 4º Ejercito al mando de von Kluge. Toma parte en las acciones tendientes a cortar el Corredor polaco, en direccion a la Prusia oriental y a partir de alli apoya a las divisiones Panzer en su avance hacia Brest-Litovsk. A la terminacion de la campaña en Polonia es transferida al Oeste con el fin de reorganziarse y recuperarse y para el 10 de Mayo se halla lista para participar en la Campaña en Francia.

CAMPAÑA EN FRANCIA
A pesar de estar dentro de las unidades concentradas en las Montañas Eifel, la unidad es colocada en la reserva en los primeros dias de la campaña en el Oeste, quedando a ordenes del 16º Ejercito; juego un papel menor en la ruptura en Las Ardenas, participa en la batalla por la captura de Stonne, cerca a Sedan y algunas unidades de la misma participan en la captura de Bouvellement. En Junio es regresada al frente, siendo asignada al Panzergruppe de Kleist dentro del 4º Ejercito de von Kluge como parte del Grupo de Ejercitos B de von Bock. Despues de la caida de Dunkerke, las unidades alemanas son reagrupadas para la campaña en el sur de Francia; las unidades de Kleist son encargadas de atacar a traves del Somme. El 5 de Junio, 10 divisiones Panzer han sido redesplegadas dentro de cinco Cuerpos de Ejercito, tres a ordenes de von Bock y dos con von Rundstedt. 

La resistencia francesa se endurece y la division se encuentra envuelta en serios combates antes de las defensas puedan ser penetradas. Despues de alcanzar el Sena, la division lucha al lado de la 7º Division Panzer de Rommel y la 5º Division Panzer de Hartlieb en direccion a Dieppe. La 51º Division Highland britanica que ha realizado una exitosa tarea de retaguardia con el fin de permitir el escape de las unidades francesas e inglesas hacia Dunkerke, es capturada junto con elementos del IX Cuerpo de Ejercito frances en Valery-en-Caux. La 2º Division continua su avance a traves de la Bretaña en direccion a Brest, la cual ocupa. Con la firma del Armisticio, la unidad es encargada de realizar tareas de seguridad a los largo de la linea de ocupacion. 

Los exitos en las campañas en Polonia y Francia, llevan al O.K.W (Oberkomando des Heeres) a conformar nuevas divisiones Panzer, una de ellas es la 2º Division de Infanteria Motorizada que es trasladada a Polonia en Octubre de 1940 con el fin de iniciar su reconversion, el 10 de Enero de 1941 la unidad recibe el nombre de 12º Division Panzer.
 

COMANDANTES
Generalleutnant Hubert Gercke Octubre 1934 - Marzo 1937
Generalleutnant Paul Bader Abril 1937 - Septiembre 1940
Generalmajor Josef. Marpe Octubre 1940 - Enero 1941