La Abwher se habia  expandido rapidamente bajo el mando del Almirante Canaris, excomandante de U-Boat, Canaris era un hombre inteligente con facilidad para los idiomas y contaba con experiencia en espionaje desde la I Guerra Mundial, era un oponente al Nacional socialismo y a Hitler, sin embargo, el sugirio la creacion de las unidades Brandenburg para dar a Hitler un ejercito privado de hombres similar a las SS de Himmler y las divisiones de tierra de la Luftwaffe. Bajo Canaris, la Abwher se constituyo en tres secciones: la Abwher I dedicada al espionaje y la inteligencia; la Abwher II tenia que ver con las unidades especiales y el sabotaje y la Abwher III con la contrainteligencia.
Al lado de Canaris, se encontraba el Capitan von Hippel que era nacionalista y conservador, pero opuesto a los credos Nazis, el fue el instrumento para la creacion de los Brandenburger despues de haber estudiado los escritos de T.E. Lawrence (conocido como Lawrence de Arabia) y las tacticas de comando de von Lettow Vorbeck que habia operado en las colonias africanas de Alemania durante la I Guerra Mundial. Se dedico a reclutar Alemanes que hubieran vivido en las fronteras de los paises alrededor de Alemania o dentro de ellos; estos eran conocidos como los Volksdeutsche y provenian de Silesia en Polonia, Checoeslovaquia, Hungria y los Sudetes pudiendo pasar como habitantes locales para el desarrollo de operaciones en estos paises. Estos eran individuos inteligentes, con gran voluntad y preparados para utilizar medios no hortodoxos a fin de cumplir con sus misiones.

Los origenes de los Brandenburger pueden ser llevados hasta una simple compañia comformada a mediados de 1939. Los hombres provenientes de Silesia y los Sudetes tomaron parte en la campaña de Polonia en 1939 con el titulo de "Bauhler Kompanie zb V800". Se conformaron dos compañias, de las cuales la I fue denominada "German Company". Su entrenamiento se hacia de la manera mas realista posible y como en las SS con municion real. Su entrenamiento incluia tacticas partisanas en bosques con enfasis en autoconservacion. Aprendian tecnicas de navegacion y seguimiento, ademas de desplazamiento silencioso a traves de los bosques. Mas tarde recibieron entrenamiento en paracaidismo, buceo y esqui, ademas de la fabricacion de explosivos. Eran fuertemente entrenados en tecnicas de improvisacion en varios ambientes, con lo cual a la final se contaba con soldados altamente eficaces y capaces de sobrevivir en las mas diversas situaciones.

Es conveniente aclarar que estos hombres no eran espias, aunque en ocasiones utilizaran uniformes de los otros combatientes; sus tacticas fueron desaprobadas por muchos de los comandantes alemanes, entre ellos Rommel, quien sufriria los ataques de las Ratas del Desierto quienes darian lugar posteriormente al SAS. 
Su primera mision durante la guerra se realizo en Polonia, donde debian capturar intactas las fabricas de armamento polaco necesarias en el esfuerzo de guerra aleman. En 1940 se expandieron a tres compañias, siendo entrenados intensivamente en tacticas de comando y paracaidismo; tomaron parte en las operaciones en Dinamarca, Noruega, Holanda y Belgica. Cuando la Invasion de Inglaterra fue cancelada, los Brandenburger fueron destinados a un entrenamiento y se expandieron, haciendo enfasis en las tecnicas de enmascaramiento por la utilizacion de uniformes enemigos. Durante la invasion de Yugoslavia fueron utilizados para capturar el puente Puerta de Hierro en el Danubio destinado a permitir el trafico aleman por el rio. En las etapas previas a la Operacion Barbarroja jugaron un papel especial, siendo reclutados voluntarios ucranianos constituyendo un nuevo destacamento dentro del regimiento. El denominado Grupo Nightingale fue adscrito al 1° Batallon Brandenburger, siendo el instrumento para la captura de un puente vital sobre el rio San. Esta unidad inbuida de patriotismo, declaro una Ucrania independiente, seis dias despues de iniciada la invasion con la toma de una estacion de radio en Lvov; obviamente los alemanes negaron esta formacion, mirandola con suspicacia. 

La Campaña de Rusia trajo un nuevo problema al Ejercito Aleman, las unidades de partisanos, los Brandenburger fueron la solucion obvia para lidiar con este problema. Se recibieron voluntarios rusos, los cuales conformaron una compañia en cada batallon Brandenburger, utilizando en las operaciones su excelente conocimiento del terreno. Sin embargo a la final esto trajo problemas cuando el curso de la guerra se puso en contra de Alemania.

En la primavera de 1941 se constituyo la "Afrika Kompanie" comandada por el Teniente von Koenen que contaba con una amplia experiencia en Africa. Consistia en 60 hombres conocedores de los lenguajes y las tradiciones de la zona. Inicialmente fueron destinados a conformar un destacamento de reconocimiento dentro del DAK para evaluar la disposicion del 8° Ejercito Britanico. Cuando los britanicos iniciaron la retirada en 1942, se decidio que la compañia seria utilizada para tomar los puentes del Canal de Suez y el Nilo anticipandose a la invasion de Rommel. Sin embargo, Rommel fue obligado a retirarse, encargandose a los Brandenburger la destruccion de dos vitales puentes, mision que no pudieron realizar, terminando la misma en desastre. Se intento la Operacion Salaam, que era la implantacion de espias en El Cairo, pero ella fallo pues los ingleses habian descifrado las claves secretas ULTRA y los Brandenburger fueron capturados. En Septiembre 13 de 1944 la Division Brandenburger (con excepcion de el 3° Regimiento) fue transformada en una Division Panzergrenadier, siendo integrada dentro de la Division Panzer Grossdeutschland; estos batallones fueron posteriormente asignados a la Division Panzer Kurmark siendo destruidos por los rusos en la batalla de Belgrado. Se debe tambien aclarar que el Jagdkommando Skorzeny no lucho como una unidad Brandenburger, sino como SS, conteniendo dentro de sus filas personal que inicialmente habia pertenecido a estas unidades.