Nace en Bordenau cerca a Hannover el 12 de Noviembre de 1755 en una familia de granjeros, autodidacta en sus primeros años, entra en la academia militar de Wilhelm, Conde de Schaumburg-Lippe-Bückeburg ubicada en la fortaleza de Wilhelmstein. En 1778 es recibido como comisionado en el servicio Hannoveriano. En 1783 es trasnferido a la artilleria y es enviado a la nueva escuela de artilleria de Hannover. Funda un magazine militar, en el cual bajo varios nombre publica articulos hasta 1805, en 1788 forma parte de la publicacion Handbuch für Offiziere in den anwendbaren Teilen der Kriegswissenschaften ("Handbook for Officers in the Applied Sections of Military Science") y en 1792 publica Militärisches Taschenbuch für den Gebrauch im Felde ("Military Handbook for Use in the Field").

Su primera campaña tiene lugar en Holanda en 1793, sirviendo bajo las ordenes del Duque de York. En 1794 toma parte en la defensa de Menin y basado en ello escribe su libro Verteidigung der Stadt Menin ("Defensa de la Ciudad de Menin") (Hannover, 1803), el cual junto con el Die Ursachen des Glücks der Franzosen im Revolutionskrieg ("Los origenes de la Buena Fortuna de los franceses en la Guerra de la Revolucion"), son considerados sus dos mejores trabajos. Despues de la Paz de Basel en Marzo 5 de 1795, Scharnhorst retorna a Hannover, recibiendo invitaciones de varios estados para divulgar sus conocimientos en ellos. Al final se enlista en el ejercito del Rey Federico Guillermo III de Prusia, quien le concede un titulo nobiliario, el grado de Teniente Coronel y una paga mas de dos veces la que recibia en Hannover. Se emplea en la Academia de Guerra en Berlin (teniendo como uno de sus alumnos a Clausewitz) y funda la Sociedad Militar de Berlin.

En la Batalla de Lutzen o Groos-Gorschen (Mayo 2 de 1813), Prusia es derrotada y Scharnhorst recibe una herida en un pie, la cual al final, con la retirada hacia Dresden se convierte en mortal; falleciendo en Praga en Junio 28 de 1813. En los dia siguientes a su muerte recibe el grado postumo de Teniente General y Federico Guillermo III le erige una estatua en Rauch, Berlin. Varios buques alemanes reciben su nombre, entre ellos en crucero SMS Scharnhorst en la I Guerra Mundial y el crucero de batalla Scharnhorst en la II Guerra Mundial y una fragata en la actual marina alemana; fuera de ellos en la ciudad de Dortmund hay un distrito que lleva su nombre.