Der Ausbau der Kaiserlichen Marine erforderte um die Jahrhundertwende den Neubau einer Marineschule für die Offizierausbildung. 1903 wurde auf Vorschlag des Prinzen Adalbert von Preußen - unter anderem aus disziplinarischen Gründen - der Entschluss gefasst, die Marineschule aus der Großstadt Kiel in die nördliche Provinz an das Ostufer der Flensburger Förde zu verlegen. Die ausgedehnte Anlage mit ihrer über 200 m langen, parallel zum Fördeufer angelegten Front wurde nach Plänen des Marinebaurates Albert Kelm erbaut.

Die Marineschule Mürwik wurde am 21. November 1910 durch Kaiser Wilhelm II. eingeweiht und ist seitdem die zentrale Ausbildungsstätte für deutsche Marineoffiziere. 

Mit Beginn des Ersten Weltkrieges wurde die Ausbildung zunächst eingestellt, dann verkürzt wieder aufgenommen. 1918 wurde die Schule geschlossen.
1919/20 musste die Marine den Bau für die britische Kontrollkommission räumen, die zur Überwachung der Abstimmung über die Zugehörigkeit Schleswigs zu Dänemark oder Deutschland entsandt worden war. Im September 1920 wurde sie von der Reichsmarine wieder für den Lehrbetrieb übernommen. Von nun ab wurden Offizieranwärter aller Laufbahnen und auch Unteroffizieranwärter der Steuermannslaufbahn hier ausgebildet.

Im Zuge der Aufrüstung des Dritten Reiches wuchs der Bedarf an Marineoffizieren sprunghaft. Die Ausbildung wurde erneut stark verkürzt, die Kapazitäten erheblich erweitert.

Gegen Kriegsende war die MSM Lazarett und (in der Sportschule) vom 03.-23.05.1945 Sitz der letzten Reichsregierung. Von Mürwik aus wurde am 3. und 4. Mai 1945 mit britischen Truppen unter Montgomery in Lüneburg eine Teilkapitulation vereinbart, die am 5. Mai um 08.00 Uhr in Kraft trat. Mit dieser Teilkapitulation waren die Kampfhandlungen im Nordwesten Deutschlands beendet. Bei Kriegsende wurde in der Schule ein Lazarett und eine Notunterkunft für die zahlreichen Flüchtlinge eingerichtet. Nach Kriegsende wurde das Gebäude als Krankenhaus, Zollschule und Pädagogische Hochschule verwendet.

Seit November 1956 bildet die Deutsche Marine ihren Offiziernachwuchs an der Marineschule Mürwik aus.