Die Planung basiert auf einer Idee von Hans Scharoun, nach der dessen Mitarbeiter Edgar Wisniewski (* 1930) den Entwurf erstellte und den Bau errichtete. Die Konzeption sah eine direkte Verbindung mit der Philharmonie vor. Die Grundsteinlegung erfolgte am 8. 6. 1979, die Eröffnung am 14. 12. 1984. Das bereits 1888 gegründete Museum verfügt über 3 000 Exponate. Angeschlossen sind eine Spezialbibliothek und eine Instrumentenbauerwerkstatt. Es gehört zur Stiftung Preußischer Kulturbesitz. Das mit dem M. verbundene Staatliche Institut für Musikforschung, dem ein Archiv angeschlossen ist, betreibt Akustikforschung, Musikpsychologie und Musikgeschichte und hat sich mit zahlreichen Veröffentlichungen international einen Namen gemacht. Das Gebäude steht unter Denkmalschutz.