Den Bauplan, ursprünglich für eine Festhalle der Berliner Universität gedacht, fertigte 1862 Friedrich August Stüler nach einer Idee von Friedrich Wilhelm IV. Johann Heinrich Strack veränderte den Entwurf für die Zwecke einer Galerie und übernahm 1866–1876 die Bauausführung. Die Bildhauerarbeiten stammen u. a. von August Gaul (1869–1921) und Otto Geyer (1843–1914). Die malerische Ausgestaltung besorgte Ernst Ewald (1836–1904). 1911–1913 wurden im Innern Umbauarbeiten zur Vergrößerung der Ausstellungsfläche vorgenommen. Nach den Beschädigungen im II. Weltkrieg erfolgte 1949–1958 die Rekonstruktion. Das an einen antiken Tempel erinnernde Gebäude erhebt sich auf einem 12 m hohen Sockelunterbau. Die breite, vom Hauptkörper abgesetzte doppelläufige Freitreppe, auf der das Friedrich-Wilhelm-IV.-Denkmal von Alexander Calandrelli aus dem Jahre 1886 steht, führt zur oberen Plattform, einer von acht korinthischen Säulen begrenzten Vorhalle. Die Fassaden sind aus Nebraer Sandstein gefertigt. Die Inschrift im Gebälk „Der deutschen Kunst“ gibt das Motto für die hier gesammelten Bilder an. Die Plastiken am Treppenanlauf und die drei der Giebelgruppen wurden von Calandrelli, Julius Moser (1832–1916), Moritz Schulz (1825–1904) und Rudolf Schweinitz (1839–1896) geschaffen und symbolisieren die Künste. In den Säulenfeldern der Seitenfronten und der Apsis sind auf Steinplatten Namen deutscher Künstler und Baumeister eingemeißelt. Das Museum wurde mit Säulengängen umgeben, die bei Errichtung des Pergamonmuseums teilweise entfernt wurden. In der von Eduard Neide 1879/80 geschaffenen Gartenanlage sind Skulpturen wie die Amazone zu Pferde aufgestellt. Die Bestände der Galerie haben ihren Ursprung in der Sammlung zeitgenössischer Kunst, die der Bankkaufmann Joachim H. Wagener 1861 dem König Wilhelm I. (1797–1888) übereignete. Die Direktoren Hugo von Tschudi (1851–1911) und ab 1910 Ludwig Justi (1876–1957) bauten die Sammlung aus. 1914 wurden Schlachten- und Marinebilder sowie Bildnisse von Militärs aus der N. entfernt und ins Zeughaus gebracht. Bei der Aktion „Entartete Kunst“ 1937 verlor die A. über 300, im II. Weltkrieg weitere 900 Kunstwerke. Heute besitzt sie vorwiegend Gemälde und Plastiken deutscher, insbesondere Berliner Künstler aus dem 19. Jahrhundert und dem Anfang des 20. Jahrhunderts. Nach der Errichtung der Neuen Nationalgalerie in Tiergarten wird das Museum jetzt Alte Nationalgalerie genannt. Das Gebäude steht unter Denkmalschutz.
Den Bauplan, ursprünglich für eine Festhalle der Berliner Universität gedacht, fertigte 1862 Friedrich August 
Stüler 