G. wirkte in Berlin als selbständiger Baumeister sowie bis 1865 als nebenamtlicher Lehrer und ab 1866 als Professor an der Bauakademie. 1866 gründete er gemeinsam mit Heino Schmieden die Architektenfirma Gropius & Schmieden, die sich zu einem der führenden Bauunternehmen in Berlin entwickelte. 1867 gehörte G. zu den Mitbegründern der Unterrichtsanstalt des Kunstgewerbemuseums. Die Anstalt hatte ihren Sitz ab 1881 in der Prinz-Albrecht-Straße (heute Niederkirchnerstraße). 1869 wurde G. zum Direktor der Königlichen Kunstschule Berlin und zum Leiter aller preußischen Kunstschulen berufen sowie zum Mitglied des Senats der Akademie der Künste gewählt. G. baute mit Schmieden zahlreiche öffentliche Gebäude wie das Krankenhaus im Friedrichshain (1868–1874), das Kunstgewerbe-Museum (1877–1881; heute Martin-Gropius-Bau) und im heutigen Bezirk Mitte die Kunstschule (1878–1880), Klosterstraße 75, das Chirurgische Universitäts-Klinikum (1878–1883) und die Universitäts-Frauenklink (1878–1883), die in ihrer klaren Zweckbestimmung schulbildend wirkten. G. wohnte um 1859 mit seiner Familie in der Zimmerstraße 84/85. Die Weddinger Gropiusstraße trägt seinen Namen. Sein Ehrengrab, eine von ihm selbst entworfene Grabanlage (1868), befindet sich auf dem Dreifaltigkeitsfriedhof II.
G. wirkte in Berlin als selbständiger Baumeister sowie bis 1865 als nebenamtlicher Lehrer und ab 1866 als Professor an der Bauakademie. 1866 gründete er gemeinsam mit Heino 
Schmieden 