H. gilt als herausragender Repräsentant der wissenschaftlichen Theologie seiner Zeit und erwarb sich zudem wissenschaftsorganisatorische Verdienste. Nach Lehraufträgen für Kirchengeschichte an verschiedenen Universitäten kam er 1888 nach Berlin. Hier lehrte er bis 1921 an der Friedrich-Wilhelms-Universität (heute Humboldt-Universität), deren Rektor er 1900/01 war. Seit 1890 Mitglied der Akademie der Wissenschaften, übernahm H. 1893 den Vorsitz ihrer Kirchenväter-Kommission. Von 1905 bis 1921 war er Generaldirektor der Königlichen Bibliothek (später Preußischen Staatsbibliothek). 1911 wurde er erster Präsident der auf seine Initiative 1909 gegründeten Kaiser-Wilhelm-Gesellschaft (KWG). Von 1920 bis 1929 war er Leiter des Hauptausschusses der Notgemeinschaft der Deutschen Wissenschaft. Aus Anlaß seines 78. Geburtstages wurde 1929 in Dahlem das Harnack-Haus der KWG seiner Bestimmung übergeben. Der mit einer Vielzahl von Ehrungen bedachte H. erhielt auf dem Kirchhof St. Matthäus (Schöneberg) ein Ehrengrab.