N. wurde im Kurfürstenhaus, Poststraße 4, geboren und besuchte seit 1746 u. a. das Joachimsthalsche Gymnasium, Burgstraße. Nach einer Buchhandelslehre in Frankfurt/Oder kehrte er 1752 nach Berlin zurück, wo er in die elterliche Buchhandlung An der Stechbahn (Straße heute eingezogen), eintrat und diese 1758 übernahm. In Zusammenarbeit mit Gotthold Ephraim Lessing und Moses Mendelssohn gab er seit 1755 die Briefe über den itzigen Zustand der schönen Wissenschaften sowie von 1759 bis 1765 die Briefe, die neueste Literatur betreffend heraus. Die Nicolaische Verlagsbuchhandlung wurde zum Mittelpunkt des geistigen Lebens und ein Zentrum der Aufklärung in Berlin. 1765 gründete N. die Allgemeine deutsche Bibliothek, die er bis 1805 fortführte. In der Berliner Mittwochgesellschaft traf er sich mit Gelehrten, Künstlern und Staatsbeamten zum Austausch über politische Reformgedanken. 1786 veröffentlichte N. die dritte völlig umgearbeitete Fassung seiner Berlin-Beschreibung, der ersten wissenschaftlichen Betrachtung der Geschichte der Stadt. 1787 erwarb er das Haus Brüderstraße 13 ( Nicolaihaus), ließ es von Carl Friedrich Zelter umbauen und gab hier Musikabende und Gesellschaften, unterhielt seine Buchhandlung und die seinerzeit größte Privatbibliothek mit 16 000 Bänden. Gedenktafeln an diesem Haus erinnern an sein Wirken, an die Geschichte des Nicolaihauses und daran, daß er hier von 1778 bis 1811 lebte. N. wurde 1799 außerordentliches und 1804 ordentliches Mitglied der Akademie der Wissenschaften. Beigesetzt wurde N. auf dem Luisenstädtischen Kirchhof (nicht mehr vorhanden).