Das Stadtarchiv unterhält eine umfangreiche Bibliothek, die öffentlich zugänglich ist. Ihr Ursprung geht auf die Gründung des Stadtarchivs Zürich zurück. Mit dem Beginn der provisorischen Munizipalität der Stadtgemeinde im April 1798 nahm auch der Aufbau des verwaltungseigenen Stadtarchivs Zürich seinen Anfang. Die Bibliothek des Stadtarchivs war ursprünglich ein Teil des Archivbestandes, der ergänzend zu den Archivalien gepflegt wurde. Im vom ersten Stadtarchivar, dem damaligen Stadtschreiber-Substituten Theodor Usteri, erstellten Archivplan von 1894 wird die Handbibliothek in der Abteilung VIII. aufgeführt, zusammen mit Statistik, Zivilstand, Bürgerregister, Volkszählung, Gesetzessammlung, Denkschriften und Drucksachen.

Seit dem Erlass des Verwaltungsreglements des Stadtarchivs vom 25. März 1949 bildet die Bibliothek einen selbständigen Bestand im Sinne einer "Dokumentation zur zürcherischen Ortskunde". Die "Äufnung" der Bibliothek wurde dem Stadtarchiv ausdrücklich "zur Erfüllung der ihm übertragenen Aufgaben" auferlegt; sie sollte gleichzeitig auch als Bibliothek des Stadtrates dienen.

Im Archivreglement vom 1. Januar 2001 ist das Sammelgebiet der Bibliothek im Artikel 41 umschrieben.