Biblioteka powstała poprzez scalenie czterech księgozbiorów: Gimnazjum Toruńskiego, Rady Miasta Torunia, Towarzystwa Naukowego w Toruniu oraz Coppernicus-Verein für Wissenschaft und Kunst. Uchroniono w ten sposób przed rozproszeniem bezcenne, o wielkim historycznym znaczeniu, zbiory bibliotek toruńskich.
Uroczystego otwarcia Książnicy Miejskiej im. Kopernika z siedzibą w budynku Towarzystwa Naukowego przy ul. Wysokiej dokonano 19 lutego 1923 roku, natomiast zbiory liczące ok. 100 tys. woluminów zostały udostępnione czytelnikom 10 grudnia 1923 roku. Dyrektorem Książnicy mianowano Zygmunta Mocarskiego, znanego bibliotekarza, historyka książki i bibliofila. Dzięki jego staraniom Książnica Miejska stała się w okresie międzywojennym największą publiczną biblioteką naukową województwa pomorskiego. Jej zasoby zostały w tym okresie wzbogacone o księgozbiór biblioteki Gimnazjum Żeńskiego w Toruniu, liczne dary i depozyty, a od 1927 roku także o egzemplarze obowiązkowe druków wydawanych w województwie pomorskim. Do wybuchu II wojny światowej biblioteka gromadziła wyłącznie zbiory o charakterze naukowym. Ich udostępnianie odbywało się na miejscu, a tylko w szczególnych przypadkach wypożyczano je na zewnątrz. Prowadzone były natomiast wypożyczenia międzybiblioteczne.
Do września 1939 roku biblioteka podlegała magistratowi miasta Torunia. O randze instytucji może świadczyć fakt, że sprawozdania roczne z jej działalności odczytywano publicznie i ogłaszano w prasie 19 lutego każdego roku.