Pierwsza wzmianka o utworzeniu Miejskiej Biblioteki Publicznej w Koźminie zawarta jest w protokóle z posiedzenia Komisji Oświaty Miejskiej Rady Narodowej z dnia 25 czerwca 1947 roku.
Wnioskodawczynią utworzenia Miejskiej Biblioteki była Maria Budasz, pani Dyrektor Koźmińskiego Gimnazjum. Wniosek spotkał się z aprobatą zarówno ówczesnego Burmistrza Walentego Szewczykowskiego jak i członków Komisji Antoniego Nikowskiego, Sylwestra Pappelbauma i Józefa Sitarza.
Jednakże oficjalnie, jak wynika z dokumentów, Miejska Biblioteka Publiczna rozpoczęła swoją działalność 23 listopada 1947 roku. Pierwszą siedzibą Biblioteki był lokal przy ulicy Szkolnej 3, składający się tylko z jednego pomieszczenia. Pierwszym kierownikiem placówki został Jakub Sterczewski nauczyciel historii w Szkole Podstawowej.
Początki były trudne, w dniu otwarcia zapisało się 40 czytelników, a cały księgozbiór liczył zaledwie 261 woluminów i pochodził głównie z darów mieszkańców. Natomiast już w 1948 roku zarejestrowało się 342 czytelników, a księgozbiór wzrósł do 1185 woluminów. Prenumerowano 10 najpoczytniejszych tytułów gazet. W 1949 roku księgozbiór wzrósł do 2496 woluminów a liczba czytelników wynosiła 560, którzy wypożyczyli 10357 książek. Lokal okazał się niewystarczający i zbiory przeniesiono do pomieszczeń po byłym Banku – ul. Stary Rynek 22.
W 1951 nastąpiła zmiana kierownika, funkcję tę objęła Maria Rogowicz, aż do 1955 roku. Pod koniec 1955 roku kierownikiem została Jadwiga Bomska. W połowie lat pięćdziesiątych biblioteka zmieniała miejsca. Początkowo na ul. Kościuszki 14 a później na Starym Rynku 11- budynek Urzędu. Od 1 sierpnia 1959 roku biblioteką kierowała Krystyna Erwińska a w 1960 księgozbiór przeniesiono do nowej siedziby na Stary Rynek 20.
W 1961 przydzielono lokal przy ulicy Pleszewskiej 1 i dopiero wtedy stworzono dobre warunki do pracy z czytelnikiem. Biblioteka składała się z wypożyczalni i czytelni, wprowadzono wolny dostęp do półek. Była to pierwsza książnica w powiecie i trzecia w województwie poznańskim, która wprowadziła nowy system wypożyczeń. Przyznano też 2 etat. Pracę rozpoczęła Janina Ziętkiewicz.
Od roku 1990 biblioteka wróciła do miejsca, które zajmowała w 1949 roku na ul. Stary Rynek 22, do budynku którego właścicielem jest Urząd Miasta. Funkcjonowała tam do 2017r.
W roku 1988 rozpoczęła działalność Filia Nr 4 – zlokalizowana na Osiedlu Tysiąclecia 5 w Koźminie Wlkp., która została utworzona na bazie księgozbioru przekazanego przez Bibliotekę Spółdzielczego Ośrodka Kulturalno-Oświatowego „Koźminianka”. Filia zakończyła działalność w 2010r. za względu na pogarszające się warunki lokalowe. Rada Miejska w Koźminie Wielkopolskim Uchwałą z dnia 24 listopada 2000 r. zlikwidowała Bibliotekę Publiczną Miasta i Gminy w Koźminie Wlkp. i utworzyła instytucję upowszechniania kultury o nazwie Gminny Zespół Instytucji Kultury i Kultury Fizycznej w Koźminie Wlkp., w skład której weszły: Biblioteka Publiczna Miasta i Gminy, Gminny Ośrodek Kultury i Basen Kąpielowy, który w 2010 został odłączony a nazwa zmieniona na Gminny Zespół Instytucji Kultury.
W ciągu swego istnienia koźmińską książnicą kierowali, wspomniany jej pierwszy kierownik Jakub Sterczewski, Maria Rogowicz-Szewczyk, Jadwiga Walczak-Bomska, Krystyna Erwińska, Janina Ziętkiewicz, Seweryna Ambroszkiewicz.
Obecnie biblioteka posiada 3 filie biblioteczne: w Borzęcicach, Mokronosie i Starej Obrze.
Oprócz bogatego zbioru woluminów, biblioteka udostępnia rozrastający się dział audiobooków (książek mówionych) oraz świadczy usługi ksero, bindowania i laminowania.