Kaupunginarkisto aloitti toimintansa jo vuonna 1936 ja se on maamme ensimmäinen kunnallinen keskusarkisto.
Alkuvuosikymmenet se sijaitsi Tammerkosken rannalla Frenckellin tehdaskiinteistössä. Asianmukaiset tilat arkisto sai vuonna 1975 uudesta keskusvirastotalosta, missä se toimii edelleen.
Alusta lähtien arkiston tehtävänä on ollut huolehtia kaupungin pysyvästi säilytettävistä asiakirjoista. Asiakirjat järjestetään ja luetteloidaan niin, että ne ovat nopeasti ja helposti käytettävissä.
Kaupunginarkisto tarjoaa kuntalaisten ja tutkijoiden käyttöön noin viisi hyllykilometriä asiakirjoja. Pääosan kokoelmista muodostavat kunnallisten viranomaisten arkistot, mutta niiden lisäksi arkisto ottaa vastaan tamperelaisten yhdistysten ja yksityishenkilöiden arkistoja. Arkistoaineksen lisäksi kaupunginarkistossa on laaja Tampereen kaupungin painotuotteiden ja julkaisujen kokoelma.
Tampereen kaupunki perustettiin lokakuun 1. päivänä 1779, jolloin kuningas Kustaa III allekirjoituksellaan vahvisti kaupungin perustuskirjan vanhassa Gripsholman linnassa Mälaren saarella.
Perustusasiakirjalla Tampere määrättiin vapaakaupungiksi, jossa asukkailla oli oikeus harjoittaa kauppaa, teollisuutta tai käsityötä ilman tuolloin käytössä olleita kauppa- ja ammattikuntarajoituksia.