Il primo deposito noto per i documenti della città di Wiesbaden fu la torre dell'orologio in Marktstraße all'inizio del XVI secolo. Tuttavia, il devastante incendio della città del 1547 distrusse gran parte degli archivi cittadini del Medioevo. Inoltre, all'inizio del XVIII secolo gli archivi furono distrutti per mancanza di spazio. L'archivio rimanente rimase nella torre dell'orologio e fu organizzato e indicizzato provvisoriamente da Karl Rossel (1815-1872) nel 1850/51.

Con la rapida crescita di Wiesbaden nel corso del XIX secolo come città termale e residenziale in ascesa, il rinnovamento urbano della città portò alla demolizione della torre dell'orologio nel 1873. L'archivio fu inizialmente ospitato nel sottotetto del Vecchio Municipio (ora ufficio del registro di Wiesbaden), dal 1880 in una delle sale della torre della Chiesa del Mercato e dal 1892 infine nella torre nord-est del Nuovo Municipio.

Dopo il trasferimento nel Nuovo Municipio, i documenti esistenti furono organizzati dal primo archivista cittadino di Wiesbaden, Christian Spielmann (1861-1917), e integrati da collezioni. Quando Spielmann assunse l'incarico nel 1892, l'Archivio della città di Wiesbaden fu così istituito come moderna istituzione comunale.

Dopo la morte di Spielmann, nel 1920 Lothar Lüstner (1882-1955) assunse la direzione dell'archivio comunale per quattro anni. A causa della mancanza di spazio, non era più possibile conservare tutti i documenti nel municipio, che stavano aumentando a causa della moderna organizzazione degli uffici. Inoltre, la città era sottoposta a pressioni di risparmio a causa della Prima Guerra Mondiale e del declino dell'attività termale. Nel 1924 si decise quindi di integrare l'archivio comunale e il suo patrimonio storico nella Biblioteca di Stato di Nassau, che nel 1913 aveva ottenuto un nuovo edificio funzionale nella Rheinstraße. Nel 1933, il patrimonio archivistico fu trasferito all'Archivio di Stato di Mainzer Straße.

Durante la Seconda guerra mondiale, anche le parti più antiche dell'archivio comunale furono trasferite nella fortezza di Ehrenbreitstein a Coblenza insieme all'archivio di Stato. Nell'aprile del 1944, i resti dell'archivio comunale furono conservati in una stanza del seminterrato della scuola maschile di Hebbelstraße per proteggerli dai raid aerei.

Il registro comunale, che conteneva principalmente documenti degli anni '20 e '30, rimase nel municipio. A seguito del bombardamento aereo del 2 febbraio 1945 e della deliberata distruzione degli archivi nelle ultime settimane di guerra, lo stock di documenti della Repubblica di Weimar e del "Terzo Reich" fu gravemente decimato.

Dopo la Seconda guerra mondiale, i locali di Schützenhofstraße 4 servirono inizialmente come alloggi di emergenza per l'archivio cittadino. Con Wilhelm Schauß (1896-1953), un archivista comunale riprese la gestione dell'archivio nel 1948. Nel 1951, l'archivio si trasferì nel nuovo municipio ricostruito, con gli ex rifugi antiaerei nel seminterrato che fungevano da deposito principale, e il dottor Herbert Müller-Werth (1900-1983) divenne responsabile dell'archivio comunale fino al suo pensionamento nel 1965.

Dal 1974, Günter Mischewski (1942-2006) diresse l'archivio per 25 anni. Mischewski fu anche il primo archivista specializzato formatosi presso l'Archivio federale a lavorare per la città di Wiesbaden. Dal 1978 alla fine del 1989, l'archivio comunale si trovava nella villa di Humboldtstraße 6, progettata da Alfred Schellenberg (1850-1932), ma l'edificio, che era stato sottoposto a vincolo, offriva strutture inadeguate per la conservazione del materiale archivistico. Nel 1987, le condizioni di lavoro dell'archivio sono state migliorate in modo significativo grazie alla creazione di due posizioni aggiuntive di archivista. Nel 1991, l'archivio cittadino ha iniziato a pubblicare una propria serie di pubblicazioni.

L'ultimo trasferimento dell'Archivio della città di Wiesbaden risale al 1990. Dopo un investimento di 2,5 milioni di marchi, l'archivio si trasferì nell'ex stabilimento di produzione della tipografia Rotaprint al nuovo indirizzo "Im Rad 42". Da allora, l'archivio cittadino dispone di uffici e magazzini funzionali e di ampie postazioni di lavoro per gli utenti. I buoni collegamenti con i mezzi pubblici (fermate ESWE "Kleinfeldchen-Stadtarchiv" e "Künstlerviertel-Stadtarchiv") e il parcheggio gratuito facilitano la visita.

Dall'inizio degli anni '90, l'Archivio della città si occupa anche dei monumenti e dei luoghi di memoria della storia del nazionalsocialismo a Wiesbaden. Oggi questo compito e il lavoro di educazione storica sono riuniti nel dipartimento Memoriali.

Dal 1999 al 2019, la dott.ssa Brigitte Streich ha assunto la direzione dell'archivio cittadino e, insieme al suo team, ha affermato l'archivio cittadino come luogo di incontro e di cultura attraverso numerose mostre storiche, la collaborazione con Kunstarche e.V., anch'essa ospitata nell'edificio dell'archivio cittadino, e un variegato programma di eventi. Dal 2005, l'organizzazione no-profit Verein zur Förderung des Stadtarchivs Wiesbaden e.V. sostiene il lavoro dell'archivio.

Dal 2003 è stata accelerata la catalogazione del patrimonio, in particolare per quanto riguarda foto, film e registrazioni audio, grazie alla creazione di un dipartimento separato "Archivio multimediale". Allo stesso tempo, sono stati compiuti ulteriori progressi nella catalogazione e nella conservazione dei documenti. Le pubblicazioni della collana dell'Archivio cittadino e l'Enciclopedia della città di Wiesbaden, pubblicata nel 2017, hanno rafforzato in modo duraturo la storiografia della storia della capitale.

Oggi, i dieci dipendenti fissi e il personale di progetto e di supporto dell'archivio cittadino rispondono a circa 3.000 richieste di utilizzo all'anno e si occupano di circa 350 utenti della sala di lettura, per i quali vengono effettuati più di 1.000 recuperi e riposizionamenti dai circa 6,2 chilometri di scaffali. Nel 2020, circa due terzi dei documenti conservati presso l'archivio cittadino sono stati indicizzati e quindi disponibili per i visitatori.

Oltre al materiale archivistico, l'archivio comunale dispone di un'ampia collezione di formati speciali. Tra questi, a partire dal 2021, una collezione cartografica con circa 21.500 mappe e planimetrie, circa 18.500 manifesti, circa 6.000 cartoline e pieghevoli, 1.700 incisioni, 798 video e audiocassette, 406 altri supporti di dati come i CD-ROM e circa 104.000 fotografie sotto forma di stampe, diapositive, negativi e lastre di vetro.

Dal 2020, il materiale d'archivio è ricercabile anche via Internet e gli ordini per la sala di lettura possono essere effettuati online. Nel 2021, il consiglio comunale ha modificato in modo sostanziale anche la base legale per il lavoro d'archivio risalente ai primi anni '90, lo statuto dell'archivio della capitale statale di Wiesbaden e il regolamento d'uso.