Le club a été initialement formé par des étudiants de Mittweida sous le nom de Chemnitzer SC Britannia le 2 décembre 1899.
Le 28 janvier 1900, le Chemnitzer SC Britannia est l’un des membres fondateurs de la Fédération Allemande de Football (DFB) à Leipzig. En avril de la même année, le club change de nom et devient Chemnitzer BC 1899.
Le 8 août 1903, le club devient membre fondateur de la Verband Chemnitzer Fußball-Vereine (VCFV). Cette fédération locale a été intégrée à la Verband Mitteldeutscher Fußball-Vereine (VMBV), la grande fédération régionale d’Allemagne centrale, deux ans plus tard.
Jusqu’en 1933, Chemnitzer BC était un côté fort des ligues VMBV. Ils ont participé quinze fois au tour final de la WMBV, atteignant la finale une fois en 1927. Malgré une défaite 0-4 contre le VfB Leipzig, Chemnitz se qualifie pour le championnat d’Allemagne de football 1927 en tant que vice-champions, où ils perdent au premier tour contre les futurs champions 1. FC Nuremberg, 1-5.
En 1933, Chemnitzer BC 1899 a connu des difficultés financières. Malgré une fusion avec ses rivaux locaux SC Sachsen 1909 Chemnitz, la faillite et la liquidation ne pouvaient être évitées. L’équipe a ensuite été immédiatement reformée sous le nom de Chemnitzer BC 1933, qui a repris l’histoire de l’ancien club. CBC 1933 faisait partie de la Gauliga Saxe jusqu’à la fin de la Seconde Guerre mondiale.
FC Karl-Marx-StadtEdit
Au lendemain du conflit, la plupart des organisations en Allemagne, dont les clubs sportifs et de football ont été dissous par les autorités d’occupation alliées. L’équipe a été rétablie en 1945 sous le nom de SG Chemnitz Nord avant, comme c’était courant dans le football est-allemand à l’époque, de subir un certain nombre de changements de nom, de BSG Fewa Chemnitz en 1948 à BSG Chemie Chemnitz en 1951. Lors du changement de nom de la ville de Chemnitz en Karl-Marx-Stadt en 1953, le club a emboîté le pas et a également pris le nouveau nom de la ville. En 1956, le club de football a été rattaché au plus grand club sportif centralisé SC Motor Karl-Marx-Stadt, qui a été à son tour renommé SC Karl-Marx-Stadt en 1963. Le département de football a ensuite été à nouveau séparé du club sportif sous le nom de FC Karl-Marx-Stadt en 1966, dans le cadre d’un plan gouvernemental visant à créer un certain nombre de clubs de football en tant que centres dans tout le pays destinés à identifier et à développer les talents pour soutenir une équipe nationale forte. Lorsque la ville a repris son nom d’origine en 1991, l’équipe a emboîté le pas pour devenir Chemnitzer FC.
Après avoir rejoint la DDR-Oberliga pour la saison 1962-1963, le club obtient généralement des résultats peu intéressants, terminant le plus souvent dans la moitié inférieure du classement. Ils ont réussi une surprenante victoire en championnat d’Allemagne de l’Est à la fin de la saison 1966-67, et ont été finalistes de la Coupe d’Allemagne de l’Est (Coupe FDGB) en 1969, 1983 et 1989. Le club connaît son meilleur tour international en 1989, passant par deux tours préliminaires jusqu’au Tour des 16 de la Coupe UEFA 1989-1990 avant d’être éliminé contre la Juventus. Au cours de la même saison, l’équipe termine vice-championne du championnat d’Allemagne de l’Est, deuxième derrière le Dynamo Dresde au différentiel de buts.
Après la réunification allemande en 1990, le Chemnitzer FC se qualifia pour la 2. Bundesliga à la fin de la NOFV-Oberliga 1990-91. À partir de la saison 1991-92, Chemnitz a passé cinq ans dans le deuxième niveau du football allemand jusqu’à ce qu’il soit relégué en Regionalliga, alors troisième niveau, en 1996, et a également atteint la demi-finale de la DFB-Pokal 1992-93 pendant cette période. Depuis lors, l’importance du club s’est estompée. Les quatre années suivantes furent également réparties entre la Regionalliga et la 2. Bundesliga avant d’être finalement relégué en Regionalliga (III) en 2001 puis en NOFV-Oberliga Süd (IV) en 2006. Les deux dernières années, cependant, ont vu le club remonter lentement à travers le système de ligue allemande une fois de plus avec des promotions en Regionalliga, désormais quatrième niveau, en 2008 et en 3. Liga en 2011. En 2018, le club a été relégué en quatrième ligue.
Le club était au centre d’une controverse après que le club, certains de ses joueurs et fans ont rendu hommage à Thomas Haller, un militant d’extrême droite de premier plan avant le coup d’envoi contre le VSG Altglienicke à domicile le 9 mars 2019. Haller, qui assurait la sécurité du club et cofondait HooNaRa (Hooligans-nazis-racistes) dans les années 1990, a reçu une minute de silence, tandis qu’une photo de Haller était affichée sur un grand écran au stade. L’attaquant du Chemnitzer FC Daniel Frahn a brandi un maillot en l’honneur de Haller et d’autres « hooligans locaux ». Le directeur général du club, Thomas Uhlig, a démissionné à la suite de la controverse et la Sparkasse Chemnitz a déclaré qu’elle ne sponsoriserait plus le club après la fin de cette saison.
En août 2019, le club limoge son capitaine, Daniel Frahn, après avoir été accusé d’avoir » ouvertement affiché » sa sympathie pour les groupes néonazis parmi les supporters du club.