El club fue formado inicialmente por estudiantes de Mittweida como Chemnitzer SC Britannia el 2 de diciembre de 1899.
El 28 de enero de 1900, Chemnitzer SC Britannia fue miembro fundador de la Asociación Alemana de Fútbol (DFB) en Leipzig. En abril del mismo año, el club cambió su nombre a Chemnitzer BC 1899.
El 8 de agosto de 1903, el club se convirtió en miembro fundador de la Verband Chemnitzer Fußball-Vereine (VCFV). Esta federación local fue incluida en la Verband Mitteldeutscher Fußball-Vereine (VMBV), la gran federación regional de Alemania Central, dos años más tarde.
Hasta 1933, Chemnitzer BC era un lado fuerte de las ligas VMBV. Participaron en la ronda final del WMBV quince veces, llegando a la final una vez en 1927. A pesar de una derrota por 0-4 ante el VfB Leipzig, Chemnitz se clasificó para el campeonato alemán de fútbol de 1927 como subcampeones, donde perdieron en la primera ronda contra el eventual campeón 1. FC Nürnberg, 1-5.
En 1933, Chemnitzer BC 1899 entró en dificultades financieras. A pesar de una fusión con rivales locales SC Sachsen 1909 Chemnitz, la quiebra y la liquidación no pudieron evitarse. El equipo se volvió a formar inmediatamente bajo el nombre de Chemnitzer BC 1933, que asumió la historia del antiguo club. CBC 1933 formó parte de la Gauliga Sajonia hasta el final de la Segunda Guerra Mundial.
FC Karl-Marx-StadtEdit
Tras el conflicto, la mayoría de las organizaciones en Alemania, incluyendo clubes deportivos y de fútbol, fueron disueltos por las autoridades de ocupación aliadas. El equipo fue restablecido en 1945 como SG Chemnitz Nord, ya que era común en el fútbol de Alemania Oriental en ese momento, experimentando una serie de cambios de nombre, de BSG Fewa Chemnitz en 1948 a BSG Chemie Chemnitz en 1951. Tras el cambio de nombre de la ciudad de Chemnitz a Karl-Marx-Stadt en 1953, el club siguió su ejemplo y asumió el nuevo nombre de la ciudad también. En 1956, el club de fútbol se unió al club deportivo centralizado SC Motor Karl-Marx-Stadt, que a su vez pasó a llamarse SC Karl-Marx-Stadt en 1963. El departamento de fútbol se separó una vez más del club deportivo como FC Karl-Marx-Stadt en 1966, bajo un plan del gobierno para establecer una serie de clubes de fútbol como centros en todo el país con la intención de identificar y desarrollar talento en apoyo de un lado nacional fuerte. Cuando la ciudad recuperó su nombre original en 1991, el equipo siguió su ejemplo para convertirse en Chemnitzer FC.
Después de unirse a la DDR-Oberliga para la temporada 1962-63, el club generalmente obtuvo resultados aburridos, la mayoría de las veces terminando en la mitad inferior de la tabla de la liga. Lograron una sorprendente victoria en el campeonato de Alemania Oriental al final de la temporada 1966-67, y fueron subcampeones en la Copa de Alemania Oriental (Copa FDGB) en 1969, 1983 y 1989. El club disfrutó de su mejor giro internacional en 1989, avanzando a través de dos rondas preliminares a la Ronda 16 de la Copa de la UEFA 1989-90 antes de ser eliminado contra la Juventus. En la misma temporada, el equipo terminó como subcampeón en el campeonato de Alemania Oriental, segundo después del Dynamo Dresden en el diferencial de goles.
Después de la reunificación alemana en 1990, el Chemnitzer FC se clasificó para el 2. Bundesliga al final de la NOFV-Oberliga 1990-91. A partir de la temporada 1991-92, Chemnitz pasó cinco años en el segundo nivel del fútbol alemán hasta ser relegado a la entonces tercera Regionalliga en 1996, y también avanzó a la semifinal de la DFB-Pokal 1992-93 durante este tiempo. Desde entonces, la importancia del club se ha desvanecido. Los siguientes cuatro años se dividieron a partes iguales entre la Regionalliga y la 2. Bundesliga antes de ser relegado a la Regionalliga (III) en 2001 y posteriormente a la NOFV-Oberliga Süd (IV) en 2006. El último par de años, sin embargo, vio al club elevarse lentamente a través del sistema de ligas alemán una vez más con promociones a la ahora cuarta Liga Regional en 2008 y la 3. Liga en 2011. En 2018, el club descendió a la cuarta liga.
El club estuvo en el centro de una controversia después de que el club, algunos de sus jugadores y aficionados rindieran homenaje a Thomas Haller, un destacado activista de extrema derecha antes del inicio contra el VSG Altglienicke en casa el 9 de marzo de 2019. Haller, que proporcionó seguridad para el club y cofundó HooNaRa (Hooligans-Nazis-Racistas) en la década de 1990, recibió un minuto de silencio, mientras que una imagen de Haller se mostraba en una pantalla grande en el estadio. El delantero del Chemnitzer FC, Daniel Frahn, levantó una camiseta en honor a Haller y otros «gamberros locales». El director ejecutivo del club, Thomas Uhlig, renunció como resultado de la controversia, y el Sparkasse Chemnitz dijo que ya no patrocinará al club después del final de esta temporada.
En agosto de 2019, el club despidió a su capitán, Daniel Frahn, después de que fuera acusado de «mostrar abiertamente» su simpatía por los grupos neonazis entre los seguidores del club.