Peter Svensson y Magnus Sveningsson, ambos músicos de heavy metal, formaron el grupo el 31 de octubre de 1992 en Jönköping, Suecia, junto con el baterista Bengt Lagerberg, el guitarrista Mattias Alfheim y la vocalista Nina Persson.

Mientras vivían juntos en un pequeño departamento, los Cardigans grabaron una cinta de demostración en la que Persson cantaba como vocalista principal solo en una de las canciones, hacia el final de la lista de temas. El cazatalentos Ola Hermanson escuchó la demo y firmó a la banda con su sello Trampolene. Durante la grabación de su primer álbum en 1993, Alfheim se retiró y fue reemplazado por un amigo de Lagerberg, Lars-Olof Johansson, quien ha permanecido en la banda desde entonces.

Lanzaron su álbum debut, Emmerdale, en Suecia y Japón en 1994; se relanzó internacionalmente en 1997. El álbum incluía el éxito radiofónico sueco «Rise & Shine», que más tarde fue votado como el mejor de 1994 en una encuesta de la revista Slitz.

El resto de 1994 lo dedicaron a realizar una gira por Europa y a grabar Life, que se lanzó a nivel mundial en 1995. Life se convirtió en un éxito internacional, vendiendo más de un millón de copias y alcanzando el disco de platino en Japón. En 1996, Life se lanzó bajo el sello Minty Fresh en Estados Unidos, pero este lanzamiento fue esencialmente una recopilación de temas de Emmerdale y Life.

Tras su éxito con Life, los Cardigans firmaron con Mercury Records, bajo cuyo sello lanzaron First Band on the Moon a nivel mundial en 1996. «Lovefool» fue un éxito mundial, especialmente en Estados Unidos y Japón, donde el álbum alcanzó el disco de platino en tres semanas. El álbum también alcanzó el disco de oro en Estados Unidos. «Lovefool» se transmitió en MTV a finales de la década de 1990 como un video musical con fragmentos de la exitosa película de 1996 Romeo + Julieta, protagonizada por Leonardo DiCaprio y Claire Danes. También apareció en la película Crueles intenciones (1999).

En 1997, la banda interpretó a sí misma en un episodio de Beverly Hills, 90210 como el grupo principal en la fiesta de graduación universitaria organizada por el papá de Kelly Taylor. La banda interpretó «Lovefool» y «Been It». Su canción «Carnival» apareció en la película de 1997 Austin Powers: El hombre del misterio internacional. También se le pidió a la banda que presentara el tema principal para la película de James Bond Tomorrow Never Dies, pero rechazó la solicitud debido al agotamiento que se vería agravado por la posible carga de trabajo adicional; Persson ha calificado su decisión de rechazar la oferta como «uno de mis mayores errores».

A Gran Turismo, de 1998, le siguió un largo receso durante el cual los miembros de la banda se dedicaron a proyectos paralelos en solitario. Ese mismo año también lanzaron un álbum recopilatorio de caras B poco conocidas, The Other Side of the Moon, como lanzamiento exclusivo para Japón. El video de la canción «My Favourite Game» fue censurado por MTV por mostrar conducción imprudente. A pesar de ello, se convirtió en su segundo éxito mundial. «My Favourite Game» apareció en la banda sonora del videojuego de PlayStation Gran Turismo 2, en la secuencia introductoria del CD1. Ese mismo año, su canción «Deuce» también apareció en The X-Files: The Album. Su canción «Erase/Rewind» se incluyó en las películas de 1999 Never Been Kissed y The Thirteenth Floor. En 2018, el autor alemán Thorsten Nagelschmidt publicó un libro titulado Der Abfall der Herzen, en referencia a la canción de la banda «Junk of the Hearts», incluida en Gran Turismo.

En 1999, The Cardigans grabaron una versión a dúo de «Burning Down the House» de Talking Heads junto a Tom Jones para su álbum Reload.

The Cardigans regresaron en 2002 para grabar Long Gone Before Daylight (2003), una colección de canciones compuestas principalmente por Persson y Svensson. Tras un paréntesis de dos años desde su último álbum, se lanzó en Japón el 19 de marzo de 2003 y en Europa el 24 de marzo de 2003. Posteriormente, también se lanzó en Canadá (22 de abril de 2003) y en Estados Unidos (25 de mayo de 2004).

El álbum se diferencia de los trabajos anteriores de la banda. Su característico sonido pop «alegre» da paso a canciones pop con una mayor influencia de la música country estadounidense. Es un álbum mucho más oscuro que sus trabajos anteriores y más tranquilo que Gran Turismo. De hecho, incluso la cantante principal, Nina Persson, se tiñó el cabello, que antes era rubio claro, de negro azabache, reflejando el cambio de estado de ánimo de la banda. El álbum fue producido por Per Sunding después de que el productor habitual del grupo, Tore Johanssen, renunciara al sentirse incapaz de proporcionar el sonido country que el grupo deseaba.

Las críticas fueron, en general, mixtas. Algunos consideraron que el cambio de rumbo era bienvenido y sintieron que la banda había madurado, creando canciones que eran incluso mejores que las de otros artistas experimentados del estilo country-pop. Otros extrañaban el antiguo sonido pop y acusaron a la banda de posiblemente avergonzarse de su anterior sonido pop «alegre». El primer sencillo del álbum, «For What It’s Worth», se lanzó el 17 de febrero de 2003. El segundo sencillo fue «You’re the Storm», lanzado el 2 de junio de 2003. El tercer y último sencillo fue «Live and Learn», lanzado el 3 de diciembre de 2003. En el verano de 2004, The Cardigans realizaron una gira con Liz Phair, Katy Rose y Charlotte Martin en la gira Chicks With Attitude.

El 28 de abril de 2005, se lanzó a través de iTunes el álbum «iTunes Originals» de la banda. El 19 de octubre de 2005, la banda lanzó su sexto álbum, Super Extra Gravity, que recibió críticas generalmente favorables.

En 2012, The Cardigans recibieron una lucrativa oferta del Festival de Hultsfred para interpretar el álbum Gran Turismo en su totalidad. Tras algunas dudas iniciales, la banda decidió aceptar la oferta «ya que nos pareció una buena forma de sacarnos de nuestra extraña y nueva vida cotidiana», según Persson. Peter Svensson se negó a participar, aunque no tenía ninguna objeción a que la banda realizara la gira sin él. Reclutaron al cantautor Oskar Humlebo para sustituir a Svensson y le pidieron a su agente que buscara más shows para que pudieran tocar. Finalmente, la banda regresó a los escenarios con shows en Lund y Copenhague antes de Hultsfred, para luego tocar en Polonia, Finlandia, Rusia, Indonesia, Taiwán y Japón, aunque un concierto programado en Israel fue cancelado por el promotor. En la mayoría de estos conciertos interpretaron Gran Turismo en su totalidad, seguido de una selección de éxitos de sus otros álbumes.

Aún con Humlebo en lugar de Svensson, la banda presentó repertorios que abarcaban toda su carrera cuando reanudaron la gira a finales de 2013 con conciertos en Japón, China y Rusia, seguidos de más fechas en 2015 que los llevaron a Corea del Sur, Europa y América Latina. En entrevistas para promocionar su álbum solista de 2014, Animal Heart, Persson sugirió que el éxito de sus conciertos más recientes abría la posibilidad de futuras grabaciones de The Cardigans, aunque no había planes concretos. «Es muy divertido hacer cosas con los grandes éxitos, ya que no hay nada más, pero creo que si seguimos divirtiéndonos tanto nos gustaría grabar otro disco, porque nos gusta crear cosas nuevas», dijo Persson. El único concierto programado por la banda para 2016 fue en el Qstock (Oulu, Finlandia) el 29 de julio. En 2017, se presentaron en Estocolmo, en Turku y en el festival Yammatovo 3 en Croacia.

En junio de 2018, la banda anunció sus únicos conciertos en vivo del año: una gira de cuatro fechas por el Reino Unido en diciembre para celebrar el vigésimo aniversario de Gran Turismo, en la que volverían a tocar el álbum completo. En una entrevista para promocionar la gira, Persson declaró: «No habrá más discos de The Cardigans, estoy bastante seguro. Pero seguiremos haciendo pequeñas giras y conciertos mientras sea divertido, mientras podamos hacerlo bien y sintamos que es algo que sigue siendo relevante para nosotros».

En mayo de 2023, Nina Persson confirmó que Peter Svensson nunca volvería a unirse a la banda y que, por lo tanto, no habría nuevos álbumes de The Cardigans. La idea de crear música nueva sin Svensson también fue descartada. La banda sigue realizando giras de manera esporádica.

El 6 de septiembre de 2024, la banda lanzó la recopilación de caras B en dos volúmenes titulada The Rest of the Best.