The Smiths se formó a partir de una colaboración entre dos extraños en ese momento, Morrissey y Johnny Marr. Después de que Marr y Morrissey decidieran formar una banda, reclutaron al bajista Dale Hibbert y al baterista Simon Wolstencroft. Wolstencroft grabó algunas demos con la banda antes de irse porque no le gustaba la voz de Morrissey. Hibbert fue contratado porque podía conseguir acceso fuera de horario al estudio de grabación local Decibelle para que la banda grabara sus temas. Sin embargo, su personalidad y estilo de tocar no encajaban con el grupo, y fue expulsado de la formación después de un solo concierto. Mike Joyce y el viejo amigo de Marr, Andy Rourke, se unieron a la banda como baterista y bajista respectivamente, completando así la formación. El nombre "The Smiths" fue una reacción a los nombres "llamativos" y "pretenciosos" de las bandas de synthpop de la misma época, como Duran Duran y Spandau Ballet. En la entrevista televisada Datarun de 1984, el líder Morrissey dijo que eligió el nombre "porque era el más común... y es hora de que la gente común y corriente del mundo muestre su cara".
Tras firmar con el sello independiente Rough Trade Records, lanzaron su primer sencillo, "Hand in Glove", en mayo de 1983. El disco fue aclamado por el DJ John Peel, al igual que todos sus sencillos posteriores, pero no logró entrar en las listas. Los siguientes sencillos, "This Charming Man" y "What Difference Does It Make?", tuvieron mejor suerte al alcanzar los puestos 25 y 12, respectivamente, en la lista de sencillos del Reino Unido.

En febrero de 1984, el grupo lanzó su álbum debut homónimo, The Smiths, que alcanzó el número dos en la lista de álbumes del Reino Unido. Las canciones del álbum, "Reel Around the Fountain" y "The Hand That Rocks the Cradle", generaron controversia, ya que algunos tabloides insinuaron que las letras eran una apología de la pedofilia, una acusación que la banda negó rotundamente.
Ese mismo año, el álbum fue seguido por los sencillos "Heaven Knows I'm Miserable Now" y "William, It Was Really Nothing", que no formaban parte del disco y que incluían "How Soon Is Now?" en su cara B. "Heaven Knows I'm Miserable Now", que aseguró el primer top ten de la banda en las listas, también fue significativo porque marcó el inicio de la larga relación laboral del ingeniero y productor Stephen Street con el grupo.
Otra controversia surgió cuando "Suffer Little Children", la cara B de "Heaven Knows I'm Miserable Now", abordó el tema de los asesinatos de los páramos (Moors murders). Esto provocó un gran revuelo después de que el abuelo de una de las niñas asesinadas escuchara la canción en una gramola de un pub y sintiera que la banda estaba intentando comercializar los crímenes. Tras reunirse con Morrissey, aceptó que la canción era una exploración sincera del impacto de los asesinatos. Posteriormente, Morrissey entabló amistad con Ann West, la madre de la víctima Lesley Ann Downey, quien es mencionada por su nombre en la canción.
El año finalizó con el álbum recopilatorio Hatful of Hollow. Este disco reunió sencillos, caras B y las versiones de canciones que se habían grabado el año anterior para los programas de Peel y Jensen.

Un segundo álbum, titulado Meat Is Murder, fue lanzado en febrero de 1985. Meat Is Murder marcó un mensaje más político en las canciones de Morrissey, que se manifestó en la canción homónima. El álbum fue el primer y único trabajo de la banda en llegar al número uno. Dos sencillos extraídos del álbum ("That Joke Isn't Funny Anymore" y "Shakespeare's Sister") tuvieron un desempeño deficiente en comparación con los anteriores (alcanzaron el puesto 26 y 49, respectivamente, en su mejor momento).

Durante 1985, la banda completó largas giras por el Reino Unido y Estados Unidos mientras grababan su siguiente disco de estudio, The Queen Is Dead. El álbum fue lanzado en junio de 1986, poco después del sencillo "Bigmouth Strikes Again". El sencillo volvió a presentar los estridentes ritmos de guitarra acústica y las líneas melódicas de guitarra principal con grandes saltos de Marr. The Queen Is Dead alcanzó el número dos en las listas del Reino Unido y consistía en una mezcla de lúgubre sarcasmo (por ejemplo, "Never Had No One Ever", que encajaba con los estereotipos de la banda), humor seco (por ejemplo, "Frankly, Mr. Shankly", supuestamente un mensaje para el jefe de Rough Trade, Geoff Travis, disfrazado de carta de renuncia de un trabajador a su superior) y la síntesis de ambos, como en "There Is A Light That Never Goes Out" y "Cemetry Gates" (sic).
En el mismo año, The Smiths se embarcó en giras por Estados Unidos y el Reino Unido, al mismo tiempo que compaginaba la grabación de su cuarto álbum, The Queen Is Dead. Sin embargo, una disputa legal con Rough Trade retrasó el lanzamiento de The Queen Is Dead durante siete meses. Agregando a los crecientes problemas de la banda, Marr recurrió al alcohol para sobrellevar el estrés.

Rourke fue despedido, supuestamente a través de una nota escrita a mano por Morrissey y dejada en su coche, aunque fue reincorporado después de quince días. El guitarrista Craig Gannon fue contratado, pasando a tocar la guitarra rítmica. La nueva banda de cinco miembros grabó "Panic" y "Ask" (esta última con Kirsty MacColl en los coros), mientras realizaban una segunda gira por el Reino Unido. Gannon dejó la banda en octubre de 1986, al finalizar la gira. Las frustraciones con Rough Trade por parte de The Smiths sin Gannon aumentaron, y el grupo buscó un nuevo acuerdo, firmando finalmente (y de manera controvertida) con EMI.
A principios de 1987, se lanzó el sencillo "Shoplifters Of The World Unite", que alcanzó el puesto número 12 en la lista de sencillos del Reino Unido. Se lanzó el segundo recopilatorio The World Won't Listen, que alcanzó el número 2 en la lista de álbumes. A esto le siguió el lanzamiento del recopilatorio exclusivo para Estados Unidos, Louder Than Bombs. "Sheila Take A Bow" fue lanzado, alcanzando el top 10 en la lista de sencillos por segunda vez en la historia de la banda (y la última durante la vida del grupo).
Strangeways, Here We Come alcanzó el número dos en el Reino Unido y fue su álbum más exitoso en Estados Unidos, llegando al número 55 en el Billboard 200. Recibió una tibia acogida por parte de la crítica, pero tanto Morrissey como Marr lo han nombrado como su álbum favorito de The Smiths. Se lanzaron un par de sencillos más de Strangeways con grabaciones en vivo, de sesión y demos anteriores como caras B.

A pesar del continuo y creciente éxito de The Smiths, surgieron varias tensiones dentro de la banda. Johnny Marr estaba exhausto y al borde del alcoholismo, y se tomó un descanso de la banda en junio de 1987, lo que sintió que fue percibido negativamente por los otros Smiths. En julio de 1987, Marr abandonó el grupo de forma permanente, alegando que el artículo del NME titulado "Smiths to Split" (Los Smiths se separan) fue filtrado por Morrissey.

El artículo, escrito por Danny Kelly, hablaba del disgusto de Morrissey por el trabajo de Marr con otros músicos y de que la relación personal entre ambos había llegado a un punto de ruptura. Marr se puso en contacto con NME para explicar que no se fue de la banda debido a tensiones personales, sino porque quería un campo musical más amplio.
El ex guitarrista de Easterhouse, Ivor Perry, fue contratado para reemplazar a Marr, y la banda grabó con él algo de material nuevo que nunca se terminó, incluyendo una primera versión de "Bengali in Platforms" que originalmente estaba pensada como la cara B de "Stop Me If You Think You've Heard This One Before". Perry se sentía incómodo con la situación, afirmando que "era como si quisieran otro Johnny Marr", y las sesiones terminaron (según Perry) con "Morrissey saliendo corriendo del estudio". Para cuando se lanzó el cuarto álbum del grupo, Strangeways, Here We Come, en septiembre, la banda ya se había separado.
La ruptura de la relación se ha atribuido principalmente a que Morrissey se molestaba por el trabajo de Marr con otros artistas y a que Marr se sentía frustrado por la inflexibilidad musical de Morrissey. Marr odiaba particularmente la obsesión de Morrissey por versionar a artistas pop de los años 60 como Twinkle y Cilla Black. Marr recordó en 1992: "Esa fue la gota que colmó el vaso, en realidad. Yo no formé un grupo para interpretar canciones de Cilla Black". En una entrevista de 1989, Morrissey citó la falta de una figura de mánager y los problemas comerciales como razones de la separación de la banda.