Jethro Tull se originó en el auge del blues británico de finales de la década de 1960. Ian Anderson, nacido en Edimburgo en 1947, se mudó a Blackpool a los 12 años, donde formó su primera banda, The Blades, junto a Michael Stephens, Jeffrey Hammond-Hammond y John Evans. Interpretaban una mezcla de blues, jazz y música de baile en clubes del norte de Inglaterra. En 1965, tras cambios en la formación y el nombre, se convirtieron en The John Evan Band, luego The John Evan Smash. Glenn Cornick reemplazó a Hammond-Hammond en el bajo, y el grupo se trasladó a Luton, cerca de Londres, para estar en el epicentro del movimiento blues. Tras la desintegración parcial de la banda, Anderson y Cornick se unieron al guitarrista Mick Abrahams y al baterista Clive Bunker, músicos con experiencia en bandas locales de blues, sentando así las bases de lo que sería Jethro Tull.
En diciembre de 1967, los cuatro músicos formaron oficialmente una nueva banda. Experimentaron con varios nombres antes de quedarse con "Jethro Tull", inspirado en un agricultor e inventor del siglo XVIII, que resultó ser memorable y popular.

En enero de 1968 grabaron el sencillo "Sunshine Day", lanzado por MGM Records con un error tipográfico ("Jethro Toe"), que no tuvo éxito comercial. Sin embargo, lograron una residencia en el Marquee Club de Londres, donde ganaron notoriedad.
Inicialmente, la banda enfrentó cuestionamientos sobre su identidad musical. Los mánagers Terry Ellis y Chris Wright sugirieron que Ian Anderson dejara de tocar la flauta y que Abrahams asumiera el rol central, ya que la flauta no era bien vista en el circuito del blues británico. Abrahams, devoto del blues tradicional, presionaba por una formación más ortodoxa. Sin embargo, el estilo escénico único de Anderson —saltando en una pierna con un abrigo andrajoso mientras tocaba la flauta— y su fusión de blues, jazz y elementos folclóricos le dieron a la banda un atractivo más amplio y diferenciado.
El grupo abrió para Pink Floyd en el primer festival de rock gratuito en Hyde Park en junio de 1968, y destacó en el Sunbury Jazz & Blues Festival en agosto. Firmaron con Island Records y lanzaron su álbum debut, This Was, en noviembre de ese año. Para entonces, Anderson ya dominaba la escena, y Abrahams abandonó la banda. Tras breves pasos de Tony Iommi (futuro de Black Sabbath) y Davy O’List (ex The Nice), Martin Barre fue elegido como guitarrista permanente, marcando el inicio de una larga y estable colaboración.

En abril de 1969, This Was se lanzó en Estados Unidos, aunque el sonido de la banda ya había cambiado drásticamente. En mayo, el sencillo "Living in the Past", el primero con Barre, alcanzó el número 3 en el Reino Unido, y el grupo debutó en Top of the Pops. Su segundo álbum, Stand Up (1969), escrito íntegramente por Anderson (excepto "Bouree", de Bach), llegó al número 1 en el Reino Unido. El álbum incluyó "Reasons for Waiting", con arreglos de cuerdas de David Palmer, quien se convertiría en figura clave en el desarrollo musical de la banda.

El éxito continuó con "Sweet Dream" (número 7 en el Reino Unido) y "The Witch's Promise" (número 4), ambos lanzados bajo Chrysalis Records, el nuevo sello fundado por Ellis y Wright. Su tercer álbum, Benefit (1970), fue el último con fuerte influencia del blues, aunque ya mostraba un giro hacia un sonido más personal. Contó con la participación de John Evan (antiguo compañero de Anderson) en teclados. Benefit alcanzó el número 3 en el Reino Unido y el 11 en Estados Unidos, consolidando su presencia internacional. La banda compartió escenario con Jimi Hendrix, B.B. King y Johnny Winter en el Atlanta Pop Festival ante 200,000 personas.

A finales de 1970, Cornick dejó la banda y fue reemplazado por Jeffrey Hammond-Hammond, amigo de la infancia de Anderson. En 1971 comenzaron a trabajar en Aqualung, considerado por muchos fans como su obra maestra. Este álbum marcó un cambio temático y musical: las letras de Anderson abordaban la relación entre el hombre y Dios, y la alienación provocada por la religión organizada. El blues quedó relegado, dando paso a pasajes de hard rock y fuertes influencias folk. El álbum fue un todo cohesivo que impresionó a la crítica y conectó con el público joven, especialmente por los solos de Barre y el tema central de alienación.

Aqualung alcanzó el número 7 en Estados Unidos y el número 4 en el Reino Unido, acompañado de una exitosa gira. Clive Bunker dejó la banda y fue reemplazado por Barriemore Barlow, antiguo compañero de Anderson. A finales de 1971 comenzaron a trabajar en Thick as a Brick, un álbum conceptual estructuralmente ambicioso, presentado como una única canción extendida y con una portada en forma de periódico. Lanzado en 1972, llegó al número 5 en el Reino Unido y al número 1 en Estados Unidos, convirtiéndose en su primer álbum más exitoso en EE.UU. que en su país natal.
En junio de 1972, Chrysalis lanzó Living in the Past, una recopilación de sencillos, EPs y grabaciones en vivo, presentada como un libro con formato de disco de 78 rpm. Este lanzamiento consolidó aún más su popularidad.

En julio de 1973, lanzaron A Passion Play, otro álbum conceptual de una sola pieza, aún más complejo y denso en imágenes fantásticas y religiosas. Aunque fue criticado por su oscuridad y estructura fragmentada, alcanzó el número 1 en Estados Unidos y el 13 en el Reino Unido. La gira que siguió fue extensa y ambiciosa, incluyendo la totalidad del álbum y proyecciones cinematográficas. Anderson, afectado por las críticas negativas, amenazó con cancelar la gira, pero finalmente continuó ante el apoyo del público.
En noviembre de 1974 se lanzó WarChild, concebido como parte de un proyecto cinematográfico nunca realizado. A pesar de las altas expectativas, el álbum fue certificado oro al momento de su lanzamiento y alcanzó el número 2 en Estados Unidos y el 14 en el Reino Unido. Las orquestaciones de David Palmer compitieron con los solos de Barre, y el regreso a canciones de duración convencional fue bien recibido, con "Bungle In the Jungle" llegando al número 11 en EE.UU. La gira contó con un cuarteto de cuerdas.
Durante este período, Anderson produjo un álbum de Steeleye Span, cuya música folk influenció su propio trabajo. En septiembre de 1975 lanzaron Minstrel in the Gallery, con temática isabelina y elementos de folk inglés. Aunque incluyó una suite de 17 minutos, su éxito fue más limitado, alcanzando el número 7 en Estados Unidos.

La formación de la banda había sido estable desde Aqualung, pero en enero de 1976, Hammond-Hammond dejó para dedicarse al arte. Fue reemplazado por John Glascock. El álbum Too Old to Rock 'n Roll, Too Young to Die (1976) incluyó canciones de una obra de teatro no producida y fue acompañado por un especial de televisión. La canción principal generó controversia en el Reino Unido por interpretaciones personales.

A finales de 1976, el EP navideño "Ring Out Solstice Bells" llegó al número 28. En 1977, lanzaron Songs From the Wood, su álbum más folk hasta la fecha, reflejando el interés de Anderson por la música tradicional inglesa. Fue su primer álbum original sin vínculo con proyectos teatrales desde A Passion Play. David Palmer se unió oficialmente al grupo como teclista.
Con la llegada del punk rock, Jethro Tull enfrentó un nuevo panorama musical. En 1977 lanzaron Repeat - The Best of Jethro Tull - Vol. 2, que tuvo escaso impacto comercial. Heavy Horses (1978) fue un trabajo personal de Anderson, lamentando la desaparición de los caballos de tiro en Inglaterra. Ese otoño lanzaron su primer álbum en vivo de larga duración, Bursting Out, con modesto éxito.
1979 fue un año trágico: John Glascock murió en noviembre por complicaciones cardíacas, tras el lanzamiento de Stormwatch. La banda incorporó a Dave Pegg, bajista de Fairport Convention, y continuó la gira con éxito, aunque el álbum no entró en el top 20 de EE.UU. por primera vez desde This Was.

En 1980, Anderson grabó un álbum en solitario con Barre, Pegg y Eddie Jobson, que finalmente se lanzó como A bajo el nombre de Jethro Tull. Aunque no tuvo gran éxito, marcó un cambio: Barlow, Evan y Palmer dejaron la formación. La nueva banda, con Gerry Conway y Peter-John Vettesse, grabó The Broadsword and the Beast (1982), con mayor uso de sintetizadores y ritmos más pesados.
En 1983, Anderson lanzó su primer álbum en solitario oficial, Walk Into Light, con sonido dominado por sintetizadores. Tras su bajo rendimiento, revivió a Jethro Tull para Under Wraps (1984), su álbum menos vendido, afectado por una infección de garganta que retrasó la gira. No hubo nuevos álbumes hasta Crest of a Knave (1987), tras años de problemas de salud.

Crest of a Knave marcó un punto de inflexión. Con un sonido más duro y pesado, alcanzó el número 19 en el Reino Unido y el 32 en EE.UU. En 1988, la banda celebró su 20º aniversario con una gira y el lanzamiento de una caja de seis discos con 65 canciones. En febrero de 1989, ganaron el Grammy a la Mejor Interpretación de Hard Rock/Metal, un reconocimiento que generó polémica en la industria.
Rock Island (1989) alcanzó el número 18 en el Reino Unido, pero solo el 56 en EE.UU. Catfish Rising (1990) y A Little Light Music (1992), un álbum acústico en vivo, tuvieron menor impacto comercial. A pesar de ello, la banda siguió atrayendo buenas audiencias en sus giras.
En 1993, Chrysalis lanzó un Box Set de 25º aniversario con remezclas, grabaciones en vivo y nuevas pistas. Anderson continuó trabajando en solitario, lanzando Divinities: Twelve Dances with God, un álbum clásico en el sello Angel Records. El álbum de Tull Roots to Branches (1995) no recibió suficiente promoción por el lanzamiento cercano del disco solista, lo que afectó su recepción.

En 1999, lanzaron Dot Com, cuya portada con una imagen de Satanás tocando la flauta generó controversia, especialmente en EE.UU., donde se censuró. Ese año, Jethro Tull ganó una batalla legal por su dominio web, tras descubrir que se usaba para un sitio pornográfico. También lanzaron su primer DVD, Living with the Past (2002), junto con un CD recopilatorio.

En 2002, la formación original (Anderson, Abrahams, Cornick, Bunker) se reunió por única vez desde 1968 para una actuación en un pub, filmada para el DVD. En 2003, lanzaron The Jethro Tull Christmas Album, su mayor éxito comercial desde 1987. En 2005, se publicaron Ian Anderson Plays the Orchestral Jethro Tull y Nothing Is Easy: Live at the Isle of Wight 1970.
En 2004, interpretaron Aqualung completo en vivo, donando las ganancias a organizaciones para personas sin hogar. En 2006, se lanzó una edición coleccionista con dos DVDs. Los miembros Jon Noyce y Andrew Giddings dejaron la banda y fueron reemplazados por David Goodier y John O'Hara.
En 2007, lanzaron The Best of Acoustic Jethro Tull y Live at Montreux 2003. En 2010, recibieron un Heritage Award de PRS for Music, con una placa en la iglesia de Blackpool donde tocaron por primera vez.

En 2011, Martin Barre anunció que no había planes para nuevos proyectos de Jethro Tull. En 2012, formó su propia banda, Martin Barre's New Day, con exmiembros de Tull.
En enero de 2012, Anderson anunció Thick as a Brick 2, una continuación del álbum de 1972, grabado con su "Ian Anderson Touring Band". El álbum se lanzó en abril de 2012 y fue promocionado con una gira de 18 meses. En 2014, Anderson lanzó Homo Erraticus, otro álbum conceptual presentado como trabajo en solitario, y anunció que futuros lanzamientos serían bajo su nombre personal.
En 2015, Anderson realizó una gira con Jethro Tull – The Rock Opera, un espectáculo con nuevas canciones sobre el agricultor Jethro Tull y producción visual elaborada. En 2017, comenzó a girar como "Jethro Tull by Ian Anderson".
En 2017, anunció una gira por el 50º aniversario de This Was y un nuevo álbum para 2018, con la banda solista de Anderson. Barre no participó. En 2018, Parlophone lanzó 50 for 50, una colección de 50 pistas que incluía los 21 álbumes de estudio, con notas indicando que el próximo lanzamiento sería un disco solista de Anderson.
En 2019, anunciaron The Prog Years Tour para 2020, pospuesto por la pandemia. Joe Parrish reemplazó a Florian Opahle en la guitarra. En marzo de 2021, Anderson anunció The Zealot Gene, el primer álbum de Jethro Tull desde 2003, el primero con material original desde 1999 y el primero sin Barre desde 1968.
En 2021, se estrenó el video animado oficial de "Aqualung", con dirección de Sam Chegini. En 2022, Jethro Tull firmó con Inside Out Music para el lanzamiento del álbum. En noviembre de 2022, confirmaron haber terminado su 23º álbum, RökFlöte, lanzado el 21 de abril de 2023. Finalmente, el 7 de marzo de 2025, lanzaron su vigésimo cuarto álbum, Curious Ruminant, anunciado con el sencillo principal el 10 de enero de ese año.