El cantautor James Taylor nació en Boston, Massachusetts, en 1948, hijo de Gertrude e Isaac Taylor. Cuando tenía tres años, su familia se mudó a Chapel Hill, Carolina del Norte. Su padre fue decano de la facultad de medicina de la Universidad de Carolina del Norte en Chapel Hill de 1964 a 1971. Taylor creció tocando música con sus cuatro hermanos: Alex, Kate, Livingston y Hugh.
La casa de la infancia de Taylor estaba en Morgan Creek Road en Chapel Hill-Carrboro. En abril de 2003, un puente sobre Morgan Creek fue dedicado al músico y rebautizado como el James Taylor Bridge. Sus experiencias de infancia en este vecindario tuvieron un gran impacto en la letra de muchas de sus canciones más populares.
"Copperline" narra la historia de su regreso a los lugares donde jugaba de niño, donde antes había “solo media milla hasta Morgan Creek”, y que ahora está “lleno de casas prefabricadas y madera contrachapada”. "Carolina in My Mind", el “himno de Taylor a su estado natal”, es “conocida y querida por innumerables habitantes de Carolina”.
No fue sino hasta que se fue a la escuela Milton Academy en Massachusetts que comenzó a experimentar con la composición de su propia música.

Experimentó una depresión severa al estar tan lejos de casa y regresó brevemente a Carolina del Norte, donde asistió a la escuela secundaria de Chapel Hill. Durante este tiempo, Taylor formó una banda llamada The Fabulous Corsairs con su hermano Alex y tres amigos a mediados de la década de 1960, pero luego regresó a la Milton Academy para terminar sus estudios. Después de internarse voluntariamente en el Hospital Psiquiátrico McLean en Belmont, MA, para tratar su depresión severa, Taylor se mudó a Nueva York al ser dado de alta.
Mientras estaba en la ciudad de Nueva York, Taylor formó la banda The Flying Machine, aunque no duró mucho tiempo. Luego se mudó a Londres, donde impresionó a Peter Asher de Apple Records con sus demos. En Londres, Taylor grabó su álbum debut homónimo James Taylor (1968), y luego se mudó a Los Ángeles para grabar Sweet Baby James (1970). Sweet Baby James le dio a Taylor fama y éxito mundial al alcanzar el estatus de triple platino. Este álbum fue nominado al premio Grammy a Álbum del Año y consolidó a James Taylor como un músico respetado.
James Taylor ha obtenido más de cuarenta premios de oro, platino y multiplatino. Su tercer álbum, Mud Slide Slim and the Blue Horizon (1971), ganó un Grammy a la Mejor Interpretación Vocal Pop Masculina por la canción "You've Got a Friend" en 1971.

Joni Mitchell, su novia en ese momento y popular música de folk, ayudó a grabar los coros en este álbum. Taylor se casó con Carly Simon en 1972 antes del lanzamiento de One Man Dog (1972), que incluía coros de Simon, y los cantautores Carol King y Linda Ronstadt.

También grabó Walking Man (1974), Gorilla (1975), In the Pocket (1976), y JT (1977), que recibió un Grammy a la Mejor Interpretación Pop Masculina por la canción "Handyman". En 1978, Taylor colaboró con Paul Simon y Art Garfunkel para grabar "Wonderful World" para el disco de Garfunkel. Tras el lanzamiento de Flag (1979) y Dad Loves His Work (1981), Taylor y Simon se divorciaron en 1983. En 1985 se casó con Kathryn Walker. A esto le siguieron los lanzamientos de Never Die Young (1988) y New Moon Shine (1991). Entre New Moon Shine y Hourglass (1997), que ganó un premio Grammy al "Mejor Álbum Pop", Taylor se divorció de Walker en 1995. En 2002, lanzó October Road.
A lo largo de su carrera, Taylor ha recibido muchos premios, incluidos doctorados honorarios en música del Williams College y de la Berklee School of Music.
En el año 2000, fue incluido en el Salón de la Fama del Rock and Roll y en el Salón de la Fama de los Compositores.
James Taylor ha participado activamente en campañas políticas desde la década de 1970, cuando apoyó la campaña presidencial de Jimmy Carter en 1976 y, cuatro años después, hizo campaña para John Anderson en 1980. En 2008, regresó a Carolina del Norte para dar una serie de conciertos en apoyo a la campaña presidencial de Obama. Taylor tocó en Charlotte, Asheville, Chapel Hill, Raleigh y Wilmington para apoyar a Obama.
Taylor se casó con Caroline “Kim” Smedvig en 2001, y juntos tienen dos hijos, Henry y Rufus. También tiene dos hijos, Ben y Sally, de su matrimonio anterior con Carly Simon. Actualmente, Taylor vive en Massachusetts con su familia.