Hija de padres divorciados, Rachael Yamagata dividió su tiempo entre su padre, un abogado de Washington y graduado de Harvard japonés-americano, y su madre, una artista/pintora neoyorquina de ascendencia italiana y alemana. Yamagata se graduó en la Escuela Holton-Arms de Bethesda, Maryland en 1992.

Yamagata comenzó como vocalista en la banda de funk-fusion de Chicago Bumpus, donde pasó seis años escribiendo y grabando tres álbumes con la banda y realizando una gira por Estados Unidos. En 2001, tras haber escrito varias canciones que no coincidían con el estilo funk de la banda, Yamagata decidió lanzarse en solitario. En septiembre de 2002, logró un contrato de dos discos con Arista Records, y su EP extendido homónimo salió a la venta en octubre.

Yamagata hizo una aparición en el segundo álbum de Jason Mraz, en un dueto llamado "Did You Get My Message?". También participó en las canciones "Fireflies", "The Believer" y "Barfly" del CD en solitario de Rhett Miller, así como en "Till the Sun Turns Black" de Ray LaMontagne y en "Let It Ride", "Cold Roses" y "Friends" del álbum Cold Roses de Ryan Adams. También cantó en los coros de seis canciones de un álbum de Bright Eyes, Cassadaga.

Su primer álbum completo, Happenstance, salió a la venta en junio de 2004, producido por John Alagia. Realizó videoclips de los singles "Worn Me Down" y "1963".

Yamagata contribuyó al álbum Wild Hope de Mandy Moore con una canción titulada "Ladies Choice", y de igual forma participa en los coros de esta cancion, y de la cancion "Wild Hope".

Sus canciones han aparecido en varias series de televisión norteamericanas, como Nip/Tuck, Men In Trees, The O.C. o Brothers & Sisters, y ha sido el uso de I'll find a way como fondo en las escenas del fallecimiento del personaje de Lucía en la serie española Los Serrano lo que ha dado a conocer a la artista en ese país.

Se prevé que su segundo álbum, aún sin titular, se estrene entre finales de primavera y finales de verano de 2007.