I Caspian si sono formati nell'autunno del 2003 a Beverly, Massachusetts. Dopo aver scritto del materiale hanno registrato un demo nell'agosto del 2004 e hanno fatto qualche concerto tra la fine del 2004 e l'inizio del 2005, facendo anche da spalla ai giapponesi Mono. Poco dopo la band ha firmato con la Dopamine Records e ha debuttato con il primo Ep, You Are The Conductor, nel Novembre del 2005. In Aprile e Maggio 2006, la band ha fatto il suo primo tour negli stati uniti...