Crystal Castles werd in 2003 opgericht in Toronto, Canada. In eerste instantie was het een soloproject van Ethan Kath, die experimenteerde met elektronica en samples uit jaren tachtigcomputerspelletjes van Atari. Toen Ethan bij een aantal nummers vocalen nodig had vroeg hij zangeres Alice Glass om deze nummers in te zingen. De samenwerking tussen Ethan en Alice bleek vruchtbaar en leidde tot het titelloze debuutalbum, dat in 2008 door Last Gang Records uitgebracht werd. De opwindende en energieke optredens vergrootten de reputatie van het duo en bracht de Canadezen vliegensvlug naar de Europese podia, waar ze juichend werden ontvangen. In juni van dit jaar zou het tweede en wederom titelloze album van Crystal Castles verschijnen, maar vanwege het immer lekkende internet werd het album met spoed eind april digitaal uitgebracht, gevolgd door een fysieke schijf eind mei. Volgens Pitchfork overtreffen de Canadezen zichzelf en hun debuut op alle mogelijk manieren.