Tapes, Breaks and Out-Takes is een compilatie van verschillende vroegere studio en enkele live opnames. De nummers 4 en 7 komen van het album Live at Adelphia; de nummers 3 en 8 werden in juli 2002 opgenomen voor het album The Sun. De overige nummers werden opgenomen in verschillende gelegenheden, waaronder de Prince of Wales in Melbourne, het Edinburgh Festival.