„Baby, Please Don’t Go” este o piesă tradițională de delta blues care a fost popularizată prin 1935 de către muzicianul Big Joe Williams. Au urmat multe preluări, ducând la descrierea sa drept „una dintre cele mai cântate, aranjate și rearanjate melodii din istoria blues”.
În data de 23 martie 1975, la o lună după ce toboșarul Phil Rudd și basistul Mark Evans s-au alăturat celor de la AC/DC, s-a auzit Baby please don’t go pentru prima dată în programul muzical australian Countdown. Angus a purtat uniforma sa de școlar, care avea să devină trade mark, în timp ce Scott a urcat pe scenă purtând o perucă blondă cu codițe, o rochie, cercei și….era machiat (poate și puțin machit). Se știe că Bon Scott avea un dezvoltat simț al umorului! Am început ziua bine 
