Billie nació en Oakland. Es el menor de una familia de seis hijos que vivían en Rodeo, California. Su padre, Andy Armstrong, era camionero y baterista de jazz que murió de cáncer de esófago cuando Billie tenía diez años...