Rhoads nació el 6 de diciembre de 1956 , en el hospital St. John's en California . Comenzó a tocar la guitarra a los seis años. Rhoads formó su primera banda, Violet Fox, a los 14 años. No duró mucho, y a los 17 enseñó a su amigo Kelly Garni a tocar el bajo, y juntos fundaron la banda Quiet Riot junto al baterista Drew Forsyth . Si bien no consiguieron contrato en su propio país, un sello japonés se interesó por ellos y editó sus primeros discos. Kelly dejaría más tarde la banda y sería reemplazado por Rudy Sarzo . En 1979 fue a probarse como guitarrista para Ozzy Osbourne , quien estaba por comenzar su carrera solista. Ozzy solo necesitó oír unos breves momentos y lo aceptó directamente. Junto al bajista Bob Daisley y el batería Lee Kerslake grabaron el primer disco, Blizzard of Ozz . El mismo tuvo dos cortes de difusión: Mr. Crowley (cuya letra está basada en el ocultista Aleister Crowley ) y Crazy Train ("Tren Loco"). Poco después le siguió el segundo disco, Di