Narodil se a vyrostl ve městečku Ferriday v jižanské Louisianě, obklopen směsicí blues, gospelu a country hudby. Na piano začal hrát již jako pětiletý, v patnácti se už hraním po hospodách a barech živil. Ze studií na texaské církevní škole byl vyhozen, když v místním kostele zahrál americkou hymnu ve stylu boogey woogey.

Své dva první singly natočil v roce 1954. Raketový vzestup pak zaznamenal s písněmi Whole Lotta Shakin' Goin' On a Great Ball of Fire!, které dobyly špičky popové, country i R&B hitparády. Záhy však přišel pád, když se provalilo, že jeho třetí manželkou je jeho třináctiletá sestřenice.

Na výsluní se v USA opět prodral koncem 60. let. Tentokrát v country hudbě. V roce 1986 byl jako jeden z prvních uveden do rokenrolové Síně slávy. V 80. letech se s kolegy Johnnym Cashem, Carlem Perkinsem a Royem Orbisonem zdárně připomněl albem Class of'55. V roce 2006 vydal album Last Man Standing, na němž spolupracoval s Ericem Claptonem, B.B. Kingem, Brucem Springsteenem, Mickem Jaggerem nebo Keithem Richardsem.

V roce 2009 vystoupil v pražských Holešovicích, jeho výkon byl však poznamenán únavou a věkem.