Nato a Londra nel 1940 ebbe un ruolo importante nel Rhym'n'Blues britannico e nella carriera di Elton John.   Fece parte di alcuni gruppi (The Hoochie Coochie Men, Steampacket, Bluesology).  Quando i Bluesology divennero il suo gruppo fisso di accompagnamento fu la sua svolta verso il circuito dei club e dei cabaret a spingere Elton verso una carriera autonoma, poichè il gruppo non mostrava più alcuna ambizione. All'epoca incise come retro di un un suo singolo la canzone (attribuita interamente a Reg Dwight) Lord, You Make The Night Too Long.  Elton ormai giunto ad un successo mondiale, produsse e suonò in alcune canzoni di due album degli inizi '70, It Aint Easy (Warner Bros K 46008,1971) e Everything Stops For Tea (Warner Bros K 46160, 1972), in un periodo in cui cercava di rilanciarsi verso il successo perduto; lui e Rod Stewart, che aveva lavorato con Baldry negli Steampacket, produssero un lato a testa in questi due album per cercare di dare una spinta alla sua carriera, senza troppo successo però.   Fu Long John Baldry a convincere Elton a non sposarsi nel 1968, storia che diede origine alla canzone Someone Saved My Life Tonight, e infatti troviamo la sua foto proprio nel booklet di Captain Fantastic. Long John Baldry è morto il 21 luglio del 2005 a Vancouver, in Canada, dove viveva e lavorava ormai da anni, senza che la sua carriera non avesse più avuto particolari sussulti.  E, nell'autunno del 2005, sono stati finalmente stampati in formato CD i due album che contengono la collaborazione con Elton e Rod Stewart.