Pierwszy występ The Rolling Stones odbył się na zasadzie zastępstwa. – Zespół Alexisa Kornera miał grać na żywo w BBC 12 lipca 1962 roku i zapytał nas, czy nie zastąpilibyśmy ich w Marquee. Perkusistą tego wieczora był Mick Avory, (...) a na basie zagrał Dick Taylor. Trzon Stonesów: Mick, Brian i ja, zagraliśmy set: "Dust My Broom", "Baby What's Wrong?", "Doing the Crawdaddy", "Confessing the Blues", "Got My Mojo Working" – wspomina Keith Richards w książce "Życie".
Na scenie londyńskiego klubu Marque stanęli wówczas: Mick Jagger, Keith Richards, Brian Jones, Ian Stewart oraz Dick Taylor (późniejszy basista Pretty Things) i perkusista Tony Chapman (usunięty potem z grupy przez menadżera, bo nie był zbyt przystojny). Zagrali jako The Rollin' Stones, a już rok później byli sławni dzięki hitowi "Come On".
Dla upamiętnienie 50 rocznicy pierwszego występu Stonesi spotkali się dziś w kultowym miejscu londyńskiej Oxfort Street. Pamiątkową fotografię wykonał słynny Rankin.