Тогда же он создал дуэт с певицей Джекки Де Шеннон (Jackie De Shannon), которая, по утверждению многих, была первой настоящей и сильной любовью в жизни Джимми. Примерно в это же время Пейдж познакомился с Эриком Клэптоном (Eric Clapton), который стал его близким другом. Однако отношения были вскоре испорчены (и надолго), после того как Эндрю Олдхэм (Andrew Oldham), в то время менеджер «Rolling Stones», являвшийся шефом звукозаписывающей компании «Immediate Records», где тогда трудился Пейдж, опубликовал запись совместного музицирования Клэптона и Пейджа, на квартире у последнего, без какой-либо договоренности с Эриком.

К лету 1966 года Джимми стал значимой величиной в лондонском музыкальном мире, но по большому счету известен он был только профессионалам. Широкая публика не имела понятия о выдающихся способностях Пейджа, так как имя сессионного музыканта не так уж часто указывается на конверте пластинки. Естественно, Джимми постепенно осознавал, что в качестве студийного музыканта прославиться почти невозможно, и настоящая слава может ждать его лишь в наполненном публикой концертном зале Поэтому, когда ему поступило предложение присоединиться к группе «Yardbirds», он согласился не задумываясь, даже несмотря на то, что звали его в качестве бас-гитариста.

Справедливости ради стоит заметить, что впервые предложение от «Yardbirds» поступало к Джимми еще год назад. Но тогда он отказался, вместо себя порекомендовав Джеффа Бека (Полный благодарности Бек тогда презентовал Пейджу редкую гитару). На этот раз Джимми стал полноправным членом группы. Пришел он на место Пола Сэмвелла-Смита (Paul Samwell-Smith), который покинул коллектив ради карьеры продюсера, то есть именно ради той работы в студии, от которой так стремительно избавлялся Пейдж.

«The Yardbirds» были заметным явлением на британской ритм-энд-блюзовой сцене. С момента своего основания в 1963 году они были стабильно популярны, особенно после того как стали регулярно выступать в клубе «Crawdaddy» в Ричмонде, где когда-то выступали «The Rolling Stones».