В 1969 Bay City Rollers стали своей, так сказать "домашней" группой в самом модном клубе Эдинбурга Top Story Club. По опросу шотландского музыкального журнала они были признаны лучшей профессиональной группой Шотландии. В то время Бэй Сити Роллерз обзавелись фургоном для перевозки аппаратуры на концерты, и ради экономии часто не снимали гостиницу, а ночевали прямо в фургоне. Короткий период времени в группе играли басист Дэвид Пэйтон и клавишник Билли Лайалл, которые потом ушли, чтобы создать другую успешную эдинбургскую рок-группу Pilot.

В 1971 году Bay City Rollers подписали контракт с Bell Records. Продюсер Джонатан Кинг сделал с ними демозапись шести песен, одну из которых - "Keep on Dancing" - отобрал для дебютного сингла группы. Это был хит №4 группы Gentrys в 1965 году. Кинг записал рядом с вокалом Кларка свой второй голос. В исполнении Bay City Rollers песня стала хитом №9 - неплохое начало для безвестной провинциальной поп-группы. Так шотландцы впервые попали на самую популярную музыкальную телепередачу в стране Top of the Pops.

В 1972 году песня Bay City Rollers - "Mayana" (Завтра) попала на конкурс песен Гран При в Люксембурге. Исполнение песни в Люксембурге было показано по телевидению всех европейских стран. В итоге, "Mayana" выиграла конкурс. Был выпущен сингл, который попал в чарты Германии, Голландии и Финляндии, стал хитом №1 в Израиле, но прошёл незамеченным у себя на родине в Великобритании.

На гастролях в Северной Ирландии в 1973 году возникли первые вспышки "роллермании" задолго до того, как эта истерия охватила Великобританию. Тем не менее, в течение двух последующих лет все синглы Bay City Rollers терпели крах, даже песня "Saturday Night" (Субботний вечер), которая со временем стала одним из самых великих хитов группы. В этот период в группу пришёл и надолго гитарист Эрик Фолкнер. Bell Records предупредила команду, что если и следующий сингл провалится, то он станет для них последним. Компания сделала жест, унизивший группу, наняв для записи следующего сингла - "Remember (Sha La La La)" - сессионных музыкантов.