Костяк этой группы составили бывшие музыканты Jason Crest, которые в своё время записали пять очень интересных синглов для фирмы Phillips, но ни один из них так и не смог добиться коммерческого успеха. Как следствие, Jason Crest потеряли контракт с Phillips, но некоторое время ещё пытались выступать под названием High Broom, а затем разбрелись по разным коллективам - гитарист Дерек Смоллкомб играл с Samuel Prody, а вокалист Терри Кларк - в лондонской группе Hunter, записавшей один альбом, который без ведома самих музыкантов был выпущен в США под названием Orang Utan (1970). В 1971г. возвратившись в родной город, Кларк, Смоллкомб и ударник Роджер Сиггери решили предпринять ещё одну попытку под названием Holy Mackerel, пригласив в состав двух местных музыкантов - гитариста Криса Уора и басиста Тони Вуда.
Новая группа начала свою карьеру довольно необычно – уехав из родного Кента в сельскую глубинку графства Ланкашир, где стала играть в небольших пабах и клубах, создавая собственный материал и оттачивая коллективное мастерство и саунд. В отличие от тяготевших к psychedelic-року Jason Crest, Holy Mackerel играли мелодичный гитарный hard rock с незначительными тенденциями к prog-року и неожиданными интонациями американской музыки country. В начале 1972г. они провели большое турне по колледжам северной Англии, которое прошло на редкость успешно, и учитывая высокую репутацию бывших участников Jason Crest, без проблем подписали контракт с компанией CBS. В качестве продюсёров с Holy Mackerel стали работать известные специалисты - Roger Easterby и Des Champ, добившиеся ранее успеха с группами Vanity Fare, Deep Feeling и Chicory Tip. В октябре 1972г. на CBS был издан их первый сингл Rock-A-Bye/New Black Shoes, за которым месяц спустя последовал альбом Holy Mackerel (1972), выполненный в стиле melodic hard-рока. Главным достоинством диска оказался великолепный гитарный тандем Смоллкомба - Уора, и вокал Терри Кларка, который кажется только на этом диске, развернулся в полную силу. В числе наиболее удачных композиций, в первую очередь стоит отметить песни Кларка Spanish Attraction, и Were You At All Криса Уора, хотя не менее интересными оказались и обработки песен Стива Миллера (Steve Miller) Going To The Country и Rock A Bye (авторы Barry Ian Green и Ron Roker).
К сожалению, дебютный диск Holy Mackerel несколько опоздал по времени - к 1973г. такая музыка считалась уже откровенно устаревшей. Невзирая на хорошие отзывы в прессе, и участие в ноябрьском выпуске программы Джона Пила (John Peel) на BBC Radio One, пластинка продавалась очень плохо, хотя изданный ранее сингл, удостоился переиздания в Германии, Турции и некоторых других странах Европы. Как следствие – руководство CBS отказалось продлить контракт с Holy Mackerel, и музыкантам пришлось довольствоваться новым договором с крошечной фирмой Santa Ponsa (дочерний филиал компании Pye), которую основали их продюсёры Роджер Истерби и Де Шамп. Однако ни одному из выпущенных впоследствии синглов – We Got It Nailed Down/Rock On (сентябрь 1973), Tennessee Waltz/Gemini (февраль 1974) и Ballad of Joe McCann/Girl Was Gone (июнь 1974) - так и не удалось добиться успеха. Осенью 1974г. фирма Santa Ponsa обанкротилась и оставшиеся без контракта музыканты Holy Mackerel, решили распустить состав – ни у кого из них уже не было ни сил, ни желания начинать всё сначала. А подготовленный к выпуску второй альбом группы Closer To Heaven, так и остался лежать не изданным в хранилищах фирмы Pye. Лишь в 1993г., на волне вспыхнувшего интереса к музыке Jason Crest, этот диск был издан наконец, архивистской компанией Tenth Planet.