В конце 1994 года русские иммигранты в Тель-Авиве (Израиль), скрывающиеся под псевдонимами Dale Rabid (барабаны/вокал) и Dave K (гитара), основали нойзкор-группу To Kill Mother, позже переименованную в Cradle Noise. Тогда же они записали демку из трёх трэков. Осенью 1995 года к группе присоединился басист Russell Bear, команда сменила название на Rabies Caste и стала играть более проДУМанную музыку в стиле Melvins. Их первый концерт, запланированный на 11 ноября, был отменён из-за убийства премьер-министра. Летом 1996 года Rabies Caste записали 10-трэковое демо "Self Portrait of the Madness". Запись как таковая заняла всего два часа студийного времени и прошла 4 июля. Как явствует с их официального вэбсайта, этот "альбом" демонстрирует heavy-as-fuck (оставляю без перевода) хардкор/гранджевые корни группы. В сентябре группа засела в студии для записи нового трэка "Mouthwash", однако человек, который занимался сведением материала, их кинул. В общем, Rabies Caste начали работать над новым материалом, который оказался более металлическим и замедленным, чем ранее. Летом 1997 года группа записывала EP "Children Can Fall into Bucket and Drown" в полуподвальных условиях при невыносимой жаре. Тогда Dale Rabid решил больше не петь и ограничиться лишь драммингом. Группа распространяла своё EP на концертах в кассетном формате, и надо сказать, данная запись до сих пор не переиздавалась. В начале 1998 года команда работала над материалом для своего первого альбома: из 35 записанных трэков были отобраны лишь 6. За две недели до записи альбома к группе присоединился гитарист Pigface Kazzz (экс-Ausweis), принявший участие в записи 4 трэков на альбоме. Album получил название "For the Vomiting Tractor Drivers", был растиражирован в количестве 260 штук и разослан журналам и лэйблам. Что же касается Pigface Kazzz, то он покинул группу сразу после их первого выступления. Спустя год американский лэйбл Infernal Racket Records выпустил в продажу альбом "For the Vomiting Tractor Drivers". В начале 2000 года Rabies Caste выступали на разогреве у ливерпульцев dBh, после чего последовали концерты с Freebase. Примерно в это время команда арендовала студию Southern Studio в Лондоне для записи очередного полноформатника с продюсером Харви Бирелом. С ноября 2000 по май 2001 года группа записывала альбом, получивший название "Let the Soul out and Cut the Vein". Rabies Caste подписали контракт с Earache Records на выпуск альбома, после чего проехались в турне с Charger. Дата европейского релиза альбома - 28 августа 2001 года, американского - 2 октября. На песню "Got It from Blake" также снят видеоклип, который естественно нельзя было показывать по ТВ, и поэтому его выложили на официальный сайт Rabies Caste, но и там его запретил Internet Service Provider. В различных журналах "Let the Soul out..." получил достаточно высокие оценки: Terrorizer - 8/10, Metal Hammer - 7/10, Kerrang - 4/5 и т.д. В поддержку альбома группа отправилась в продолжительное турне по Европе, длившееся более полугода, в компании с The Dillinger Escape Plan, Biohazard, Nasum, Candiria и earthtone9. В ноябре 2001 года Rabies Caste впервые за два года выступили хэдлайнерами на концерте в Израиле. Однако по техническим причинам были отменены выступления в Нью-Джерси и на фестивале Milwaukee Metalfest. В середине 2002 года Russell ненадолго покинул группу, в это время его заменял Ram_R из нью-йоркской грайндкор команды Barbara. Вплоть до настоящего времени Rabies Caste занимались концертной деятельностью.