Группа основана в городке Доравилль (Джорджия) осенью 1970, хотя все ее участники были знакомы между собой и работали вместе уже много лет. Инициатором ее создания стал менеджер, автор песен и продюсер Бадди Бью (Buddy Buie); экс-гитарист CLASSICS IV Джеймс «Джей-Ар» Кобб (James J. R. Cobb, p. 5 февраля 1944, Бирмингам, Алабама) и игравший с группой в тот момент клавишник Дин Дотри (Dean Daughtry, p. 8 сентября 1946, Кинстон, Алабама) ушли и начали работать над новыми песнями на принадлежавшей Бадди Studio One.Ветеран рок-сцены Юга Дотри с 1964 по 1967 аккомпанировал Рою Орбисону, а когда Орбисон уволил THE CANDYMEN, реорганизовал группу и еще пару лет выступал и записывал с ними кавер-версии THE BEACH BOYS и THE BEATLES, а также свои композиции в стиле кантри-рок. Когда Бью, Бэйли и Дотри созрели для записи, состав их группы, получившей чисто условное название ATLANTA RHYTHM SECTION, дополнили участники THE CANDYMEN: Родни Джасто (Rodney Justo; вокал), Барри Бэйли (Barry Bailey, p. 12 июня 1948, Декатур, Джорджия; соло-гитара) и Пол Годдард (Paul Goddard, p. 23 июня 1945, Рим, Джорджия; бас, вокал), играли в последней версии группы, а Роберт Никс (Robert Nix; барабаны), начинал с Дотри еще у Орбисона. Помимо того, он записывался с Айком и Тиной Тернер и LYNYRD SKYNYRD. Бэйли работал у Аллена Туссена, Феликса Паппаларди и Майлона Лефевра, а Дотри играл с Элом Купером и Майлоном Лефевром. В 1971 ARC начали гастролировать — сначала по штатам Юга, а потом и по всей стране, на следующий год подписали контракт с MCA и дебютировали с альбомом «Atlanta Rhythm Section». Джасто ушел, и его место у микрофонной стойки занял саунд-инженер Studio One Ронни Хэммонд (Ronnie Hammond, p. в Мэйконе, Джорджия). Его дебют состоялся на втором альбоме группы «Back Up Against The Wall». В 1973 Бэйли, Кобб, Дотри и Никс приняли участие в записи альбома дуэта FRANKIE AND JOHNNY, позже в том же году подписали новый контракт с Polydor — а в сентябре выпустили альбом «Third Annual Pipe Dream» (№ 74 в чартах Billboard). Патриотический гимн родному городу Doraville вышел на сингле, достиг 35-й строки и стал первым хитом группы. Следующие два альбома, «Dog Days» (1975) и «Red Tape» (1976) существенно расширили аудиторию группы, а ее репертуар начал включать романтические баллады и песни с социальными комментариями. Весной 1977 ATLANTA RHYTHM SECTION добились первого серьезного успеха с песней So In To You (№ 7) и альбомом «A Rock And Roll Alternative» (№ 11), который принес им первый «золотой диск» и вошел в число десяти наиболее часто заказываемых на радио пластинок. В сентябре группа с триумфом вернулась в Атланту, где ее приветствовали пятьдесят тысяч зрителей, собравшиеся на Dog Day Rock Fest. В 1977 MCA переиздала оба первых альбома ARC. В апреле 1978 группа повторила успех с песней Imaginary Lover (№ 7), а альбом Champaigne Jam тем же летом стал мега-селлером, добрался до 7-й позиции в чартах и получил «платиновый» сертификат. Вскоре после этого ушел Боб Никс, место которого занял новый барабанщик Рой Йигер (Roy Yeager, p. 4 февраля 1946, Гринвуд, Миссисипи). Позднее были записаны двойной концертный альбом «Are You Ready!» и новые студийные работы Underdog (второй и последний «золотой диск») и The Boys From Doraville, а также синглы I’m Not Gonna Let It Bother Me Tonight (№ 14), Do It Or Die (№ 19) и реанимированной Spooky из репертуара CLASSICS IV (№ 17). Летом 1981 ATLANTA RHYTHM SECTION заключили новый контракт с Columbia/CBS, однако после еще одного хита с песней Alien (№ 29) и альбома Quinella, группа следующие несколько лет разъезжала по штатам Юга и распалась не позднее 1985.