В середине 1980-х Саймон — подобно всем крупным авторам-исполнителям в мире североамериканской рок-музыки — обратился к музыкальным экспериментам. В отличие от Дилана, Нила Янга и Джони Митчелл, его новаторство было по достоинству оценено и широкой публикой, и музыкальным истеблишментом. Свой очередной диск, Graceland (август 1986), музыкант записал в Йоханнесбурге и Лондоне с группой чернокожих музыкантов. Эта пластинка способствовала возникновению в США интереса к этнической музыке (world music). Она стала самой кассовой за всю сольную карьеру Саймона и принесла ему третью Грэмми за лучший альбом. По количеству статуэток в этой престижнейшей номинации с ним могут сравниться только Стиви Уандер и Фрэнк Синатра.

Вслед за африканской музыкой Саймона пленили бразильские мотивы, которые преобладают на альбоме The Rhythm of the Saints (август 1990). В следующем году он отыграл очередной бесплатный концерт в Центральном парке; запись этого выступления вышла «живым» альбомом.

Во второй половине 1990-х Саймон занимался написанием бродвейского мюзикла The Capeman, который с треском провалился, принеся создателям убытки в 11 миллионов долларов. Пьеса рассказывала о судьбе подростка-убийцы, который серьёзно переменил свой образ мыслей в тюрьме. Мюзикл критиковали с этических позиций, считая, что такой персонаж не может быть темой популярного спектакля.

В 1999 году Саймон выступал с Бобом Диланом. В 2000 году был выпущен альбом You’re the One, а в 2006 году в сотрудничестве с Брайаном Ино вышел альбом Surprise. В 2007 г. Библиотека Конгресса присудила ему первую в истории Гершвиновскую премию за вклад в развитие американского песенного искусства ...