О раннем периоде жизни Акакия данные не сохранились. В 458 году он, возглавлявший сиротский приют в Константинополе, числился среди кандидатов на патриарший престол, но по итогам выборов уступил Геннадию, и только после его смерти был избран патриархом в 472 году. После вступления на столичную кафедру Акакий отказался подписать «Энкиклион» императора Василиска, недовольный император запретил синклиту вступать в общение с патриархом. Когда войска, свергнутого Василиском императора Зенона вошли в Константинополь, то Акакий выдал искавшего защиты в храме Василиска Зенону.
Вернувшийся к власти Зенон подтвердил привилегии Константинопольского патриарха, закреплённые в 15-ом правиле Халкидонского собора, и позволил Акакию вмешиваться в дела других восточных патриархов. Акакий, боровшийся с монофизитами, не допустил избрания на Александрийскую кафедру Петра Монга и добился того, что антиохийская кафедра была отдана Стефану. В 482 году у Акакия возник конфликт с новым Александрийским патриархом Иоанном I, который был вынужден бежать в Рим, ища защиту у римского папы Феликса III. При поддержке Акакия Александрийскую церковь возглавил монофизит Пётр Монг, подписавший «Энотикон» императора Зенона — объединительное послание к Александрийской церкви, написанное при участии Акакия. В Риме это примирение было воспринято как измена халкидонскому вероучению. Папа Феликс 22 июля 484 года собрал в Риме собор из 77 епископов и низложил патриарха Акакия:
Это действие папы сформировало разрыв между Западной и Восточной церквями (так называемую акакианскую схизму).
Таким образом, проводимая Акакием при поддержке императора Зенона политика устранения противоречий между сторонниками Халкидонского собора и монофизитами не имела успеха: схизма с Западом продолжалась до 518 года, а в Константинополе появилась оппозиция со стороны ревнителей чистоты православного вероучения, прежде всего монахов-акимитов.
