Сын булочника. Окончил Гентскую консерваторию (класс композиции Мартена Жозефа Мангаля), в том же 1847 г. стал лауреатом Римской премии, учреждённой в Бельгии по аналогии с французской, за кантату «Король Лир» (опередив занявшего второе место Жака Николя Лемменса). Работал органистом в местной иезуитской церкви. Поставил в Генте в 1848—1849 гг. две свои оперы, «Хуго из Сомергема» (фр. Hugues de Somerghem) и «Городская комедия» (фр. La com?die ? la ville).
В 1849 г. покинул Бельгию, жил и работал в Париже, затем в Испании, где сочинил «Фантазию на испанские темы» (исп. Fantasia sobre motivos espa?oles), и в Италии. С 1853 г. снова в Париже, работал преимущественно как оперный композитор — наибольший успех завоевали оперы «Квентин Дорвард» (1858, по Вальтеру Скотту) и «Капитан Анрио» (фр. Le Capitaine Henriot; 1864, по Викторьену Сарду). В 1867—1870 гг. был директором парижской Гранд-Опера.
В связи с Франко-прусской войной вернулся в Бельгию и с 1871 г. до смерти возглавлял Брюссельскую консерваторию. Среди учеников Геварта, в частности, Исаак Альбенис.
Геварту принадлежит несколько заметных музыковедческих трудов: двухтомная «История и теория музыки Античности» (фр. Histoire et th?orie de la musique de l'antiquit?; 1875—1881) и труды по оркестровке, «Общее руководство к инструментовке» (фр. Trait? general d’instrumentation; 1863, переработанное издание 1885, русский перевод Петра Чайковского, «Руководство к инструментовке», 1865) и «Методический курс оркестровки» (фр. Cours m?thodique d'orchestration, 1890, русский перевод Владимира Ребикова, 1900). Геварт также интересовался музыкой эпохи барокко — и, в частности, переоркестровал, применяясь к исполнительской традиции своего времени, ряд ранних произведений (в том числе оперу Жана Филиппа Рамо «Кастор и Поллукс»).
В 1895 г. был избран в Прусскую академию искусств. В 1907 г. был удостоен баронского титула. Сразу после его смерти в его честь была переименована улица в Брюсселе.
