С 1842 по 1845 год учился в парижской Политехнической школе. Защитив диссертацию, становится (1869) профессором Политехнической школы, где преподавал до 1876 года. В 1869—1897 годах — профессор Парижского факультета наук, преподавал также в Нормальной школе.
Основные работы относятся к теории чисел, теории квадратичных форм, теории инвариантов, ортогональных многочленов, эллиптических функций и алгебре. Исследовал класс ортогональных многочленов (многочлены Эрмита). Внёс вклад в теорию алгебраических форм и их инвариантов, в том числе в теорию представления целых чисел алгебраическими формами и другие приложения к теории чисел. В ходе этих работ открыл особые билинейные формы (формы Эрмита). Эрмит показал, что число e (основание натурального логарифма) является трансцендентным.
Наиболее известными его учениками были Анри Пуанкаре и Томас Иоаннес Стилтьес.
Имя Эрмита носят:
- Эрмитовы операторы
- Эрмитовы матрицы
- Эрмитовы кубические сплайны (Сплайн Эрмита)
- Интерполяционный полином Эрмита
- Полиномы Эрмита
- Функции Эрмита
