В 1930-е и 1940-е гг. сотрудничал с Орсоном Уэллсом (пресловутый радиоспектакль по «Войне миров», «Гражданин Кейн»). Создал музыкальное сопровождение для всех фильмов Альфреда Хичкока, снятых с 1955 по 1964 гг. Его шедевром считается саундтрек к хичкоковскому «Психо». После размолвки с Хичкоком работал с Франсуа Трюффо («451 градус по Фаренгейту», «Невеста была в чёрном») и Брайаном де Пальмой. Последняя работа — музыка для «Таксиста» (реж. Мартин Скорсезе, 1976).
Произведения Херрманна не только оказали влияние на Анджело Бадаламенти и «The Beatles» («Eleanor Rigby»), но и продолжают использоваться в современных фильмах (напр., «Убить Билла» Квентина Тарантино).
