Учился в 1823—1824 гг. у Людвига Шпора и Морица Гауптмана. С 1826 г. играл на скрипке в одном из берлинских театров, с 1835 г. жил и работал в Дерпте, руководя домашним квартетом барона фон Липгарта, на дочери которого позднее женился. Предпринял ряд гастрольных поездок в Ригу, Санкт-Петербург и Москву. В 1835 г. был приглашён Феликсом Мендельсоном занять место концертмейстера оркестра Гевандхауза. Давид исполнил премьеру знаменитого Концерта для скрипки с оркестром Мендельсона и, как считается, консультировал композитора в процессе работы.
В 1843 г., также по приглашению Мендельсона, Давид стал профессором новосозданной Лейпцигской консерватории. Его педагогическая деятельность оказалась весьма успешной: среди учеников Давида — Август Вильгельми, Йозеф фон Василевский, Йозеф Иоахим, Юхан Свенсен, Фридрих Хегар, Энгельберт Рёнтген и многие другие.
Композиторское наследие Давида включает комическую оперу «Ганс Вахт» (нем. Hans Wacht; 1852), две симфонии, пять скрипичных концертов, струнный секстет, значительное количество небольших пьес для скрипки, песни. Пользуется известностью Концертино для тромбона с оркестром Давида — одно из первых произведений, написанных специально для этого инструмента.
