Происходил из немецкой семьи музыкантов, учился музыке у своего отца, а впрочем так и остался самоучкой. Большую часть жизни, с 1829 по 1870 г., состоял на государственной службе по юридической части. Одновременно с 1824 г. был органистом Копенгагенской гарнизонной церкви, а в 1832 г. дебютировал как композитор, представив оперу «Ворон» (дат. Ravnen, либретто Ганса Христиана Андерсена). В 1836 г. Хартман предпринял поездку в Германию и Францию для того, чтобы взять несколько уроков у видных музыкантов — наибольшее влияние на него оказало общение с Людвигом Шпором. В том же году, по возвращении в Копенгаген, Хартман основал Датское музыкальное общество, которое возглавлял всю жизнь. В 1843 г. он занял место органиста в копенгагенском Соборе богоматери. В 1867 г. вместе со своим зятем Нильсом Гаде Хартман основал Копенгагенскую консерваторию. Композитором был и его сын Эмиль Хартман.
Хартману принадлежат две симфонии, три оперы, три балета, театральная музыка (особенно к пьесам Адама Эленшлегера), три скрипичные и три клавирные сонаты, сочинения для органа, песни.
