Сын сапожника. Родился в Атлантическом океане на корабле, на котором его родители-французы уезжали в США в эмиграцию. Вырос в штате Огайо, в 1866 г. перебрался в Нью-Йорк и устроился на работу на камвольный комбинат. Когда фирма разорилась, начал в 1874 г. собственное дело по торговле мануфактурой (шерстью, шёлком, хлопком) и довольно быстро преуспел. Разумно вкладывая средства в железные дороги, банковское и страховое дело, приобрёл солидное состояние.
Основной сферой благотворительной деятельности Джульярда стала музыка. С 1892 г. и до своей кончины он занимал пост Президента Метрополитен Опера. Согласно завещанию Джульярда, сумма в 5 миллионов долларов должна была быть употреблена на развитие музыки в США. Попечители учреждённого для распоряжения этими средствами фонда открыли в 1924 г. Джульярдскую высшую школу (англ. Juilliard Graduate School), позднее преобразованную в Джульярдскую школу музыки.
