Ранние годы
Эрли родился в округе Франклин, штат Виргиния, будучи третьим сыном Рут Хэирстон и Джоба Эрли. В 1837 году он окончил американскую Военную академию 18-м из 50-ти кадетов. Во время обучения он поссорился с кадетом Люисом Эддисоном Армистедом (будущим генералом Конфедерации), который разбил тарелку о его голову, за что был исключён из Академии. После Академии Эрли участвовал в Семинольских войнах в звании младшего лейтенанта, в 3-м артиллерийском полку, пока в 1838 не ушел в отставку. Он занялся юридической практикой и в 1840-х годах служил прокурором в округах Франклин и Флойд, в Виргинии. Его юридическая деятельность была прервана Мексиканской войной 1846-1848 года.
Гражданская война
Эрли был убежденным вигом и категорическим противником сецессии, против которой активно выступал в апреле 1861 года. Но его точка зрения изменилась под влиянием агрессивной деятельности федерального правительства - когда Линкольн призвал 75 000 добровольцев для подавления "мятежа". Эрли попросил зачислить его в вирджинское ополчение в звании бригадного генерала. Он был послан в Линчбург, чтобы набрать три полка, и впоследствии командовал одним из них - 24-м вирджинским пехотным полком в качестве полковника армии Конфедерации
В первом сражении при Бул-Ране роты Эрли были задействованы буквально в первые же минуты: их послали усилить позиции генерала Лонгстрита во время атаки 12-го нью-йоркского полка. После сражения Эрли был повышен до бригадного генерала. Впоследствии он участвовал в большинстве сражений Восточного Театра, в Геттисбергскую кампанию его войска заняли город Йорк в Пеннсильвании - это был самый крупный город на Севере, занятый южанами в ту войну.
Генерал Ли доверял и поддерживал Эрли. Джубал был вспыльчив и упрям, однако Ли ценил его агрессивность на поле боя и способность самостоятельно командовать подразделениями. Солдаты Джубала ласково называли его "Старый Джуб", хотя подчиненные ему офицеры относились к нему более прохладно: он редко прислушивался к советам снизу и резко реагировал на критику.
В 1862 он был серьёзно ранен во время атаки в сражении под Вильямсбергом.
В армии Джексона
Он выздоравливал в Роки-Маунт, Виргиния, и через два месяца вернулся в строй, под командование Джексона "Каменная стена". Как раз началось сражение за Малверн-Хилл. Эрли всегда имел проблемы с ориентированием на поле боя и в этот раз его бригада потерялась в лесу, потеряв 33 человека без всякой пользы. В Северовирджинскую кампанию он отличился в сражении у Кедровой горы, после чего своевременно прибыл на поле боя во Втором сражении при Бул-Ране, успев поддержать левый фланг генерала Джексона.
В сражении на Энтитеме Эрли принял управление дивизией после ранения своего командира, Александра Лаутона. Генерал Ли оценил его действия и оставил Эрли на этой должности. При Фредериксберге Эрли спас правый фланг армии, контратаковав прорвавшуюся дивизию Джорджа Мида. 17 января 1863 он был повышен до генерал-майора. При Чанселорсвилле Ли поручил ему 5 000 человек и приказал удерживать высоты Мари. Противостоящий ему генерал Седжвик имел 2 корпуса, но Эрли смог задержать и отбить его наступление, пока Ли и Джексон развивали наступление на западе. Атаки Седжвика на высоты Мари иногда называют Вторым сражением при Фредериксберге.
Геттисберг
В Гетисбергскую кампанию Эрли командовал дивизией в корпусе Ричарда Юэлла. Он участвовал во взятии Винчестера, когда было захвачено много пленных и долина Шенандоа была открыта для армии Ли. При поддержке кавалерии его части прошли Пеннсильванию, взяли Геттисберг (26 июня), а через два дня осадили и взяли Йорк. Отдельные его части вышли к реке Сускеханна - это стало самой восточной точкой в Пеннсильвании, куда дошли солдаты Конфедерации. 30 июня Ли позвал его на соединение с основной армией.