Начало военной карьеры (1791-1801)
Родился в семье судебного чиновника. Военная карьера Алексиса Жозефа Дельзона началась в 1791 году, когда он, будучи в 16-летнем возрасте, записался добровольцем в батальон департамента Канталь. Очень скоро его отвага принесла ему чин лейтенанта гренадеров.
1792—1793 годы провёл, сражаясь под знамёнами армии Восточных Пиренеев.
В 1794 году Алексис Жозеф, уже будучи капитаном, отличился в битве при Жонкьере (7 июня 1794) и там же получил своё первое ранение. С ноября 1794 участвовал в осаде каталонского городка Розес, который хотя и капитулировал перед французами (3 февраля 1795), но, в конечном итоге, был возвращён испанцам по условиям Базельского мирного договора (22 июля 1795).
Накануне Первой Итальянской кампании (1796) батальон Дельзона был объединён с 8-м полком пеших егерей и переведён в Италию. 12 апреля бесстрашный капитан во главе своей роты захватил вражеский редут в сражении у Монтенотте, 14 апреля овладел австрийской батареей в бою у Дего, 10 мая под огнём неприятельской артиллерии форсировал Адду по мосту в Лоди. Во время осады Мантуи был схвачен солдатами противника, но уже через 8 дней, в результате состоявшегося обмена пленными, вернулся в расположение своей части. В битве при Риволи (14 января 1797) его рота в одиночку выдержала мощную атаку австрийского полка, за что Алексис Жозеф был в тот же день произведён в чин командира батальона.
В ходе Египетской экспедиции Наполеона Бонапарта, Дельзон участвовал во взятии Александрии (2 июля 1798) и в битве у Пирамид (21 июля 1798). Там же, в Египте, Алексис Жозеф в возрасте 23 лет удостоился звания полковника, а по возвращении на родину указом Наполеона был повышен до бригадного генерала.
Участие в Австрийской кампании 1809 г.
Несмотря на довольно активное участие в кампаниях 1804, 1805 и 1806 годов, по-настоящему отличиться Дельзон сумел лишь во время войны с Австрией в 1809. Его бригада была включена в состав корпуса маршала Мармона, сражавшегося в Далмации и прикрывавшего правый фланг Великой армии. Солдаты Алексиса Жозефа внесли решающий вклад в победу над арьергардом армии эрцгерцога Карла при Цнайме (10 июля), ставшую возможной благодаря предложенной Дельзоном (в ходе одного из военных советов) идее тактического маневра, нацеленного на уничтожение отступавших австрийских войск. После подписания Шёнбруннского мира (14 октября 1809) Дельзон занимал административные должности в Иллирийских провинциях (в Карловаце).
После получения звания дивизионного генерала (15 февраля 1811 г.) был назначен временным командующим Иллирийской армии.
Поход в Россию. Гибель в сражении под Малоярославцем
В 1812 13-я пехотная дивизия Дельзона поступила в распоряжение вице-короля Италии Е. Богарне, которому могущественный отчим поручил сформировать корпус для похода на Россию. После перехода через Неман, солдаты Дельзона неоднократно демонстрировали свою храбрость, заслужив уважение и восхищение самого императора. Так было в бою под Островно, где 13-я дивизия поддерживала атаки конницы Мюрата против каре графа Остермана-Толстого.