Сын известного в свое время детского врача Ф. Ф. Деппа, происходил из дворян Санкт-Петербургской губернии, родился 23 июня 1835 года, вероисповедания лютеранского.
Вступив в 1850 году кондуктором в Николаевское инженерное училище, 17 июня 1854 года он был из портупей-юнкеров произведён в полевые инженер-прапорщики и оставлен при училище для продолжения курса в офицерских классах, переименованных затем в инженерную академию.
По окончании академии, с производством за отличные успехи в поручики, Депп в 1856 году был зачислен в Петербургскую инженерную команду и командирован на съёмку Керчь-Еникальского пролива. В следующем году поручик Депп удостоился получить именное Высочайшее благоволение и, переведённый затем в Херсонскую инженерную команду, в мае 1859 года командирован в Западную Европу и САСШ для ознакомления с механизмами и приспособлениями к производству значительных строительных работ. Возвратясь из этой командировки, в которой пробыл около года, Депп за отличие был произведён в штабс-капитаны и капитаны.
В 1864 году он был переведён в лейб-гвардии Сапёрный батальон, в котором командовал ротой Его Величества, через два года произведён в полковники, в 1867 году назначен командиром 5-го саперного батальона, в 1868 году награждён орденом св. Анны 2-й степени и через два года получил императорскую корону к этому ордену. В 1872 году назначен помощником начальника инженеров Киевского военного округа. В следующем году он был командирован в город Дубно (Волынской губернии) для производства дополнительной съёмки и подготовительных работ по возведению вновь проектировавшейся тогда близ этого города крепости. Успешно выполнив это ответственное поручение, Депп был назначен состоять для особых поручений при главном инженерном управлении и награждён подарком по чину.
В феврале 1875 года он был назначен помощником начальника инженеров Варшавского военного округа и 23 июня того же года начальником инженеров этого округа с производством в генерал-майоры.
Вся служба Александра Филипповича прошла на глазах генерала Тотлебена, который сумел по достоинству оценить способности Деппа ещё в его молодости, близко узнать его, как военного инженера и как строевого сапера, и потому, когда надо было перед русско-турецкой войной 1877—1878 годов сделать назначение на весьма ответственный пост начальника инженеров действующей армии, Тотлебен указал на Деппа и 1 ноября 1876 года последний был назначен на эту должность.
Молодой возрастом (41 год) и чином (всего лишь около года генералом), без боевого прошлого и без связей, Депп явился чужим человеком в Главную квартиру; завоевать себе авторитет и значение, в силу всего этого, ему было нелегко: необходимо было сразу заявить себя искусной и решительной деятельностью. Пришлось прежде всего организовать материальную часть и пополнить некомплект инженерных офицеров, достигавший в начале кампании 50 %. Затем Деппу предстояло разработать план переправы через Дунай, от удачи которой так много зависели дальнейшие успехи русских войск.
План начальника инженеров состоял в том, чтобы отвоевать Дунай участками и, укрепившись на флангах (осадные батареи и минные заграждения), уничтожить в этих участках вражеские суда и затем произвести десант. План этот был лично доложен главнокомандующему великому князю Николаю Николаевичу Старшему, который его одобрил и утвердил (впоследствии решено было устроить минные заграждения и в центре).
Депп был против переправы войск на понтонах, которые берёг как материал для моста, и решил воспользоваться местными перевозочными средствами, которые, однако, оказались в достаточном количестве лишь на нижнем Дунае. Поэтому он предложил построить деревянные понтоны в верховьях реки Ольты и оттуда спустить их в средний Дунай к намеченному им пункту переправы — Систову. Действительно, понтоны оказались крайне необходимыми для наводки моста; являлось лишь затруднение спустить их по Дунаю мимо Никополя, в это время ещё принадлежавшей туркам. Сознавая всю важность этой лично-серьёзной операции, которую предстояло исполнить по его мысли, Депп не только руководил приведением в исполнение своего плана, но решил сам подать первый пример в рискованном предприятии и в ночь на 15 июня благополучно провёл партию в 132 понтона, находясь на головном из них. В последующие ночи, под его же личным руководством, производился дальнейший сплав понтонов, плотов и принадлежностей для дунайского моста мимо турецких батарей Никополя. За этот подвиг, впрочем, лишь почти три года спустя, 27 марта 1880 года, генерал Депп, по удостоению кавалерской думы, был награждён орденом св. Георгия 4-й степени
