Родился 15 июня 1857 г., барон, из дворян Лифляндской губернии. В 1875 году окончил 2-ю Санкт-Петербургскую военную гимназию, в 1877 году — 1-е военное Павловское училище, из которого выпущен подпоручиком и 10 июля зачислен в 34-й пехотный Севский Его Императорского Величества наследника принца Австрийского полк, в составе которого оказался на фронте русско-турецкой войны 1877—1878 гг. 18 июля участвует во взятии Иени-Загра, 19 июля сражается в передовых частях с отрядом Реуфа-Паши у села Джуранли, получает ранение в плечо и тяжёлую контузию от осколка гранаты. За эти бои награждён орденом св. Станислава 3-й степени с мечами и бантом. 9 апреля 1878 г. поступает в запасной батальон Лейб-гвардии Измайловского полка. По расформировании запасного батальона в сентябре 1878 года, Таубе переводят в Измайловский полк, затем на шесть месяцев командируют в канцелярию Военного министерства, а оттуда в распоряжение начальника охраны Зимнего дворца.
Осенью 1881 г. поступает в Академию Генерального штаба, по окончании которой весной 1884 г. получает назначение в штаб 39-й пехотной дивизии Кавказского военного округа, а чуть позже — в штаб 1-го Кавказского армейского корпуса.
В апреле 1885 года по состоянию здоровья вынужден подать в отставку, однако всего через месяц восстанавливается на службе, в декабре уже командует ротой 13-го Лейб-гренадерского Эриванского полка, а 30 августа 1887 года, после производства в подполковники, утверждается делопроизводителем канцелярии Военно-учёного комитета Генерального штаба.
12 сентября 1890 г. назначается военным агентом в Бухарест и Белград, затем сопровождает египетских принцев Аббас-бея и Махмед-Али-бея, путешествующих по России, потом состоит при сербском короле Александре Обреновиче во время его пребывания в России, представительствует на открытии французского памятника в румынском городе Констанце и сопровождает румынского короля Кароля I, посетившего Россию в июле 1898 г. В июле 1899 года полковник Таубе поступает в распоряжение начальника Генерального штаба. Вскоре Таубе командует 148-м пехотным Каспийским полком, затем 2-й бригадой 37-й пехотной дивизии.
10 июня 1903 года Фёдор Фёдорович был произведён в генерал-майоры и назначен начальником штаба Оренбургского казачьего войска, 9 апреля 1906 г. назначается на должность Оренбургского губернатора и наказного атамана Оренбургского казачьего войска.
В ноябре 1906 г. барон фон Таубе назначен командиром Отдельного корпуса жандармов, в феврале 1909 г. сменил А. В. Самсонова на посту наказного атамана Донского казачьего войска.
Умер 23 февраля 1911 г. в Новочеркасске от заражения крови.
Был женат на княжне Александре Александровне Руссиевой, детей не имел.
