Ранние годы
Ховард родился в Лидсе, штат Мэн, в семье Роланда Бэйли Ховарда и Элизы Отис Ховард. Его отец Роланд был фермером и умер, когда сыну было всего 9 лет. Оливер учился в Монмутской Академии (штат Мэн), Норт-Ярмут академии в Ярмуте, школе Кент-Хилл в Ридфилде и окончил Боудоин-колледж в 1850. Затем он поступил(при содействии дяди-конгрессмена) в Вест-Пойнт, который окончил в 1854, четвертым из класса в 46 кадетов и получил временное повышение до лейтенанта артиллерии. Он служил в арсенале Уотервлит под Нью-Йорком, и был временно командующим арсеналом Кеннебек в Августе (Мэн). В 1855 женился на Элизабет Энн Уайт, от которой имел впоследствии семерых детей. В 1857 был переведен во Флориду в связи с Семинольскими войнами. Именно во Флориде он перешел в евангелическое христианство и уволился из армии, чтобы стать министром. Впоследствии из-за своей религиозности был прозван "христианским генералом(the Christian general)". В сентябре 1857 вернулся в Вест-Пойнт и стал инструктором по математике, а уже на следующий год был повышен до лейтенанта. Вскоре началась Гражданская война и Ховард отложил свои планы на министерство, решив оставаться на военный службе.
Гражданская война
Когда началась война, Ховард был назначен полковником в 3-й мэнский полк и временно командовал бригадой во время Первого сражения при Бул-Ране. Он участвовал в наступлении на холм Генри, прибыв туда последним из своей дивизии (его бригада считалась резервом) и добился некоторых успехов, но в итоге его полки были отброшены бригадой Джубала Эрли.
3 сентября 1861 он был повышен до бригадного генерала и получил бригаду в постоянное командование. В этой должности он принял участие в Кампании на Полуострове.
1 июня 1862 года Ховард участвовал в сражении при Севен-Пайнс и был дважды ранен в правую руку, что привело к ампутации. В 1893 году за героизм в том бою Ховард получил Медаль Почёта. Генерал Филип Керни, потерявший левую руку, любил шутить, что теперь они с Ховардом могут покупать одну пару перчаток на двоих.
Ховард быстро оправился от ранения и успел принять участие в сражении на Энтитеме. Его бригада воевала в составе дивизии генерала Седжвика, сражалась на знаменитом кукурузном поле и побежала первой под ударом бригад Маклоуза, что привело к отступлению всей дивизии Седжвика. Седжвик был трижды ранен в том бою и Ховард временно принял командование дивизией.
После сражения Ховард был повышен до командира дивизии и в этом звании принял участие в сражении при Фредериксберге. Его дивизия входила в состав 2-го корпуса (генерала Коуча) гранд-дивизии Самнера. Здесь Ховарду не повезло ему пришлось участвовать в печально известных атаках на высоты Мари. Его дивизия стояла в третьей линии и пошла в наступление последней, она не проявила героизма и сразу же отступила назад, отчего и пострадала существенно меньше первых двух дивизий, которые потеряли более трети своего состава.
В ноябре 1862 года его повысили до генерал-майора, а в апреле 1863 был назначен командиром 11-го корпуса вместо Франца Зигеля. Это назначение было неудачным шагом: корпус состоял в основном из немцев-иммигрантов, которые плохо знали английский язык, признавали за командира только Зигеля и крайне неохотно подчинялись Ховарду. Полковник Уэйнрайт писал: "Он был христианин и способный человек, но были сомнения, что ему хватит жесткости командовать немцами, которые привыкли, чтобы ими правили железной рукой."
В сражении при Чанселорсвилле Ховард испытал первое из своих знаменитых поражений. 2 мая 1863 года его корпус находился на крайнем правом фланге федеральной линии. Главнокомандующий генерал Хукер предупреждал Ховарда, что его фланг "висит в воздухе" и требует усиления, и что есть вероятность нападения противника с этой стороны. Ховард не воспринял всерьез эти предупреждения, перебросил на фланг пару орудий, но не более того. В результате фланговая атакаДжексона оказалась для его корпуса полной неожиданность: дивизия Девенса побежала почти сразу, дивизия Шурца оказала некоторое сопротивление, но тоже была сметена атакующими и весь корпус превратился в неуправляемую толпу.