В течение 12 лет предшествовавших восхождению на трон Марван управлял в качестве наместника Закавказьем (732—744). Войны против хазар и аланов убедили его в необходимости реформирования вооружённых сил халифата. Вместо системы, замешанной на традициях клановой преданности, Марван создал более компактное и мобильное войско. Воинам стали регулярно выплачивать жалованье, а командование было поручено кадровым военным.
В 743 году, получив известия об убийстве своего двоюродного брата халифа Хишама, Марван поспешил в Дамаск, где провозгласил себя халифом (744). Тем временем Омейядский халифат уже был в процессе распада. Против нового халифа восстала вся империя. Марвану удалось за полтора года подавить восстание в Сирии; Месопотамия, вышедшая из-под его контроля, была по частям отвоевана у хариджитов, но на востоке империи внезапно гигантские размеры приняло восстание шиитов. 2 сентября 749 шииты овладели Куфой; через несколько недель, 28 ноября, наконец Абу-ль-Аббас, правнук Абдаллы ибн Аббаса — двоюродного брата Мухаммада, был объявлен халифом.
25 января 750 года армия Марвана, старавшегося преградить шиитам путь в Месопотамию, потерпела сокрушительное поражение от Абу Муслима (выступавшего от имени Аббасидов и шиитов) в битве на реке Большой Заб, северном притоке Тигра. В сражении погибло до трёхсот членов клана Омейядов — практически всё царское семейство. Самого Марвана II поймали и умертвили в Египте. Его сыновьям удалось укрыться в Эфиопии. Наиболее удачливым из Омейядов оказался Абд ар-Рахман, основавший далеко на Западе, в Испании, Кордовский эмират (756).
