В 1923 году окончил факультет общественных наук Петроградского университета, затем с 1925 года там же преподавал, в 1949—1973 заведовал кафедрой истории искусств исторического факультета университета, с 1957 года руководил группой славяно-русской археологии АН СССР. С 1929 года также работал в Государственной академии истории материальной культуры, впоследствии Ленинградское отделение института археологии АН СССР, с 1964 года был заведующим. В 1938—1950 также преподавал в Ленинградской академии художеств.
Основной круг научных интересов — памятники древнерусского зодчества крупных средневековых центров: Киева, Новгорода, Ладоги, Переяславля-Русского, Галича, Владимира-Волынского, Новогрудка, Турова, Полоцка, Витебска (Благовещенская церковь), Изяславля и других.
Участник Великой Отечественной войны. Лауреат Сталинской премии (1952), за участие в двухтомном труде «История культуры Древней Руси». Награждён орденом Ленина.
В 2003 году с 26 по 28 ноября в Санкт-Петербурге состоялась «Конференция, посвященная 100-летию М. К. Каргера», конференция проходила в Государственном Эрмитаже, Санкт-Петербургском государственном университете и Институте истории материальной культуры РАН
Научные труды
Автор около 120 печатных работ.
Основные научные труды
- Древний Киев, т. 1—2, М. — Л., 1958—1961
- Новгород Великий, М. — Л., 1961
- Зодчество древнего Смоленска (XII—XIII вв.), Л., 1964
