Учился в итальянских университетах, с 1510 года — профессор в Виттенберге, был там каноником и архидиаконом. Сначала противник Лютера, Карлштадт перешёл на его сторону и опубликовал 152 тезиса против схоластиков. Участник эпохального Лейпцигского диспута (1519 года) (Карлштадт и Лютер против Иоганна Экка), во время которого Лютер провозгласил приоритет Библии над решениями Соборов и папскими буллами.
В отсутствие Лютера, когда тот находился в Вартбурге, Карлштадт потребовал более радикальных реформ — выступил за богослужение на немецком языке, за причащение под обоими видами и уничтожение икон и ликвидацию целибата. Справедливости ради необходимо заметить, что в конечном итоге все эти реформы в германской Реформации были воплощены. Первым начал вести богослужения в светской одежде. Требовал запрета использования музыки в церкви (он говорил: «Органы, трубы, флейты — это для театра») — однако эта инициатива не была реализована в Лютеранской церкви. При бездействии властей начал самостоятельно уничтожать изображения в церквях. Под влиянием пророков из Цвиккау, утверждавших, что «Бог прямо говорит сердцу человека», Карлштадт объявил школы и образование препятствием к истинному благочестию. В результате в городе заметно уменьшилось количество школьников и студентов. В 1523 году он оставил профессуру.
После своего возвращения Лютер оспорил наиболее радикальные решения Карлштадта, добился изгнания цвиккауских пророков и лишения Карлштадта постов. В результате Карлштадт перебрался в Орламюнде, где стал пресвитером и обличал Лютера за нерешительность. Так же он вёл активную антикатолическую пропаганду, отказался от любых титулов, требовал, чтобы его называли «брат Андреас», а на жизнь зарабатывал физическим трудом, начал проповедовать полигамию как библейскую норму. В свою очередь Лютер яростно полемизировал с Карлштадтом практически до конца Крестьянской войны.
После войны, вынужденный скрываться, Карлштадт обратился за помощью к Лютеру, который решил помочь старому соратнику. Однако Карлштадту запретили проповедовать и печатать свои труды.
Но в 1527 году, во время спора о евхаристии между Лютером и швейцарцами, Карлштадт снова выступил против Лютера и в 1529 году бежал из Саксонии. В 1532 году, после долгих скитаний, Карлштадт оказался в Швейцарии, где стал приходским священником в Цюрихе и профессором в Базеле. Умер в Базеле в 1541 году от чумы.
