Окончил в 1837 году Пажеский корпус и был выпущен в лейб-гвардии Преображенский полк. Дослужился до чина генерал-лейтенанта, заняв пост генерал-губернатора Варшавы.
«Дуэль» и смерть
Губернатор стал жертвой так называемой американской дуэли. После конфликта с наместником Царства Польского российским генералом графом Карлом Карловичем Ламбертом, произошедшего из-за конфликта полномочий двух управителей польской столицы и резкого объяснения, чтобы избежать наказания за классическую дуэль, враги предпочли ее «американский» вариант, то есть самоубийство вытянувшего неблагоприятный жребий. Секундантом с неохотой выступил генерал Хрулёв. Узелок платка достался Герштенцвейгу, и утром 5 октября 1861 года он покончил с собой.
