Сын флота капитана Матвея Васильевича Ржевского, помещика Болховского уезда, от брака его с Федосьей Наумовной урождённой Сенявиной (сестрой будущего адмирала А. Н. Сенявина); родился 1 января 1734 г.
С 1747 г. воспитывался, вместе со старшим братом Степаном, в Шляхетном кадетском корпусе и, по окончании курса, был произведён, 29 сентября 1756 г., в подпоручики и оставлен при корпусе, 25 ноября 1758 г. произведён в поручики, 12 февраля 1760 г. — в капитан-поручики, а 16 ноября того же года — в капитаны.
Все время службы при Шляхетном кадетском корпусе, Ржевский 14 марта 1763 г. был произведён в полковники с назначением в армию.
10 июля 1775 г. Ржевский был произведён уже в генерал-поручики и назначен обер-комендантом в Москву, каковым был до 1778 года. Умер 24 ноября 1793 г.
Женат был дважды: 1) на княжне Прасковье Григорьевне урождённой Мещерской и 2) на княжне Елене Николаевне урождённой Долгоруковой. Сын Григорий (от первого брака) был Рязанским вице-губернатором.
