В 1776 году был определен в Коммерческое училище при Московском воспитательном доме. В 1790 году окончил его, состоял при главнокомандующем в Москве князе А. А. Прозоровском, участвовал в походе в западные области России, присоединённые к Российской империи по третьему разделу Польши. В 1797 году зачислен капитаном в Московский гренадерский полк и назначен инспекторским адъютантом к смоленскому военному губернатору и инспектору M. M. Философову, но в том же году вышел в отставку. В Смоленске был связан с антиправительственным кружком полковников П. С. Дехтерева и А. М. Каховского, ставившим целью дискредитацию правительства, убийство Павла I, возведение на престол великого князя Александра Павловича.
В апреле 1802 года основал под покровительством Московского воспитательного дома частную типографию в Москве в товариществе с книготорговцем И. И. Готье и Иваном Меем. Главным коммерческим предприятием стал «Указатель Российских законов…» Л. М. Максимовича. Кряжев помогал составлять части 1?4 и написал общее предисловие к изданию об истории российских законов. Из=за финансовых затруднений типография была в 1809 была продана за долги.
В 1806 году поступил на службу в Московское коммерческое училище преподавателем русского, французского и немецкого языков. Был назначен директором и занимал эту должность до 1814 года, когда вышел в отставку вследствие разногласий с Опекунским советом училища.
В 1811 году открыл в Москве частный пансион для мальчиков. В этом пансионе в 1822 — 1824 годах обучался будущий выдающийся российский медик Н. И. Пирогов.
Переводил А. Коцебу (пьеса «Перуанка, или Дева солнца», 1794), А. Беркена и других; составил несколько грамматических и исторических учебников. В 1802—1804 Кряжев издавал, вместе с И. Меем, «Журнал приятного, любопытного и забавного чтения», принимая участие и в редактировании этого журнала. Популярностью пользовались многочисленные методики по иностранным языкам, подготовленные Кряжевым.
Умер в богадельне при Московском воспитательном доме.
