Родился 9 марта 1753 года в Страсбуре. В юности имел склонность к архитектуре и в 1761 году отправился в Париж, чтобы усовершенствоваться в этой науке под руководством знаменитого архитектора Шальгрена. Недостаточное состояние заставило его покинуть это поприще и возвратиться на родину.
Клебер оставался в полку Кауница до 1783 года, когда по желанию своих родных вышел в отставку, получил в Верхнем Эльзасе место инспектора над строениями и занимал эту должность до самой революции.
При образовании национальной гвардии Клебер вступил адъютантом в батальон, который он весьма скоро обучил военному делу.
Как только началась первая коалиционная война, Клебер отправился к Кюстину, стоявшему близ Майнца, и был назначен командиром 3-го Верхне-Рейнского батальона. Его сведения в архитектуре и военных науках сделали Клебера весьма полезным при укреплении Майнца и доставили ему чин полковника; во время осады Майнца прусскими войсками Клебер оказал во многих вылазках большую решимость и благоразумие, что побудило присутствующих там комиссаров Конвента произвести его в бригадные генералы. По сдаче Майнца 22 июля 1793 года Клебер был по неизвестной причине предан суду, но оправдался и был послан с бывшим Майнцскам гарнизоном в Вандею.
19 сентября он повёл авангард через Руссе в Торфу, но был, в то время, когда его войска грабили город, разбит вандейским генералом Шареттом. Отступление сделалось неизбежным. Для спасения армии должно было принести жертву; в теснинах, между Руссе и Гетинье, надеялись остановить преследователей, и тут-то Клебер сказал батальонному командиру Шевардену: «Возьми 300 гренадер, защищай эти теснины; тебя изрубят в куски, но ты спасёшь своих товарищей!». Шеварден с точностью выполнил это требование; армия была спасена: из 300 храбрецов ни один не остался в живых.
Когда генералов Канкло, Дюбайэ и Грушн отправили в отставку, то Клеберу было вверено на время командование всеми стоящими в Вандее войсками. Он разбил вандейцев при Шатальоне и передал армию 8 октября Лешелю. В сражении при Шолле 17 октября Клебер начальствовал правым крылом республиканских войск, 22 ноября участвовал в сражении при Антрене. Затем, 23 декабря, командуя дивизией овладел, городом Савенэ и несколько дней спустя торжественно вступил в Нант.
В начале 1794 года Клебер возвратился в Париж, командовал сначала дивизией в Северной армии и участвовал с ней в сражениях на Самбре. После того поступил под начало Журдана и сражался со славой и успехом при Флерюсе. По отступлении принца Кобургского Клебер двинулся против Монса и вскоре последовал за главнокомандующим к реке Маасу и предпринял осаду Маастрихта. Слава его еще более увеличилась скорым взятием этой крепости, и потому он должен был принять на себя осаду Майнца. Но вскоре ему было поручено начальство левым крылом армии Журдана, когда последний, в 1793 году, перешёл через Рейн близ Дюссельдорфа и Нойвида и двинулся к Майну.
Незадолго до Вюрцбургского сражения Клебер поехал в Париж, откуда, после некоторых объяснений с беспрерывно слабеющей Директорией, отправился к верхнему Рейну, чтобы узнать общее мнение своих соотечественников. Ему тогда же предложили место в Законодательном собрании, но государство было в таком бедственном положении, что никто не решался управлять им.