Fils de Jean-Nicolas, ouvrier maçon qui décédera en 1756, Jean-Baptiste sera élevé par son beau-père qui l'inscrira aux cours du Gymnase de Strasbourg. Passionné de dessin, de mathématiques et architecture, Kléber travaillera deux ans dans le cabinet de l'architecte Chalgrin à Paris, puis exercera à Besançon, et à Strasbourg (1775).
