Jacques Georges Paul Charpentier est né à Paris le 18 octobre 1933 dans une famille mélomane. Il débute ses études musicales (piano, solfège et histoire de la musique) avec Maria Boutiller-Cérati et les poursuit, de 1950 à 1953, avec la compositrice et pédagogue Jeanine Rueff, qui lui enseigne notamment l’écriture musicale.
À 20 ans, il part en Inde, à Bombay et Calcutta. Durant dix-huit mois, il découvre la spiritualité hindouiste et s’initie à la musique traditionnelle hindoue. À son retour en France, il entre au Conservatoire de Paris, étudie la composition avec Tony Aubin et la philosophie de la musique avec Olivier Messiaen. En 1956, il obtient son premier prix de philosophie de la musique avec une thèse portant sur la musique de l’Inde, puis en 1958, son premier prix de composition.
À partir de 1957, Jacques Charpentier entreprend un travail consacré aux 72 modes karnatiques hindous, échelles qui régissent la musique indienne. Terminées en 1984, les 72 études karnatiques pour piano constituent une fenêtre ouverte sur les modalités d'un langage musical alors inconnu en occident et dont la musique occidentale s'enrichit, ainsi qu'une étape importante dans l'histoire de la littérature pour piano. L’instrument y est souvent traité comme percussion, avec des effets d’écho et des sonorités rappelant certains instruments de l’Inde. L’écriture extrêmement variée exploite les changements de registre, les grappes d’accords, la diversité du mode d’attaque et celle des nuances. En 1959, Jacques Charpentier achève la composition de son Concerto pour ondes Martenot et orchestre. Ce concerto est un essai de synthèse entre les exigences formelles issues des musiques tonales, modales et dodécaphoniques mises au service d’une libre expression mélodique et lyrique. Le matériau musical utilise deux des 72 modes karnatiques de la musique hindoue. En 1960, son Concertino alla francese pour ondes Martenot, percussion et orchestre à cordes est entièrement écrit sur le mode Kâmavärdini, mode karnatique 51. Avec cette œuvre, en 1967, le compositeur remporte le Grand Prix du disque.
Jacques Charpentier est l’auteur d’ouvrages didactiques sur la musique de l’Inde, mais aussi sur le chant grégorien. Intéressé par le moyen-âge, il compose notamment un Livre d’orgue en hommage à Saint-Thomas d’Aquin (1973), commande des rencontres internationales de musique contemporaine de Metz, et fonde le centre d’études grégoriennes et de musiques traditionnelles comparées à l'abbaye de Sénanque, en Provence, en 1975. Organiste, Jacques Charpentier devient titulaire de l’orgue de l’église Saint-Benoît à Issy-les-Moulineaux en 1954, puis du grand orgue de Saint-Nicolas du Chardonnet à Paris de 1974 à 1977. Il fonde par ailleurs le concours international d’orgue de Chartres, dont il est vice-président (1972), et compose de nombreuses œuvres avec orgue ou piano (Repons pour orgue, 1968 ; Symphonie n°6 pour orgue et orchestre, 1979).
Jacques Charpentier compose aussi pour la voix. Les Quatre psaumes de Toukaram pour soprano et orchestre (1957) se caractérisent par la primauté de l’élément mélodique ainsi qu’une sensibilité harmonique et se réfèrent à l’Inde, Toukaram étant un poète mystique de l’Inde (1598-1650).
Avec son épouse, la mezzo-soprano Danielle Vouaux, cantatrice et professeure, il crée à Nancy en 1966 ses Trois poèmes de Henry Clairvaux. Il travaille également avec René Nelli à la composition du premier opéra en langue d’oc, Béatris de Planissolas, créé en 1971 au festival d’Aix-en-Provence par l’orchestre de Paris sous sa direction.
Professeur de composition et d'orchestration au Conservatoire national supérieur de musique de Paris, Jacques Charpentier prouve sa maîtrise de l’orchestration dans son Octuple concerto en mettant en valeur chaque pupitre des instruments à vent qui composent l’orchestre symphonique traditionnel. Le premier mouvement, de caractère contrapuntique, fait se superposer en guirlandes sonores, les différentes voix des solistes mêlées à celles de l’orchestre, tandis que le mouvement central se concentre sur un caractère exclusivement rythmique, et que le dernier, de caractère harmonique, permet le retour du discours musical au silence initial. Il compose par ailleurs de nombreuses œuvres pour orchestre : symphonies, concertos.
Jacques Charpentier a également mené une carrière institutionnelle. En 1966, au moment de la création de la Direction de la musique au ministère des Affaires culturelles, il est nommé inspecteur principal de la musique et, en 1975, inspecteur général de la musique. De 1979 à 1981, il succède à Jean Maheu au poste de directeur de la musique, de l'art lyrique et de la danse au ministère de la Culture et de la Communication.
Durant toute cette période, il participe à toutes les décisions importantes qui ont permis l’accroissement et le développement de la vie musicale française : aide à la création et à la diffusion, mise en place d’un enseignement spécialisé en liaison avec les villes, les universités, les administrations publiques, mise en place d’une collaboration avec le ministère de l’Éducation nationale, dont le baccalauréat musical sera l’un des fruits. Cette même époque voit aussi les créations de l’Orchestre de Paris, des orchestres régionaux et de nouvelles institutions départementales, la réforme de l’art lyrique et de la danse, la réorganisation de l’enseignement musical spécialisé et la création d’un second Conservatoire national supérieur, à Lyon.
En 2015, Jacques Charpentier est élevé au grade de Commandeur de la Légion d’Honneur.