Jean Leymarie, conjuntament amb Jean Cassou, va ser promotor de la inclusió de l’art del segle xx a les col·leccions dels museus francesos. Va ser conservador del Museu de Grenoble entre els anys 1950 i 1955 i va ocupar la direcció del Museu Nacional d’Art Modern de París entre els anys 1968 i 1973. Posteriorment, va dirigir l’Accademia di Francia a Roma entre els anys 1979 i 1985.

És autor de múltiples monografies dedicades a artistes com ara Corot, Van Gogh, Chagall, Braque i Balthus. Va tenir un interès especial pels artistes espanyols de l’Escola de París. L’any 1966 va comissariar l’exposició «Homenatge a Picasso» al Grand Palais i al Petit Palais de París. Va publicar Picasso dessins (Ginebra, Skira, 1967), amb motiu dels noranta anys de l’artista va publicar Picasso. Métamorphoses et unité (Ginebra, Skira, 1971) i La chute d’Icare (Ginebra, Skira, 1972), el darrer llibre il·lustrat publicat en vida de Picasso.
  Pel que fa als artistes catalans, Leymarie es va interessar per Joan Miró. Va comissariar, amb Jacques Dupin, l’exposició «Joan Miró» (Grand Palais, París, 1974). La seva amistat amb l’escultor Apel·les Fenosa el va fer formar part del comitè d’honor de l’Association des Amis d’Apel·les Fenosa i li va dedicar la monografia Fenosa (Ginebra, Albert Skira, 1993).