Josep Maria Xarrié Rovira entrà en el món de la conservació i la restauració d’obres d’art el 1960 al costat del seu pare Domènec Xarrié i Mirambell, restaurador del Museu d’Art de Catalunya (actualment anomenat MNAC) des del 1929 i dels museus municipals de Barcelona des del 1932. Es llicencià en belles arts per la Universitat de Barcelona el 1967 i dos anys després esdevingué professor encarregat de la càtedra de restauració de la Facultat de Belles Arts de la Universitat de Barcelona fins al 1986.
  És consultor de l’Organització de les Nacions Unides per a l’Educació, la Ciència i la Cultura (UNESCO) en temes de conservació i restauració de béns culturals des del 1978, i ha realitzat missions de formació i restauració a la República Dominicana, Costa Rica, Mèxic, Guatemala i Brasil. Ha estat fundador i director del Centre de Restauració de Béns Mobles de Catalunya (Sant Cugat del Vallès) des del 1981 fins al 2009, data de la seva jubilació.

El 1995 fou nomenat Acadèmic d’Honor de la Reial Acadèmia Catalana de Belles Arts de Sant Jordi. Ha dirigit més de divuit mil restauracions i personalment, entre d’altres, obres de Bernat Martorell, Dalí, Miró, el Crist amb la Creu, el Greco d’Olot, Ciència i caritat i Primera comunió de Pablo Picasso, la imatge de la Mare de Déu de Montserrat i gran part del retaule del Conestable de Jaume Huguet.
  Ha publicat diversos articles en congressos i revistes especialitzades, així com el llibre Restauració d’obres d’art a Catalunya (2003), sobre la història d’aquesta disciplina a Catalunya en el segle xx, i les seves memòries.