La Conservation d’Angkor trouve sa genèse dès les années 1860 avec les premières missions entreprises par Henri Mouhot, Ernest Doudart de Lagrée, Louis Delaporte, Etienne Aymonier et Charles Carpeaux. En 1900, l’EFEO mandate le commandant Etienne Lunet de Lajonquière, Louis Finot et Henri Parmentier pour effectuer l’inventaire des monuments historiques au Cambodge. Cette mission se poursuit en 1907 après la rétrocession par le Siam de la province de Siem Reap au Cambodge, sous protectorat français depuis 1863. Lunet de Lajonquière passe alors plusieurs mois à Angkor et étudie l’organisation d’un service des antiquités cambodgiennes. Il affirme ensuite la nécessité de créer un service spécial de conservation.
En décembre 1907, Jean Commaille est chargé des premiers travaux de débroussaillement du site. Au début de l’année 1908, Henri Parmentier, alors Chef du Service archéologique, établit avec lui le programme des travaux. Le poste de Conservateur d’Angkor est créé en mars 1908 bien que Jean Commaille ne soit officiellement nommé que par un arrêté du 14 juillet 1908. Il devient le premier Conservateur d’Angkor.
Cependant, il convient de préciser que la Conservation d’Angkor ne semble pas être une structure institutionnelle définie. Aucun document officiel ne fait état de sa création, seulement celle du poste de Conservateur. La Conservation d’Angkor n’a donc pas à proprement parler été créée, et elle n’existe pas en dehors de la personne du Conservateur. L’histoire de la Conservation d’Angkor est ainsi indissociable de celle de ses Conservateurs et du contexte historique et politique dans lequel ils ont exercé leur activité.
Dans les premiers temps, Jean Commaille s'attache essentiellement au déblaiement des temples, une tâche rendue difficile de par la végétation qui menace l’intégrité des temples. Peu à peu, se dégage une vision globale du site permettant de comprendre les enjeux liés à l’espace et à la disposition des temples. Les besoins archéologiques et scientifiques sont plus facilement identifiés et permettent autant le développement touristique que l’organisation du territoire avec la cartographie, la création de routes et la délimitation de terrains d’intervention.
Le site d’Angkor devient rapidement le symbole de l’action culturelle de la France en Indochine et une étape privilégiée des visites officielles dirigées par le Conservateur.
Le 9 novembre 1953, le Cambodge accède à indépendance. Dès lors, l’EFEO est mandatée par le gouvernement cambodgien pour l’exploration et l’étude du site d’Angkor. A pertir de cette date, les documents portent souvent le double en-tête de la Conservation d'Angkor et du ministère Khmère de la culture.
En 1960, Bernard Philippe Groslier est nommé Conservateur. La Conservation d’Angkor se modernise et se développe. Groslier fait construire des réserves, un laboratoire d’analyse et des ateliers de restauration. Un atelier de dessin dirigé par Jacques Dumarçay et Guy Nafilyan est également créé. Il réalise les relevés et les projets préparatoires aux grands chantiers de restauration, ainsi que les plans destinés à une série de monographies consacrées aux principaux monuments d’Angkor. Les plans de tous les rapports sont repris, réencrés et reproduits.
A la fin des années 1960 et au début de la guerre civile au Cambodge, Angkor garde son prestige symbolique. L’EFEO négocie pour faire du site une zone franche et pour que les chantiers de restauration continuent de fonctionner. Les chantiers sur lesquels travaillent les ouvriers de la Conservation, rattachés au gouvernement de Phnom Penh et à l’EFEO, sont situés dans la zone adverse. Une trêve bi-hebdomadaire est alors organisée afin de permettre au Conservateur de visiter les chantiers. En 1973, suite à l'intensification du conflit, la Conservation d’Angkor est contrainte de cesser ses activités.