L'histoire de Chèvreloup s'inscrit dans celle du parc et du château de Versailles. A la fin du XVIIe siècle, sous ordre de Louis XIV, le hameau et ses terres sont inclus dans le parc pour étendre les parcours de chasse et dévier les eaux qui y coulent au profit des bassins du palais.
Le Muséum national d'Histoire naturelle prend possession de ce domaine au début du XXe siècle pour y développer des collections végétales complémentaires de celles du Jardin des Plantes de Paris. Puis, à partir des années 1960, de nouveaux secteurs du parc sont aménagés en arboretum scientifique.
La zone géographique regroupe les arbres par continents : Europe, Asie, Amérique du Nord (l'Amérique du Sud, l'Afrique et l'Australie sont peu représentées).
Comme à Versailles, la tempête de 1999 a abattu de nombreux arbres âgés, mais fort heureusement, de nombreuses espèces ont été préservées.
Depuis 2018, l'arboretum est ouvert à la visite, à pied voire en vélo, car il est très grand (il y a près de 20 km de chemins sur environ 200 hectares !).