Thèse Année : 2024

A Versatile Methodology for Assessing the Electricity Consumption and Environmental Footprint of Machine Learning Training: from Supercomputers to Edge Devices

Une méthodologie polyvalente pour évaluer la consommation électrique et l'empreinte environnementale de l'entraînement de l'apprentissage machine : des supercalculateurs aux équipements embarqués

Résumé

The number of Artificial Intelligence applications being developed and deployed is continually increasing. The effects of these activities on the biosphere, particularly on climate change, have attracted attention since 2019, but assessment methodologies still require improvement. More advanced evaluation methods and a deeper understanding of these impacts are necessary to minimize the environmental impacts of artificial intelligence. With an emphasis on the training phase, this thesis investigates how machine learning (ML) affects the environment. First, a study is conducted to assess the electricity consumption of IT infrastructures by comparing power meters currently in use with different benchmarks and infrastructures, focusing on Graphic Processing Units (GPUs). The comparison is supported by numerous experiments and is based on classic quantitative criteria, as well as qualitative criteria such as ease of use, configurability, and documentation quality. These findings are used to analyze the electricity required to train models selected from the MLPerf benchmark on various ML infrastructures, ranging from an edge device to a supercomputer. Fine-grained measurements and reproducible experiments offer distinct perspectives on each computing infrastructure. The proposed methodology enables an equitable comparison of the amount of electricity consumed by the studied infrastructures. Finally, the thesis shifts toward examining the more general environmental impacts of ML, based on an estimation of the embodied impacts of ML infrastructures. These impacts are allocated to each model training, enabling a comparison with the impacts of electricity usage. While numerous ML environmental impact indicators exist, this study focuses on primary energy consumption, global warming potential, and abiotic depletion potential for minerals and metals. In conclusion, this thesis proposes a methodology that enables a reproducible multi-criteria evaluation of the impact of machine learning training on the environment and can be applied to different ML infrastructures, thus enabling fair comparison and enlightened choices.
Le nombre d'applications basées sur l'intelligence artificielle (IA) développées et déployées ne cesse d'augmenter. L'impact de ces activités sur la biosphère, notamment sur le dérèglement climatique, attire l'attention depuis 2019, mais les méthodes d'évaluation nécessitent encore des améliorations. Des méthodes d'évaluation plus avancées et une meilleure compréhension de ces impacts sont nécessaires pour minimiser l'impact environnemental de l'intelligence artificielle. En mettant l'accent sur la phase d'entraînement, cette thèse étudie l'impact de l'apprentissage automatique sur l'environnement. Dans un premier temps, une étude est menée pour évaluer la consommation électrique des infrastructures informatiques en comparant les compteurs d'électricité actuellement utilisés, en se concentrant sur les unités de traitement graphique (GPU). La comparaison est étayée par de nombreuses expériences et repose sur des critères quantitatifs classiques, ainsi que sur des critères qualitatifs tels que la facilité d'utilisation, la configurabilité et la qualité de la documentation. Ces résultats sont utilisés pour analyser l'électricité nécessaire à l'entraînement de modèles sélectionnés à partir du benchmark MLPerf sur différentes infrastructures d'apprentissage automatique, allant d'un appareil embarqué à un supercalculateur. Des mesures fines et des expériences reproductibles offrent des perspectives distinctes sur chaque infrastructure. La méthodologie proposée permet une comparaison équitable de la quantité d'électricité consommée par les infrastructures étudiées. Enfin, la thèse s'oriente vers l'évaluation des impacts environnementaux, en se basant sur une estimation des impacts liés à l'extraction des matériaux, à la fabrication, au transport et à la fin de vie de chaque composants des infrastructures de calcul. Ces impacts sont répartis sur chaque entraînement de modèle, permettant une comparaison avec les impacts de la consommation d'électricité. Si de nombreux indicateurs d'impact environnemental de l'apprentissage existent, cette étude se concentre sur la consommation d'énergie primaire, le potentiel de réchauffement climatique et le potentiel d'épuisement abiotique des minéraux et des métaux. En conclusion, cette thèse propose une méthodologie permettant une évaluation multi-critères reproductible de l'impact de l'entraînement du machine learning sur l'environnement et pouvant être appliquée à différentes infrastructures spécialisées pour l'apprentissage, permettant ainsi une comparaison équitable et des choix éclairés.
Fichier principal
Vignette du fichier
134484_JAY_2024_archivage.pdf (8.52 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-04907220 , version 1 (22-01-2025)

Licence

Identifiants

  • HAL Id : tel-04907220 , version 1

Citer

Mathilde Jay. A Versatile Methodology for Assessing the Electricity Consumption and Environmental Footprint of Machine Learning Training: from Supercomputers to Edge Devices. Artificial Intelligence [cs.AI]. Université Grenoble Alpes, 2024. English. ⟨NNT : ⟩. ⟨tel-04907220⟩
0 Consultations
0 Téléchargements

Partager

More