L’usage massif des IA soulève des enjeux de taille liés aux droits et libertés, à la sécurité, à l’éthique ou à l’environnement. Face à ces défis, la banque Crédit Agricole en association avec l’école Polytechnique et sa fondation a inauguré cette semaine une « chaire internationale d’enseignement et de recherche sur l’intelligence artificielle de confiance et responsable ». Ce programme est soutenu par le DataLab du Crédit Agricole, dirigé par Aldrick Zappellini. A sa tête, Sonia Vanier, chercheuse au laboratoire d’informatique de l’école Polytechnique. Par l’intermédiaire du projet de recherche porté par cette chaire, l’établissement bancaire et l'X souhaitent contribuer au développement de systèmes IA éthiques, robustes, sécurisés et durables. Dans ce but, deux grands axes seront abordés au sein des travaux de R&D. La définition de pistes en vue d’améliorer la fiabilité des systèmes IA constitue le premier volet. Pour cela, une approche pluridisciplinaire mettra à contribution différentes communautés de recherche académiques et industrielles.

« La synergie entre les équipes de notre laboratoire le LIX, nos partenaires académiques et industriels et nos étudiants permettra de développer des approches pour exploiter au mieux la puissance des IA tout en prévenant les risques. L’IA bouleverse notre monde, nous ne sommes qu’au début de ces révolutions technologiques qui ne doivent pas être craintes mais être comprises », a souligné Sonia Vanier, porteuse et responsable scientifique de cette chaire dans un communiqué. L’intégration des raisonnements issus des connaissances métiers des équipes opérationnelles facilitera la construction de modèles menant à « une prise de décision plus juste et cohérente » vis-à-vis des cas d’usage. Pour atteindre une IA de confiance, les biais présents dans les données d’entrainement et risquant d’être reproduits seront détectés et corrigés.  Un autre point clé consistera à développer des modèles au cheminement facilement interprétable auprès des utilisateurs.

 Des algorithmes pour réduire l'empreinte énergétique

La seconde phase du programme porte sur la définition de méthodes pour la construction d’une IA plus responsable d’un point de vue environnemental. Ceci, en réponse au développement des IA génératives et des larges modèles de langage, nécessitant de plus en plus de données, de temps de calcul, et donc de ressources informatiques et énergétiques. Dans ce contexte, la conception d’algorithmes pour des applications à impact positif, pourrait par exemple servir à  l’optimisation de la consommation énergétique des bâtiments connectés. Fortement internationalisée (41% de ses étudiants, 40% de son corps d’enseignants), Polytechnique associe recherche, enseignement et innovation.

À travers son offre de formation – bachelor, cycle ingénieur polytechnicien, master, programmes gradués, programme doctoral, doctorat, formation continue – l’institution revendique une culture scientifique hybride associant le monde des chercheurs et celui de l’entreprise. Elle dispose de 23 laboratoires, dont 22 sont des unités mixtes de recherche avec le CNRS sur son campus de Palaiseau.