Microsoft veut fixer des limites à ses futurs modèles IA. La division du groupe dirigée par Mustafa Suleyman a publié le 14 septembre un projet de « Code of Conduct » qui doit définir les règles de comportement et les garde-fous applicables à ses modèles. Le document est présenté comme une première version, ouverte aux commentaires du public pendant six semaines.
Baptisée « Humanist AI », l'approche repose sur un principe central : les systèmes d'IA doivent rester sous le contrôle des humains. Microsoft indique ainsi vouloir développer des modèles « subordonnés » à l'être humain, avec des objectifs et des limites clairement définis. Le document doit être révisé après la phase de consultation, puis servir à guider le développement des modèles de Microsoft à partir de 2027.
L'autonomie ne doit pas primer sur le contrôle
L'entreprise estime que les systèmes ne doivent pas dépasser les capacités de contrôle de leurs opérateurs. Ils doivent notamment pouvoir être interrompus, corrigés et limités dans leur périmètre d'action. Le Code of Conduct prévoit également une hiérarchie des instructions destinée à éviter qu'un utilisateur ou un opérateur puisse contourner les contraintes de sécurité. Le principe de contrôle humain doit ainsi primer sur les autres objectifs lorsqu'un risque important est identifié.
Microsoft adopte également une position explicite sur la nature des systèmes développés par sa division IA. Le document précise que les modèles ne doivent pas être conçus comme des personnes, ni chercher à imiter la conscience. « L'IA est artificielle », résume le texte, qui entend maintenir une séparation entre les systèmes et leurs utilisateurs humains.
Des limites sur les usages à risque
Le document détaille plusieurs catégories d'usages qui doivent être exclues. Microsoft veut notamment empêcher ses modèles de contribuer à des dommages réels, qu'ils soient physiques, psychologiques ou sociaux. Les systèmes doivent également respecter les lois applicables et les contraintes de sécurité définies par Microsoft. Le Code of Conduct prévoit par ailleurs des restrictions sur certains domaines sensibles, notamment les armes, les activités criminelles ou les usages susceptibles de porter atteinte aux droits fondamentaux. Les modèles doivent aussi prendre en compte la protection des données privées et confidentielles. Cette logique s'applique également aux systèmes capables d'agir de manière autonome. Microsoft AI demande que ces systèmes disposent de mécanismes permettant aux humains de surveiller leurs décisions, de détecter les anomalies et d'intervenir lorsque cela est nécessaire, en particulier pour les actions sensibles ou irréversibles.
Le positionnement ne consiste toutefois pas à abandonner la course aux modèles plus performants. L'entreprise affirme travailler sur une forme de « Humanist Superintelligence », avec l'objectif de développer des capacités d'IA très avancées tout en conservant des limites sur leur autonomie. La société considère même la maîtrise de systèmes dépassant les capacités humaines dans de nombreux domaines comme l'un des principaux défis technologiques de la prochaine décennie. Mais elle estime que l'augmentation des capacités doit s'accompagner de mécanismes permettant de conserver un contrôle humain effectif. Cette approche distingue Microsoft de la recherche d'une IA toujours plus générale et autonome. Le document indique que le groupe privilégie des systèmes « soigneusement calibrés » et adaptés à des contextes précis plutôt qu'une intelligence artificielle sans limites ni périmètre clairement défini.
Un texte encore en construction
Microsoft précise que ce code n'est pas encore utilisé pour entraîner ses modèles. Il s'agit pour l'instant d'un projet destiné à recueillir les avis d'experts, de chercheurs, de responsables publics, d'entreprises et du grand public. La consultation doit durer six semaines, avant une nouvelle version prévue d'ici la fin de l'année.