Le big bang des systèmes d'apprentissage machine est-il devant nous ? Alors que les plus sceptiques envisagent clairement un avenir à la « Skynet », le célèbre réseau informatique tout droit sorti de Terminator prenant le contrôle des machines afin d'anéantit l'humanité, l'administration de Barack Obama a pris du recul sur la montée en puissance des systèmes big data, d'apprentissage machine et d'intelligence artificielle. Dans un rapport publié cette semaine, la Maison Blanche s'est ainsi penchée sur le problème lié aux systèmes simplistes débouchant sur des prises de décisions automatiques. Des systèmes utilisés dans une variété de domaines tel que l'emploi, l'éducation ou encore l'accès au crédit et plus globalement tout ce qui touche à la prise de décision automatisée.

Pour le gouvernement américain, il ne fait plus aucun doute que les algorithmes ont pris une place très importante dans la vie des citoyens et qu'il est devenu urgent de développer des frameworks éthiques pour encadre ce type de systèmes. Cela passerait notamment par la mise en place de procédures de test et d'audit transparentes. Un autre effort consisterait à examiner l'impact de l'intelligence artificielle sur la société. « Les systèmes d'IA peuvent se comporter de façon surprenante », a indiqué Ed Felten, directeur technique à la fédération des échanges commerciaux (FTC). « Nous comptons de plus en plus sur l'IA pour prendre des décisions et opérer des mécanismes aussi bien physiques que virtuels, ajoutant à l'enjeu de la prédiction et du contrôle la complexité technologique sur laquelle ils reposent ». Après la tenue de sessions de travail qui débuteront le 24 mai à Seattle, le gouvernement américain va produire un rapport consacré à l'intelligence artificielle. S'en suivront ensuite des discussions à partir de juillet à Washington, Pittsburgh et New York.

Lutter pour éviter les mauvaises décisions

L'une des principales préoccupations est liée aux systèmes algorithmiques créant des discriminations par inadvertance en raison d'une conception défaillante. « Les failles difficiles à détecter pourraient proliférer », a prévenu la Maison Blanche dans un rapport publié cette semaine par la CTO de l'administration américaine, Megan Smith et d'autres responsables. Le rapport qui vient d'être réalisé n'a cependant pas pour objectif d'apporter des réponses aux problèmes posés mais plutôt, dans un premier temps, « d'identifier les problèmes et pousser les responsables informatiques, académiques, régulateurs et citoyens à discuter, mener des recherches et prendre des actions ». Une urgence à agir, tant les systèmes algorithmiques peuvent rapidement faire n'importe quoi en sélectionnant des données pauvres, incomplètes et fausses qui sont autant de biais aux prises de décisions pertinentes.