Loin d’être une science exacte, le machine learning doit prendre en considération les zones d’incertitude. IBM vient d’apporter une réponse sur ce sujet avec Uncertainty Qualification 360 ou UQ360, une bibliothèque Python open source. Elle fournit aux développeurs et aux data scientists des algorithmes pour quantifier l'incertitude des prédictions d'apprentissage machine, les aider à améliorer la transparence des modèles et renforcer la confiance dans l'IA.

Disponible auprès d'IBM Research, UQ360 doit résoudre les problèmes liés au fait que les systèmes d'IA basés sur l'apprentissage profond effectuent des prédictions trop confiantes. Grâce à la boîte à outils Python, les utilisateurs pourront via des algorithmes rationaliser le processus de quantification, d'évaluation, d'amélioration et de communication de l'incertitude des modèles prédictifs. Actuellement, la boîte à outils UQ360 fournit 11 algorithmes pour estimer différents types de doutes, le tout réuni derrière une interface commune. IBM fournit également des conseils sur le choix des algorithmes et des mesures UQ.

Gérer les incertitudes pour optimiser les prédictions

La firme américaine rappelle que les prédictions trop confiantes des systèmes d'IA peuvent avoir de graves conséquences. Big Blue cite par exemple le cas d'un chatbot qui n'était pas sûr des horaires de fermeture d'une pharmacie, empêchant un patient de recevoir les médicaments dont il avait besoin. Uncertainty Qualification 360 expose les limites et les niveaux de défaillance possibles des modèles prédictifs, permettant à l'IA d'exprimer son incertitude et augmentant la sécurité du déploiement.

Ce n’est pas la première initiative d'IBM pour renforcer la confiance dans l'IA. La société a déjà livré le kit AI Fairness 360 pour atténuer les biais dans les modèles de machine learning, la bibliothèque Python Adversarial Robustness Toolbox pour la sécurité des algorithmes, et la boîte à outils AI Explainability 360 qui aide les utilisateurs à comprendre comment les modèles ML réalisent leurs prédictions.