HSBC mise sur une start-up pour surveiller ses modèles IA

entreprises des secteurs très réglementés se heurtent souvent au problème dit de la "boîte noire" lorsqu'elles essaient de déployer la technologie d'intelligence artificielle. En effet, cette dernière automatise fréquemment des tâches et génère des résultats qui ne peuvent être immédiatement interprétés. Les banques, en particulier, s'efforcent de vérifier la transparence et les possibilités d'interprétation des modèles de machine learning et des logiciels d'intelligence artificielle. Ceux-ci permettent de ne rien rater, qu'il s'agisse de détecter des fraudes ou de garantir la traçabilité et la provenance des actifs. Il en va de même pour HSBC qui utilise néanmoins un logiciel lui permettant garantir ses algorithmes, qui sont sujets à des erreurs, à des écarts de données et à d'autres problèmes qui peuvent représenter un risque pour les entreprises.

Les efforts de la banque sont essentiels pour accroître la confiance. Surtout à une période où de plus en plus de consommateurs adoptent les services numériques face à la pandémie de coronavirus, déclare Gavin Munroe, CIO de HSBC. "Il y a un équilibre à trouver entre leur montrer ce qui se trouve dans le modèle d'un côté, et dans l'IA de l'autre, pour leur expliquer ce que nous utilisons et que les données qu'elle utilise sont de qualité et précisément celles dont nous avons besoin", explique M. Munroe à CIO.com. "Nous ne pensons pas pouvoir travailler dans un environnement dépourvu de confiance".

Pourquoi les banques hésitent face à l'IA ?

Les banques comprennent que l'IA peut les aider à automatiser et à augmenter leurs opérations tout en protégeant les actifs de leurs clients. Mais elles sont réticentes à adopter une telle technologie si elles ne peuvent pas interpréter et expliquer le fonctionnement de leurs algorithmes aux régulateurs, aux comités d'audit et aux consommateurs. La méfiance règne à l'égard de l'IA, stimulée par les algorithmes qui ont permis aux campagnes de désinformation de devenir virales et aux préjugés raciaux dans la reconnaissance de visages.

Les Finserv qui sont surveillées de près par les régulateurs, se méfient encore de la technologie qu'ils utilisent pour soutenir leurs entreprises. En effet, les préjugés peuvent limiter l'accès aux prêts de personnes répondant aux critères. En conséquence, seuls 4 % des chefs comptables ont déclaré avoir utilisé l'IA en 2019, selon une étude de Gartner. Cette dernière révèle également que 79 % des dirigeants attribuaient la réticence de la finance à adopter l'IA à la "peur de l'inconnu". Et lorsqu'ils adoptent l'IA, c'est généralement pour se protéger contre les transactions frauduleuses, plutôt que d'accélérer les produits et services numériques. La clé de l'adoption de l'IA dans le secteur financier réside dans la confiance, explique M. Munroe qui compare son importance à l'intégration des ceintures et d'autres dispositifs de sécurité dans les voitures. "Si l'on n'y prend pas garde, le risque inhérent à l'organisation est important", ajoute M. Munroe. "Nous ne pouvons pas accepter des modèles de données qui seraient biaisés."

Établir la confiance est particulièrement important car les clients cherchent à consommer davantage de services numériques pendant la pandémie. HSBC a constaté une augmentation des transactions via des services tels que WhatsApp et WeChat, ainsi que le paiement en ligne et d'autres technologies sans contact. L'utilisation de ces services doit être surveillée de près, explique M. Munroe, car "plus l'empreinte numérique de la banque est importante, plus les risques de fraude augmentent". Les exemples vont de la fraude classique par carte de crédit aux arnaques opportunistes impliquant de fausses transactions pour des tests de COVID-19, ajoute M. Munroe.

Déploiement de garde-fous pour l'IA

Pour assister HSBC dans la validation de ses modèles d'IA et faire office de support aux services numériques qu'elle fournit, M. Munroe utilise le logiciel Cortex Certifiai de CognitiveScale. Celui-ci a pour but de réduire les risques en aidant les entreprises à interpréter et à expliquer les prédictions générées par les ordinateurs et à détecter les erreurs dans les types de données sous-jacents, les ensembles de données, les modèles ML et les processus de développement de l'IA. Manoj Saxena, le Président exécutif de CognitiveScale, décrit la solution comme un outil de mesure de l'IA qui fait office de HTTP de la confiance dans l'IA. M. Saxena, qui a dirigé IBM Watson Solutions de 2007 à 2014, affirme que le logiciel permet également d'identifier la "dérive des données", c'est-à-dire les signaux qui indiquent les changements dans le temps des données incorporées dans le modèle ML. Depuis l'épidémie de COVID-19, la dérive des données est devenue un problème important, car les habitudes d'achat en ligne des clients ont changé. Les ventes en ligne ont connu une hausse fulgurante et générer des blocages de la chaîne d'approvisionnement des distributeurs. Ces dynamiques changeantes génèrent de nouvelles données, qui doivent être intégrées dans les modèles.

Les banques sont désavantagées à cet égard, car leurs modèles d'IA actuels peinent à prendre en compte les données générées par les nouveaux modèles de consommation. Par exemple, une personne qui n'a jamais fait d'achats en ligne avant le confinement et qui achète soudainement des biens sur Amazon enverrait un signal positif dans les systèmes de détection des fraudes de la banque, explique M. Munroe. "Certains modèles ne reflètent pas la réalité de notre situation face au COVID", explique-t-il. "Et quelle sera la norme à mesure que l'adoption du numérique se poursuivra et s'accélérera ?"

La grande bataille des préjugés

Cortex Certifiai, qui utilise un "indice de confiance" pour quantifier les modèles d'IA avec un score numérique, aide les modèles de données de HSBC à prendre en compte ces nouveaux comportements, qui seront essentiels pour satisfaire les clients. "Il s'agit de renforcer la fidélité et la confiance des clients lorsque les principales décisions sont déléguées à des machines", explique Mme Saxena. Le logiciel de CognitiveScale est utilisé dans de nombreux autres scénarios. par exemple, une entreprise utilise Cortex Certifiai pour diriger ses clients vers le bon interlocuteur lorsqu'ils font appel à un serveur vocal interactif, explique M. Saxena.

Mais la solution semble taillée sur mesure pour les banques, qui misent sur ces solutions émergentes tout en restant méfiantes avant de faire confiance aux modèles d'IA. CognitiveScale, qui a obtenu un financement de 50 millions de dollars d'investisseurs tels que Norwest Venture Partners, Intel Capital, Microsoft Ventures, The Westly Group et USAA, a réussi à proposer de la valeur ajoutée dans un secteur du logiciel est encore largement entouré de scepticisme. Les préjugés ont toujours existé dans les modèles prédictifs qui utilisent plusieurs niveaux de décisions et des algorithmes de régression. En particulier ceux qui se multiplient pour incorporer des milliers de conditions "si/alors", explique Saniye Alaybeyi, analyste chez Gartner, qui étudie comment expliquer l'IA. "Aucun de ces problèmes n'est nouveau et aucun n'est spécifique aux réseaux de neurones", ajoute-t-elle.

Selon elle, la clé pour instaurer la confiance dans l'IA est de s'assurer que les développeurs de logiciels fournissent un modèle d'IA de haute qualité grâce à des tests et à une validation approfondis avant de la livrer à l'entreprise. Selon Mme Alaybeyi, les garde-fous programmatiques sont essentiels pour satisfaire les besoins de toutes les parties prenantes. HSBC partage cet avis. "Intégrer le risque et la conformité dans notre culture n'est pas une réflexion après coup", déclare M. Munroe. "La conception et la solution inhérentes doivent être contrôlées et transparentes".