Mis à profit par le marketing décisionnel, les algorithmes d’intelligence artificielle présentent aussi le risque d’introduire, à la longue, des biais dans le traitement des interactions avec les clients, suivant les données utilisées par l'apprentissage machine. Ils peuvent alors générer des discriminations, en lien avec l’âge, le sexe ou le revenu, par exemple. Concrètement, cela peut conduire un fournisseur à réduire ses propositions commerciales (prêts bancaires ou polices d'assurance) ou à enfreindre un cadre réglementaire. Pour limiter ce risque, l’éditeur Pega vient d’introduire la fonctionnalité Ethical Bias Check dans sa plateforme Customer Decision Hub, solution d’analyse prédictive de type « Next best action » permettant de personnaliser chaque étape des engagements avec les clients.

Lorsque l’IA est utilisée pour une interaction client, la fonction Ethical Bias Check vient détecter les biais potentiels. A travers l’analyse prédictive, elle simule les résultats de la stratégie client et envoie des alertes en fonction des seuils fixés par les équipes opérationnelles de la plateforme Customer Decision Hub. Ces seuils correspondent aux risques de données biaisées que les entreprises considèrent comme inacceptables. Ce peut être, explique Pega, la cible d’une offre s’éloignant trop de données démographiques spécifiques, par exemple dans le cas d’un acteur de la santé qui s’adresserait à des seniors. Une fois le biais détecté, l’algorithme concerné est identifié et la stratégie Next best action est ajustée pour mieux équilibrer le résultat. Les conditions déclenchant les seuils d'alerte peuvent être élargies ou restreintes par les équipes marketing en fonction de la stratégie. 

Les tests de simulation génèrent des rapports d’alerte sur les biais détectés. (Crédit : Pega) Agrandir l'image

Au sein de Customer Decision Hub, la détection de biais dans les résultats de l'IA se fait en simulant une stratégie d’engagement englobant l’ensemble des canaux de communication utilisés : offres marketing sur le web, promotions envoyées par courriel, suggestions personnalisées de services. Des rapports de détection des données biaisées sont fournis aux équipes opérationnelles. Ethical Bias Check peut être mis en oeuvre de façon standard dans la plateforme. Cette dernière dispose d'autres fonctions de contrôle, telles T-Switch qui permet de vérifier la transparence des modèles d’engagement client basé sur l’intelligence artificielle.