Un expert en intelligence artificielle de l'Université de Nouvelle-Galles du Sud (Australie) a mis en évidence une préoccupation éthique autour de Google Duplex, arguant que la technologie de l'IA devrait se présenter comme un robot. Dans un article publié par UNSW, l'expert en IA de l'université et le professeur Hussein Abbass ont déclaré que la démonstration d'IA de Google, bien qu'amusante, soulevait une question importante : avez-vous le droit de savoir que vous parlez à une machine ? Plus tôt cette semaine, le directeur de Google, Sundar Pichai, a fait la démonstration de Google Duplex, où l'outil AI, sur lequel le géant technologique travaille depuis un certain temps, a appelé un coiffeur et réservé une coupe de cheveux en interagissant avec un vrai humain en ligne.

Le professeur Hussein Abbass a souligné que contrairement à Siri, Alexa et d'autres assistants AI, Duplex parle comme un humain convaincant. Pendant la présentation, Duplex a été conçu pour avoir un son plus humain en utilisant « hum » et « mmhm » pendant la conversation, où il était très probable que la personne à l'autre bout de l'appel ne savait pas qu'elle parlait à un robot. Il a souligné à juste titre que cela posait un problème d'ordre éthique et que Duplex devrait se présenter comme un robot. « Le point clé ici est qu'il devrait s'identifier », a déclaré Hussein Abbass dans l'article. « Dans la vidéo, Duplex a déclaré qu'il appelle au nom d'un client. L'humain de l'autre côté de la ligne ne lui a jamais demandé de s'identifier. Si Duplex utilise un nom humain pour gagner la confiance humaine, alors il y a clairement un élément de tromperie et l'IA agirait de manière contraire à l'éthique. Si Duplex s'identifie comme un robot automatisé ou similaire, alors ce sera à l'humain de décider s'il / elle souhaite continuer la conversation », a-t-il dit.

Un pas vers l'assistance vocale d'urgence artificielle

Google Duplex recueille des signatures vocales humaines qui continuent à former le robot et même sa propre voix semble être une synthèse d'une ou plusieurs voix humaines. « Ces humains doivent être plus conscients de la façon dont leurs données sont utilisées et ils doivent consentir explicitement à la collecte des données et à l'utilisation prévue des données », a-t-il déclaré. Si nous pouvons faire confiance à Duplex pour prendre nos rendez-vous chez le coiffeur, pouvons-nous aussi lui faire confiance pour faire un appel d'urgence ? Ce sur quoi Hussein Abbass a déclaré que cela pourrait avoir ses avantages et ses inconvénients. « Une assistance automobile pourrait appeler l'ambulance en cas d'urgence comme un accident, et dans ce cas, c'est une technologie qui sauve la vie. S'il est mal utilisé, alors comme toute technologie, c'est un acte inapproprié qui pourrait même être illégal. » Hussein Abbass estime toutefois que la technologie a encore du chemin à parcourir avant de pouvoir soutenir de longues discussions humaines.