Pour beaucoup, l'intelligence artificielle de demain renvoie aux films de science-fiction, et certains craignent que cette robotique intelligente, au développement de laquelle participe activement Google, finisse par dominer leur vie. Pour réduire ces craintes, Google DeepMind, une société d'intelligence artificielle basée à Londres que Google a acquis en 2014, travaille sur un « kill switch » qui permettra de mettre les robots et autres systèmes IA hors circuit.

L’hypothèse, c’est qu'un jour, une machine intelligente pourrait désactiver son propre bouton de mise hors circuit. Si cela se produisait, les humains auraient besoin d'une autre solution pour reprendre la main sur la machine. « Si un robot travaille en temps réel sous la surveillance humaine, aujourd’hui comme plus tard, l’opérateur humain doit pouvoir appuyer sur le gros bouton rouge pour empêcher le robot d’exécuter une série d'actions néfastes ou dangereuses pour lui-même ou pour son environnement », ont écrit les chercheurs de Google DeepMind dans un article publié sur le site du Machine Intelligence Research Institute. « Cependant, si le robot est capable d’apprendre, il pourrait trouver comment se soustraire à une mise hors tension, en désactivant par exemple le bouton rouge. Et cette éventualité n’est pas souhaitable ».

Plusieurs personnalités alertent déjà des dangers de l'IA 

L’article a été co-écrit par Laurent Orseau, chercheur chez Google DeepMind, et par Stuart Armstrong, chercheur au sein du Future of Humanity Institute de l'Université d'Oxford au Royaume-Uni. Tous deux cherchent une solution pour empêcher la machine intelligente de comprendre les interventions humaines et éventuellement l’empêcher de s’y opposer plus tard. C’est une étape intéressante et peut-être délicate pour les chercheurs étant donné les craintes que suscite l'intelligence artificielle. Un grand nombre d’individus imaginent qu’avec la robotisation, l’avenir ressemblera à des films comme « 2001 : L’Odyssée de l’Espace », « Terminator », « Matrix», et la série TV Battlestar Galactica. Un monde où des machines intelligentes feront des humains leurs esclaves.

Vue ainsi, la robotisation n’est certes pas très attrayante et beaucoup de gens, même parmi des hauts dirigeants de l’industrie high-tech comme Elon Musk ou le célèbre physicien Steven Hawking, s’inquiètent de ce futur où les machines intelligentes sont de plus en plus impliquées dans la vie de l’homme, et notamment les guerres avec l’avènement de robots tueurs autonomes. Steven Hawking est allé jusqu'à dire que « le développement d’une intelligence artificielle totale pourrait signer la fin de l’humanité ». La recherche d’un « kill switch » par Google n’est pas uniquement destinée à apaiser les masses effrayées. Elle arrive peut-être aussi au bon moment. « C’est un bon timing pour discuter de ce problème, dans une période où l’on parle de plus en plus des architectures IA et de machines autonomes », a déclaré Patrick Moorhead, analyste chez Moor Insights & Strategy. « On ne pas concevoir une voiture sans penser au système de freinage. Le coupe-circuit doit être conçu dans le système global. Sinon, la question de la sécurité se pose. Y compris la possibilité que la machine trouve un moyen de contourner le coupe-circuit ».

L'IA est déjà utilisé dans de nombreux systèmes 

L’analyste n’a pas voulu dire s'il était préoccupé par l’avènement des machines IA, mais il se réjouit néanmoins que certains travaillent sur un gros bouton rouge. « Nous devrions nous méfier des systèmes sans « kill switch » », a-t-il ajouté. « C’est comme si on créait un train à grande vitesse sans système de freinage adéquat ». La firme de Mountain View a plongé la tête la première dans l’intelligence artificielle. Il utilise l’IA dans son moteur de recherche, et l’utilisera dans ses futures apps de chat, de vidéo, dans Google Assistant et avec son périphérique Google Home.