Imaginez un pays où toute la population a été mise à la retraite d’office en quelques secondes. C’est l’improbable situation qui vient de se dérouler en France après le bug d’un agent IA au sein du ministère de l’Economie. L’affaire commence ce week-end avec le lancement de l’agent FLOP (fonction latente des opérations de paiement) en production. « Tout était sous contrôle et le fine tuning avait été nous semble-t-il correctement fait », précise un responsable du projet, qui souhaite rester anonyme.
Mais la personnalisation ne s’est pas déroulée comme prévu. En effet, l’agent s’est connecté via des serveurs MCP à plusieurs sources de données (Agirc Arco, …). « Il a considéré l’ensemble de ces informations comme une source de vérité unique » poursuit le responsable. Et là, il a dérapé en multipliant en quelques secondes des opérations de corrélation en mettant chaque personne à la retraite. « Il est devenu fou et nous ne savions pas comment l’arrêter », note-t-il.
En quelques heures, l’agent fou a mis la totalité de la population en retraite. Et plusieurs d’entre eux ont même vu sur leur compte bancaire crédité d’une pension provoquant des appels en chaîne au service client de leur banque. Finalement, pour résoudre la situation, les équipes du ministère ont réquisitionné un hacker éthique pour injecter des prompts dans l’agent. Les mesures correctrices ont fonctionné et le retour à la normale n’a pris que quelques minutes. Une fois l'information connue, certains ont même pensé à une blague du 1er avril...