« Le gouvernement américain, invoquant des raisons de sécurité nationale, a émis une directive de contrôle des exportations suspendant tout accès à Fable 5 et Mythos 5 pour toute personne de nationalité étrangère, qu'elle se trouve aux États-Unis ou à l'étranger, y compris les employés étrangers d'Anthropic », explique la société dans un communiqué de presse, publié au début du week-end. Rappelons que Mythos est un LLM avancé de la famille Claude optimisé pour le raisonnement multi‑étapes et l’analyse de code à grande échelle avec des capacités inédites en cybersécurité : identification et exploitation de vulnérabilités dans les logiciels, y compris des failles zero‑day, dans des OS et navigateurs majeurs. Pour des raisons techniques, Anthropic est incapable de faire la distinction entre les différents utilisateurs, il a donc décidé de suspendre ses deux modèles. Pour rappel, le fournisseur a présenté en début de semaine dernière, les modèles Claude Fable 5 et Mythos 5, le premier étant une version bridée du second sur certains sujets comme la cybersécurité, la biologie, la chimie et la distillation du modèle.
Pour expliquer cette décision, Anthropic indique que les autorités américaines ont été informées d’une méthode de jailbreak des LLM. Selon plusieurs médias, des chercheurs d’Amazon (principal actionnaire d’Anthropic) seraient à l’origine de la découverte du débridage. Un procédé qui pourrait donner accès à l’ensemble des capacités du modèle notamment en matière de cybersécurité sur la découverte des failles. David Sacks, coprésident du Conseil des conseillers scientifiques et technologiques auprès de Donald Trump, Anthropic est intervenu sur les réseaux sociaux pour justifier la décision de l’administration américaine. Il a indiqué que la société avait été sollicitée pour prendre des mesures correctives et qu’elle ne les a pas mises en place. De son côté, Anthropic précise que le contournement était limité et qu’il ne justifie pas l’arrêt commercial de ses modèles.
Le spectre du kill switch resurgit
L’affaire a pris une tournure politique pendant le week-end où plusieurs dirigeants français et européens ont dénoncé la décision américaine de bloquer l’accès aux modèles. Certains n’hésitent pas à faire un parallèle avec le fameux kill switch, c’est-à-dire la capacité d’interrompre un service IT par une décision politique. Le cas Anthropic rappelle aussi la question de la dépendance numérique du vieux continent aux technologies américaines. Mistral n'a pas de modèle équivalent à Mythos.
Pour tenter de résoudre le problème des représentants d’Anthropic étaient attendus à Washington pour discuter avec l’administration. Les relations entre les deux sont tendues depuis que la société dirigée par Dario Amodei a fixé des limitations de l’usage de ses modèles par le Pentagone. Donald Trump avait purement et simplement écarté Anthropic des marchés de la Défense.