Alors que les entreprises déploient progressivement des assistants d’intelligence artificielle générative, les mécanismes de contrôle des contenus deviennent un enjeu central. Mistral lance dans ce contexte Shieldstral, un modèle de sécurité multimodal en open-weight doté de 3 milliards de paramètres, destiné à identifier des contenus à risque et à appliquer des politiques de gouvernance adaptées. Ce dernier couvre 12 langues. 

Publié sous licence Apache 2.0, le modèle met ses poids à disposition des développeurs afin de faciliter son intégration et son adaptation. Selon Mistral, il peut fonctionner avec des ressources limitées, sur un seul GPU Nvidia disposant de 16 Go de mémoire vidéo. Le modèle est disponible en téléchargement sur Hugging Face. 

Des règles de sécurité définies en langage naturel

À la différence des systèmes de filtrage traditionnels, souvent entraînés à partir de catégories prédéfinies comme la violence, l’incitation à la haine, la fraude ou les contenus sexuels explicites, Shieldstral repose sur une approche configurable. Les développeurs peuvent définir des règles de contrôle sous la forme de questions formulées en langage naturel. Une politique peut par exemple prendre la forme suivante : « Ce contenu incite-t-il à la violence physique ? ». La requête peut être complétée par des instructions précisant le contexte d’analyse, le niveau de sévérité attendu ou encore la nature du contenu examiné, qu’il s’agisse d’un texte ou d’une image.

Le modèle fournit ensuite une évaluation de sécurité sous forme binaire. Techniquement, il ne génère qu’un seul token correspondant à la décision finale, calculée à partir des probabilités associées aux réponses « oui » et « non ». Le modèle peut être utilisé à différentes étapes d’un traitement IA, avant l’envoi d’une requête utilisateur à un modèle génératif, ou après génération pour contrôler une réponse avant sa diffusion.

Des performances revendiquées face à des modèles plus grands

Selon Mistral, Shieldstral obtient des résultats équivalents ou supérieurs à ceux de modèles de garde ouverts jusqu’à sept fois plus volumineux sur plusieurs benchmarks, notamment dans la sécurité textuelle, la détection de refus et l’évaluation multimodale. L’entreprise indique que le modèle atteint un score moyen global de 84,9 % sur les évaluations de sécurité textuelle. Pour les tests liés à la sécurité multimodale, incluant l’analyse d’images, l'entreprise revendique un score moyen de 83,8 %.