Il y a un an Databricks rachetait MosaicML pour 1,3 Md$ et prenait pied dans la tendance de l’intelligence artificielle. Depuis, la société a été renommée Mosaic AI et vient de s’étoffer à l’occasion de l’évènement annuel, Data+AI Summit, du fournisseur qui se déroule aux Etats-Unis. A cette occasion, plusieurs fonctionnalités ont été ajoutées à Mosaic AI : Agent Framework, AI Agent Evaluation, Tools Catalog, Model Training et Gateway. Elles répondent à des besoins différents, mais répondant à trois problématiques : comment améliorer la qualité et la fiabilité des modèles ? A des coûts maîtrisés ? En garantissant la confidentialité des données ?

Dans le détail, Agent Evaluation propose une itération et un redéploiement rapides pour améliorer progressivement les modèles. L'éditeur le décrit comme un outil d'évaluation assisté par l'IA qui détermine automatiquement si les résultats sont de haute qualité et fournit une interface utilisateur pour les commentaires des experts humains. Autre outil, GenAI Tools qui apporte aux entreprises des capacités pour gouverner, partager et enregistrer des agents ou des outils en utilisant Unity Catalog, une couche de gouvernance unifiée pour les données au sein de Data Intelligence Platform. Le catalogue garantit que les modèles peuvent être utilisés et gérés en toute sécurité.

Peaufiner et contrôler les modèles d’IA

Sur le fine tuning, Model Training peaufine les modèles open source avec des données privées d’une entreprise ou d’une administration. Une méthode adaptée pour ces LLM par rapport à celle du RAG (retrieval augmented generation). Selon Databricks, avec cette fonctionnalité, les systèmes d’IA seront plus performants à un coût moindre. Le RAG n’est cependant pas oublié et la fonction Agent Framework (reposant sur la recherche vectorielle serverless de Databricks) a pour objectif d’aider les développeurs dans cette démarche. Ils peuvent ainsi améliorer la pertinence des applications de GenAI en intégrant des informations provenant de corpus ou de base de connaissance spécifiques à l’entreprise.

La fonction Gateway offre une interface unique pour l'interrogation, la gestion et le déploiement de n'importe quel modèle open source ou propriétaire, de sorte que les utilisateurs peuvent facilement changer de modèle sans avoir besoin d'apporter des modifications importantes au code de l'application, explique l’éditeur. Elle répond à une problématique de plus en plus fréquente, la multiplication des composants au sein applications à base d’IA. Elles peuvent faire appel à un ou plusieurs modèles, des outils externes, … Gateway proposera également aux services IT de fixer des limites tarifaires pour les différents fournisseurs afin de maintenir les coûts à un niveau raisonnable. L’ensemble des fonctions présentées par Databricks sont en bêta publique, sauf GenAI Tools qui l’est en mode privé.