Petit à petit, Google Cloud enrichit Vertex AI Agent Builder avec des tableaux de bord d'observabilité inédits, des outils de création et de déploiement plus rapides et des contrôles de gouvernance plus stricts. Objectif : faciliter le passage des agents IA du prototype à la production à grande échelle pour les développeurs. Cette évolution ajoute un dashboard de supervision dans le runtime Agent Engine pour suivre l'utilisation des tokens, la latence et les taux d'erreur, ainsi qu'une nouvelle couche d'évaluation capable de simuler les interactions des utilisateurs afin de tester la fiabilité des agents. Les développeurs peuvent désormais déployer des agents en production à l'aide d'une seule commande grâce à l'agent development kit (ADK), a fait savoir le fournisseur dans un billet de blog. Des outils de gouvernance ont été ajoutés, tels que les identités d'agents liées à Cloud IAM et Model Armor, qui bloquent les attaques par injection de prompt, sont conçus pour améliorer la sécurité et la conformité.

L'ADK, qui selon la firme de Mountain View a été téléchargé plus de sept millions de fois, prend désormais en charge Go en plus de Python et Java. Cette prise en charge linguistique élargie vise à rendre ce framework ouvert accessible à un plus grand nombre de développeurs et à améliorer la flexibilité des équipes d'entreprise qui s'appuient sur des piles multilingues. La société a également étendu les services mangés au sein du runtime Agent Engine. Les développeurs peuvent désormais déployer directement dessus à partir de l'interface de ligne de commande ADK sans créer de compte Google Cloud. Une adresse Gmail suffit pour commencer à utiliser le service, avec une période d'essai gratuite de 90 jours disponible pour le tester. Les agents créés avec Vertex AI Agent Builder peuvent également être enregistrés dans Gemini Enterprise, ce qui permet aux employés d'accéder à des agents personnalisés dans un seul espace de travail et de relier les outils internes aux workflows de GenAI. La course pour fournir des outils conviviaux aux développeurs afin de créer des systèmes d'agents sécurisés et évolutifs reflète une évolution plus large de l'IA d'entreprise. Avec les dernières mises à jour, Google renforce sa position face à la concurrence, notamment Azure AI Foundry de Microsoft et AWS Bedrock.

Des gains de productivité pour les développeurs

Ces mises à jour visent à faciliter la création et la mise à l'échelle des agents IA tout en améliorant la gouvernance et les contrôles de sécurité. « En transformant l'orchestration, la configuration de l'environnement et la gestion du temps d'exécution en services managés, le kit de développement d'agents de Google réduit le temps nécessaire à la création et au déploiement de logiciels », a déclaré Dhiraj Badgujar, directeur de recherche senior chez IDC. « Le registre de modèles intégré, l'IAM et la structure de déploiement de Vertex peuvent raccourcir les cycles de développement initiaux pour les entreprises qui utilisent déjà GCP [...] LangChain et Azure AI Foundry offrent une plus grande interopérabilité entre les modèles et le cloud, ainsi qu'une plus grande flexibilité manuelle, mais ils nécessitent davantage de configuration et d'intégration sur mesure pour atteindre le même niveau d'évolutivité, de surveillance et de parité environnementale », a ajouté M. Badgujar. « Pour les nouveaux projets compatibles avec GCP, ADK peut accélérer les cycles de développement de 2 à 3 fois. »

Charlie Dai, vice-président et analyste principal chez Forrester, reconnaît que les dernières fonctions de Google rationalisent le processus de développement. « Comparé à d'autres offres qui nécessitent souvent des pipelines personnalisés et des étapes d'intégration, l'approche de Google permet de réduire le temps d'itération pour les équipes qui utilisent déjà Vertex AI », ajoute M. Dai. Tulika Sheel, vice-présidente senior chez Kadence International, souligne que l'ADK et le déploiement en un clic dans Vertex AI Agent Builder simplifient la création d'agents en réduisant les efforts de configuration et d'intégration. « Pour les workflows hautement personnalisés ou de niche, la flexibilité des solutions de frameworks ouverts reste gagnante, mais pour de nombreuses entreprises qui cherchent à accélérer leur retour sur investissement, l'offre de Google pourrait être un véritable accélérateur », ajoute Mme Sheel. Selon Sanchit Vir Gogia, analyste en chef, fondateur et CEO de Greyhound Research, cette mise à niveau représente également une réinitialisation de la manière dont les entreprises passent du prototype à la production. « Pendant des années, les équipes ont été ralenties par les transferts entre le développement, la sécurité et les opérations », explique M. Gogia. « Chaque phase ajoutait de nouveaux outils, de nouvelles révisions et de nouveaux retards. Google a regroupé tous ces éléments en une seule voie. Un développeur peut désormais créer, tester et lancer un agent qui s'inscrit déjà dans la politique de l'entreprise. »

Fonctions d'observabilité et d'évaluation

Les analystes considèrent ces outils d'observabilité et d'évaluation comme une amélioration significative, même s'ils estiment que les capacités sont encore en cours de développement pour les workflows d'agents à grande échelle et non déterministes. « Les fonctionnalités de Vertex AI Agent Builder constituent une avancée solide, mais elles en sont encore à un stade précoce pour le débogage d'agents complexes et non déterministes », indique M. Dai. « Bien qu'elles fournissent des mesures granulaires et une traçabilité, l'intégration avec OpenTelemetry ou Datadog est possible grâce à des connecteurs personnalisés, mais n'est pas encore native. » D'autres s'accordent à dire que ces outils ne sont pas encore tout à fait au point. Les dernières mises à jour facilitent un débogage en temps réel et rétrospectif avec un traçage au niveau des agents, un audit des outils et une visualisation de l'orchestrateur, ainsi qu'une évaluation à l'aide de tests de régression basés sur des mesures et sur le LLM.

« ADK offre une grande visibilité aux agents natifs GCP, mais l'observabilité multicloud n'est pas encore au point », fait savoir M. Badgujar. « Les dernières fonctionnalités facilitent considérablement le débogage des flux non déterministes, même si la corrélation approfondie entre les états multi-agents nécessite encore une télémétrie tierce. » M. Sheel a fait écho à ces réflexions tout en reconnaissant que ces fonctionnalités sont prometteuses. « À ce stade, elles sont encore en cours de maturation », selon M. Sheel. « Les entreprises qui utilisent des workflows non déterministes complexes (orchestration multi-agents, chaînes d'outils) auront probablement besoin de crochets de surveillance supplémentaires, de tableaux de bord personnalisés et d'extensions métriques. »