Un premier pas vers un contrôle des coûts de l’IA a été dévoilé par OpenAI avec des fonctionnalités de suivi des dépenses et d’analyse des usages de l’IA. Elles s’adressent aux abonnés de ChatGPT Enterprise qui pourront ainsi suivre l'adoption de l'IA, mesurer la consommation par équipe et définir des budgets dédiés. Concrètement, le fournisseur met à disposition des administrateurs des tableaux de bord indiquant comment l’assistant IA est utilisé dans l’entreprise. Ils peuvent ainsi piloter les usages et les dépenses.

« La Global Admin Console regroupe dans une vue unique la consommation de crédits ChatGPT et Codex. Les administrateurs bénéficient ainsi d'une ventilation plus fine de l'utilisation des crédits par utilisateur, produit et modèle. Cela leur donne la possibilité de comprendre plus précisément l'origine des dépenses et leur correspondance avec la consommation réelle de crédits », a indiqué OpenAI.

Une évolution vers une gouvernance des coûts IA

Selon Biswajeet Mahapatra, analyste principal chez Forrester, l'arrivée de fonctionnalités de budgétisation et d'analyse de l'usage reflète une évolution plus large des priorités des entreprises. « Elles passent clairement d'une phase d'enthousiasme centrée sur l'adoption à une phase de gouvernance des coûts et de la valeur créée. Il s'agit toutefois d'une étape naturelle de maturité plutôt que d'un recul », explique-t-il. « L'IA n'est plus un problème d'adoption, mais un problème de mesure et de crédibilité. Les gains de productivité existent, mais ils restent fragmentés et difficiles à relier à des résultats financiers tangibles. »

À mesure que l'IA se déploie dans les différents métiers, les dépenses se répartissent entre les équipes, les outils et les projets expérimentaux, rendant la visibilité et la gouvernance de plus en plus essentielles. « La budgétisation, la visibilité sur l'utilisation et les mécanismes de contrôle des dépenses deviennent donc des fondations indispensables, et non plus de simples préoccupations opérationnelles, car ils contribuent à aligner l'usage de la technologie avec les résultats attendus par l'entreprise », ajoute Biswajeet Mahapatra. Selon lui, les tableaux de bord et outils de contrôle des dépenses d'OpenAI répondent précisément à ces besoins.

Dérapage des coûts attendu avec les agents IA

Anushree Verma, directrice analyste senior chez Gartner, estime que la gouvernance des coûts IA devient une priorité pour les entreprises. En cause : la multiplication des modèles tarifaires, des unités de consommation définies par les fournisseurs et des structures de prix hétérogènes, qui compliquent la prévision des dépenses liées à l'IA. Elle s'attend à ce que ces difficultés s'accentuent dans les prochaines années à mesure que les entreprises intensifieront leur utilisation de l'IA. « D'ici 2028, une entreprise moyenne du Fortune 500 exploitera plus de 150 000 agents IA, contre moins de 15 en 2025. Cette explosion entraînera une prolifération des agents, une complexification des systèmes informatiques et d'importants défis de gestion », souligne-t-elle.

Dans ce contexte, les récentes capacités d'administration d'OpenAI fournissent aux organisations les outils nécessaires pour surveiller l'utilisation et les dépenses à l'échelle de l'entreprise, alors que les déploiements IA deviennent plus vastes et plus distribués.

Mesurer la valeur de l'IA au-delà de la consommation

Si les analyses proposées par l'entreprise mettent l'accent sur les tendances d'adoption et la visibilité de l'usage, les analystes estiment que les entreprises devront à terme relier la consommation IA à des résultats métier concrets. « La seule consommation de tokens est insuffisante, car elle mesure une activité plutôt qu'un impact », rappelle Biswajeet Mahapatra. Les entreprises devraient plutôt évaluer leurs initiatives IA à l'aide d'indicateurs métiers tels que la croissance du chiffre d'affaires, la réduction des coûts ou l'atténuation des risques, tout en tenant compte d'indicateurs opérationnels comme les gains de productivité ou l'amélioration de la qualité.

Pour Anushree Verma, les pratiques traditionnelles de FinOps appliquées au cloud évoluent également afin de s'adapter à l'économie de l'IA fondée sur l'usage. « Les approches FinOps classiques ont été conçues pour des environnements cloud centralisés et relativement prévisibles. Elles ne sont pas adaptées à la gestion de métriques de consommation IA plus imprévisibles, comme l'utilisation de tokens, les requêtes adressées aux grands modèles de langage ou les heures de calcul GPU », explique-t-elle. Elle ajoute que le suivi en temps réel devient essentiel avec la montée en puissance des systèmes multiagents, car une mauvaise configuration peut rapidement provoquer une explosion des coûts de l'IA dans des environnements fortement interconnectés.