Charles Beadnall, CTO de GoDaddy : « Nous travaillons aujourd'hui avec 50

Il y a un an, la société ne disposait pas d'un seul grand modèle de langage fonctionnant avec ses systèmes centraux. Aujourd'hui, la société d'enregistrement de domaines Internet et d'hébergement Web GoDaddy travaille avec 50 LLM, dont certains sont dédiés à des produits d'automatisation côté client, tandis que d'autres sont préparés pour des projets pilotes visant à améliorer la productivité de ses salariés. A l’occasion d’un entretien à nos confrères de Computerworld, Charles Beadnall, CTO de GoDaddy a détaillé son expérience en la matière.

Quel est votre parcours en matière d'IA ?

Nous nous intéressons à l'IA depuis un certain nombre d'années. Nous en avons utilisé différentes variantes : machine learning, IA générative, etc. Mais ces dernières années nous nous sommes concentrés sur la mise en place d'une plateforme de données commune à toutes nos activités pour disposer d’informations provenant de nos différentes interfaces et activités. Et ainsi mieux comprendre le comportement des clients. Cela nous a vraiment permis, avec une culture de l’expérimentation, d'exploiter l'IA générative. Nous voulions obtenir des résultats mesurables, que ce soit pour notre entreprise et notre business ou pour nos clients,

Quelle est l'importance de disposer de résultats mesurables dans le cadre des déploiements de l'IA ?

En fin de compte, si vous ne savez pas ce que vous attendez et si vous ne disposez pas d'un moyen de le mesurer, il se peut que vous réussissiez, mais vous ne le saurez pas. Il est très important pour nous d'effectuer des tests A/B contrôlés, c'est-à-dire de lancer une nouvelle fonctionnalité et d'en mesurer les résultats. Ainsi, si vous ne disposez pas d'une forme de données que vous pouvez évaluer, qu'il s'agisse d'une conversion d'achat ou d'une activation de produit ou de quelque chose de ce genre..., vous ne saurez pas vraiment si elles ont eu l'effet escompté.

Avez-vous créé d’autres datalake ou nettoyé vos référentiels de données avant de mettre en œuvre l'IA générative ?

J'ai souvent entendu le refrain « garbage in, garbage out ». C’est clairement significatif dans le cadre de l’IA et les gens doivent en être conscients, surtout que la majeure partie de la garantie de la qualité des réponses est assurée par les grands fournisseurs de LLM. Ce que nous avons fait, c'est construire une passerelle commune qui communique avec tous les grands modèles de langage sur le backend, et nous prenons actuellement en charge plus de 50 modèles différents, qu'il s'agisse d'images, de texte ou de chat, ou d'autres choses encore. Cette passerelle est vraiment responsable de la mise en œuvre des garde-fous..., mais aussi de l'évaluation des réponses des LLM pour déterminer si un modèle ne fonctionne pas comme prévu.

Il est évident que cet espace s'accélère très rapidement. Il y a un an, nous n'avions aucun LLM et aujourd'hui nous en avons 50. Cela vous donne une idée de la vitesse à laquelle les choses évoluent. Les différents modèles auront des attributs différents et c'est quelque chose que nous devrons continuer à surveiller. Mais grâce à ce mécanisme qui nous permet de surveiller et de contrôler ce que nous envoyons et ce que nous recevons, nous pensons pouvoir mieux gérer la situation.

Pourquoi avez-vous 50 LLM ?

Cet espace évolue rapidement, les différents LLM se surpassant les uns les autres en termes de coût, de précision, de fiabilité et de sécurité. La grande majorité d'entre eux sont utilisés dans des bacs à sable et des environnements de test, et seul un très petit nombre d'entre eux sont actuellement exploités en production derrière Airo. Certains d'entre eux seront abandonnés et n'entreront jamais en production, tandis que d'autres seront dépréciés au fur et à mesure que d’autres modèles s'avéreront plus précis ou plus rentables.

Pouvez-vous nous parler de cette passerelle ? Comment fonctionne-t-elle et l'avez-vous construite ou êtes-vous passés par un tiers ?

C'est quelque chose que nous avons construit il y a maintenant un an. Nous l'avons élaboré pour gérer les aléas technologiques. Il s'agit d'un moyen de coordination entre les différents LLM, qui a été mis en place dès nos débuts sur l’IA. Si vous y réfléchissez logiquement, il y a un an, il n'y avait qu'un seul fournisseur [OpenAI], mais il était clair que cet univers allait être très excitant. De nombreuses entreprises allaient vouloir se lancer dans ce domaine, et nous ne savions donc pas qui allait gagner. Il se peut qu'un modèle soit meilleur pour les images et qu'un autre le soit pour le chat. Un autre modèle encore est meilleur pour le texte. L'évolution sera telle que les fournisseurs se concurrencent les uns les autres. La passerelle est donc un moyen pour nous d'être quelque peu indifférents au modèle sous-jacent que nous utilisons et de nous adapter rapidement aux changements de coût et de précision.

Comment avez-vous abordé la formation de votre personnel à l'IA et, peut-être plus important encore, comment l'avez-vous amené à s'engager dans la technologie ?

Je pense que cela a été étonnamment facile. C'est une division qui a proposé notre premier cas d'utilisation, à savoir aider les clients à créer du contenu pour leur site et à trouver le bon nom de domaine à mettre sur ce site. C'est un point sur lequel beaucoup de clients sont bloqués au départ, parce qu'il faut beaucoup de réflexions pour déterminer le nom de domaine que vous allez choisir, le contenu que vous allez mettre sur votre site - et si vous voulez commencer à vendre des produits, vous devez créer des descriptions de ces articles. Il s'agit donc d'un besoin des clients auquel nous voulions répondre.

En identifiant clairement la manière dont l'IA nous aidera à progresser, cette BU en a fait une priorité absolue et a mobilisé des ressources pour réaliser certains de nos premiers essais. Cela a vraiment aidé l'équipe à se rallier à ce cas d'usage clair et convaincant. Nous effectuons des tests et obtenons des données, mais toutes les expériences n'ont pas été couronnées de succès. Nous apprenons des choses en cours de route. D'une certaine manière, les expériences qui n'aboutissent pas sont parmi les plus intéressantes, car on apprend ce qui ne fonctionne pas et cela nous oblige à poser des questions complémentaires sur ce qui fonctionnera et à envisager les choses différemment. Lorsque les équipes ont vu les résultats de ces expériences et l'impact sur les clients, cela les a vraiment incitées à passer plus de temps avec la technologie et à se concentrer sur les données client.

L'IA est-elle réellement prête pour être mise en avant auprès des clients ?

Nous pensons qu'elle est définitivement prête pour être mise sur le devant de la scène. Maintenant, cela dépend vraiment du cas d'usage. Je pense que le fait de pouvoir tester l’IA détermine si c’est le bon moment dans ce scénario. Il est clair que cela apporte une valeur aux interactions avec les clients en éliminant des étapes et en les accompagnant.

Qu'est-ce que GoDaddy Airo ? Quel est son rôle ?

Il s'agit essentiellement de la mise en œuvre de l'IA pour nos produits et services. Il s'agit de notre technologie d'IA sous-jacente, construite sur notre plateforme de données et sur la passerelle que nous utilisons pour nos LLM. Au fil du temps, il se peut que nous créions de nouveaux produits, mais pour l'instant, nous nous concentrons sur l'amélioration de ceux que nous vendons déjà aujourd'hui. Il évoluera au fil du temps, au fur et à mesure que nous l'expérimenterons.

Vos clients utilisent-ils Airo, ou l'utilisez-vous et offrez-vous à vos clients les résultats de l'IA que vous recevez ?

En principe, dès que vous achetez un nom de domaine et un site web, nous vous faisons entrer directement dans cette expérience. Nous vous aidons à créer un site et si vous y téléchargez du contenu, Airo remplit automatiquement la description [textuelle] pour vous. Si nous pouvons les faire passer d'une idée à une entreprise en ligne, c'est notre principal objectif. C'est là que nous serons récompensés par nos clients. C'est notre objectif. Nous avons un indicateur que nous suivons pour améliorer la valeur et la réussite du client. Il est encore tôt pour le dire, mais nous améliorons la capacité de nos clients à débuter leurs activités.

Quelle est la précision d'Airo ?

Il est raisonnablement précis. Nous menons des expériences pour lesquelles nous avons un seuil de précision, qui est relativement élevé. Nous ne ferions pas la promotion de quelque chose qui n'aurait pas une exactitude significative et qui profiterait à nos clients. Je dirais que la plupart du temps, la précision est surprenante. Encore une fois, il y a des évolutions pour lesquelles nous continuons à apprendre au fil du temps, mais pour l'expérience de base, jusqu'à présent, elle s'est avérée plus précise que nous ne l'aurions espéré.

D’où viennent les LLM qui alimentent l'IA générative ?

Les LLM que nous utilisons sont ChatGPT, Anthropic, Gemini et Titan d'AWS. Nous tirons donc parti d'un certain nombre de modèles différents en arrière-plan pour réaliser l'IA générative elle-même. Mais toutes les intégrations dans nos flux et nos produits sont le fruit de notre travail.

Quels sont les obstacles que vous avez rencontrés dans la mise en œuvre de l'IA au sein de votre organisation, et comment les avez-vous surmontés ?

Nous avons agi rapidement, mais aussi de manière réfléchie en termes de sécurité et de protection de la vie privée. C'est le domaine dans lequel je dirais que nous avons passé un temps raisonnable à réfléchir. Je pense que le plus grand obstacle est d'avoir la créativité nécessaire pour décider où ces LLM peuvent être appliqués et comment concevoir les expériences pour répondre à ces besoins. En fait, il s'agit de développer les capacités. C'est à cela que nous consacrons notre temps aujourd'hui avec une approche de plateforme commune, qui peut ensuite prendre en compte la sécurité. Il est facile de dépenser d'énormes sommes d'argent sans en retirer beaucoup d'avantages. Il faut donc tenir compte de ces facteurs ainsi que des besoins du client. L'équilibre entre ces facteurs a été l'un de nos principaux objectifs.

Quelle est la prochaine étape ?

La grande opportunité pour nous est de tirer parti de l'IA dans un plus grand nombre d'endroits au sein de l'entreprise - en interne ainsi que pour rendre l'expérience de nos employés plus efficace et efficiente. Il y a beaucoup de territoires à couvrir. Nous sommes en train d'explorer toutes les voies possibles. Nous avons beaucoup d'activités en cours pour finaliser la façon dont nous augmentons ces LLM avec nos propres données pour des cas d'utilisation plus internes. Nous sommes en plein dans le vif du sujet. Nous identifions les projets pilotes à lancer en interne.