GenAI : Apple comme alternative à Nvidia avec webAI et MacStadium

Que se passerait-il si n’importe quelle entreprise pouvait créer une solution d'IA générative (GenAI) spécifique à son activité et hébergée dans le cloud ? Et si ce cloud utilisait les systèmes les plus économes en énergie au monde ? Et si ces services fonctionnaient également sur la plateforme informatique la plus sûre au monde, le Mac ? MacStadium et webAI ont répondu à la question en concrétisant cette idée. Les deux entreprises sont déjà connues. MacStadium est un fournisseur avec laquel il faut compter et elle a offert le premier grand déploiement de solutions Apple-as-a-service hébergées dans le cloud. Quant à webAI, elle a fait sensation avec son offre, qui fonctionne très bien sur un MacBook Air, et fonctionne encore mieux lorsqu'elle est hébergée dans le cloud. Les deux fournisseurs proposent désormais un service qui permet d'installer et d'utiliser des modèles webAI sur des racks de Mac hébergés par MacStadium. Les utilisateurs professionnels y trouvent leur compte : ils peuvent faire fonctionner leurs propres modèles GenAI auto-entraînés pour soutenir leurs propres objectifs commerciaux sur des Mac dans le cloud, et mettre ces modèles à la disposition de toute leur entreprise en mode hébergé.

Cette solution surpasse d'autres approches hébergées, car le service reste unique pour l'entreprise, protégé par la sécurité du Mac et stimulé par les coûts énergétiques plus faibles des ordinateurs Mac. En d'autres termes, avec cette solution combinée, les entreprises pourront maintenir leurs propres politiques de confidentialité et de sécurité des données tout en étant hébergée sur un ensemble de plateformes hautement sécurisées. Bien entendu, cette solution ne s'adresse pas à toutes les entreprises, beaucoup d'entre elles voudront créer leurs propres clusters basés sur le Mac. Mais ce service signifie que les entreprises de toute taille peuvent désormais raisonnablement déployer et gérer une banque de Mac pour soutenir leur activité avec l'IA.

Apple aussi ?

Ce service laisse également sérieusement entrevoir un avenir pour la solution Private Cloud Compute d'Apple basée sur les serveurs. Il est raisonnable d'imaginer que les solutions protégées d'Apple puissent offrir de l'IA en tant que service aux entreprises clientes, le tout protégé par une promesse de faible consommation d'énergie et de haute sécurité. Même si Apple ne va jamais essayer de s’imposer dans le domaine de l'infrastructure hébergée dans le cloud, il y a désormais l’alliance entre MacStadium et webAI. « Cette collaboration avec webAI représente une étape importante dans l'évolution de l'IA pour les entreprises », a estimé Ken Tacelli, le CEO de MacStadium, dans un communiqué. « En combinant notre expertise du cloud macOS avec l'approche du modèle interconnecté de webAI, nous créons une plateforme qui va changer fondamentalement la façon dont les entreprises développent et déploient des systèmes d'IA avancés sur le silicium d'Apple. »

L'offre présente des avantages considérables : par exemple, le système prend en charge jusqu'à 20 000 requêtes API simultanées par minute. De plus, l'architecture de webAI permet de réduire jusqu'à 30 % la taille des modèles tout en minimisant la perte de précision. Et les entreprises clientes peuvent aussi héberger et exploiter les plus grands modèles d'IA du monde en mode natif sur Apple Silicon. C'est un aspect très important si l'on considère l'efficacité énergétique des Mac à ce niveau et cela devrait contribuer à réduire considérablement les coûts de fonctionnement de l'IA sur le plan environnemental. C'est une bonne chose, non seulement en termes de coût par kWh, mais aussi en termes d'impact plus large de la consommation d'énergie. Le service utilise également l'inférence de l'IA, qui réduit la taille des modèles sans nuire à la précision.

Plus abordable que Nvidia ?

Le cofondateur et CEO de webAI, David Stout, a affirmé au site The New Stack, spécialisé dans les serveurs, que sur la base du coût par token, ces clusters Mac étaient plus abordables que les GPU Nvidia. « C'est aussi plus privé que n'importe quelle autre solution », a-t-il précisé. Travaillant avec MacStadium, M. Stout pense que le système devrait être considéré comme l'un des « plus sûrs pour le traitement privé hors site ». De plus, c’est une solution native en matière d'IA, c’est-à-dire qu’elle n’a pas été adaptée pour intégrer l'IA. Pour la plupart des entreprises, cela signifie qu'elles peuvent déployer de puissants modèles d'IA hébergés dans le cloud sur la plateforme la plus sécurisée au monde, à un coût abordable, si bien que même les petites entreprises seront en mesure de déployer et de fournir en toute sécurité des solutions d'IA hébergées afin d'être compétitives. Et tout cela avec un Mac.