Fractile conçoit une puce dédiée à l'inférence

Titulaire d'un doctorat en robotique, Walter Goodwin cherche à secouer l'industrie des puces d'IA est innovante : cet entrepreneur de 29 ans promet de fournir un matériel 100 fois plus rapide, 10 fois moins cher et 20 fois plus économe en énergie que les GPU de Nvidia qui dominent le marché aujourd'hui. Walter Goodwin explique qu'il a eu l'idée de créer cette entreprise alors qu'il travaillait à l'Oxford Robotics Institute et qu'il cherchait comment utiliser de grands modèles de langage (LLM) pour construire des robots polyvalents capables de naviguer dans des environnements réels. En 2022, M. Goodwin fonde Fractile avec l’idée de combiner le stockage et le calcul sur une seule puce qui résoudrait un problème de goulot d'étranglement affectant les performances d'inférence de l'IA qu’aucun concepteur n’a exploré.

Sortie du mode furtif en 2024, Fractile a vu sa notoriété augmenter, notamment après le message posté récemment sur LinkedIn par l'ancien CEO d'Intel, Pat Gelsinger, où il annonce qu’il a investi dans l'entreprise et qu'il prévoit d'y jouer un rôle consultatif. M. Gelsinger a écrit : « Avec l'avènement des modèles de raisonnement, qui nécessitent la génération de milliers de jetons de sortie en mémoire, les limites des feuilles de route matérielles existantes ont été aggravées. Pour réaliser nos aspirations en matière d'IA, nous aurons besoin d'une inférence radicalement plus rapide, moins chère et beaucoup moins gourmande en énergie. J'ai le plaisir de vous annoncer que j'ai récemment investi dans Fractile, une entreprise d'IA fondée au Royaume-Uni, qui poursuit une voie suffisamment radicale pour offrir un tel bond en avant. »

Prabhu Ram, vice-président de l'Industry Research Group chez Cybermedia Research, a renchéri en déclarant : « J'ai suivi Fractile pour sa conception innovante de puces d'IA, mais mon intérêt s'est intensifié après l'investissement de Pat Gelsinger. » Il explique que « Fractile se concentre sur l'informatique en mémoire, qui améliore l'inférence de l'IA en réduisant la latence et la consommation d'énergie grâce à des transferts de données minimisés. Alors que les discussions sur l'IA étaient traditionnellement centrées sur la formation, l'accent est désormais mis sur l'inférence. » Ce dernier fait remarquer qu'il existe d'autres acteurs sur le marché, mais que la « conception novatrice de la puce et le financement solide de Fractile la positionnent comme une alternative prometteuse. »

De l'universitaire à l'entrepreneur

Selon M. Goodwin, la transition entre le monde universitaire et la gestion d'une entreprise s'est faite en douceur. Il souligne que le monde universitaire comporte un aspect compétitif. « On se retrouve à fonder une entreprise sur la base de son propre travail de thèse. Il faut s’assurer que l’on a un avantage concurrentiel et un point de vue différent de celui des autres personnes dans le domaine », a-t-il raconté. « Le doctorat est une formation en haute altitude pour diriger une entreprise. En tant que fondateur d’une entreprise, ce que j'aime, ce sont toutes les personnes qu'il faut trouver et persuader », a ajouté M. Goodwin. Jusqu'à présent, il a constitué une équipe de 32 « collègues incroyablement brillants ».

Que fait Fractile ?

Un modèle d'IA se compose de deux éléments : la formation et l'inférence. La fonction de formation prépare le LLM à l'inférence, c'est-à-dire à la création de résultats, à la réponse à des requêtes, à la génération d'images, de textes, de codes, etc. M. Goodwin explique que, selon l'approche traditionnelle de l'inférence, la puce d'IA doit se référer à la base de données du modèle d'apprentissage, qui est stockée dans la DRAM, ce qui peut représenter des téraoctets de mémoire qui doivent être transférés du stockage au calcul. Ce processus se produit chaque fois que le système d'IA, comme ChatGPT, ajoute un nouveau mot à sa sortie. En fusionnant la mémoire et le traitement de l'inférence sur une seule puce, « les avantages sont une multiplication par cent de la bande passante effective et une efficacité énergétique beaucoup plus élevée », a affirmé M. Goodwin.

Quels avantages pour les entreprises ?

L’avantage concurrentiel que pourraient gagner les entreprises qui déploient des puces Fractile peut se manifester de différentes façons. Par exemple, leurs robots de réponse pourront produire beaucoup plus de mots par seconde, ou elles auront la capacité de servir plus de clients en parallèle pour les mêmes coûts. À mesure que les systèmes d'IA s'améliorent et que leurs raisonnements deviennent plus performants, ils passeront d'une production qui se contente de sauter au mot suivant en série à une production qui constitue une chaîne de pensée plus longue. « On pourra servir des chatbots aux utilisateurs 100 fois plus vite, ou l’on pourra servir des réponses à la même vitesse, mais les faire réfléchir 100 fois plus fort », a avancé M. Goodwin. Ces types de réseaux neuronaux peuvent donner un avantage aux entreprises, en particulier lorsque l'IA s'intègre dans un plus grand nombre de processus d'entreprise au fil du temps. « Les clients ou les employés pourraient avoir accès aux modèles d'inférence les plus rapides du monde, ce qui aurait un effet transformateur », a encore affirmé M. Goodwin.

Encore du chemin à parcourir

Walter Goodwin admet que « la mise en place d'une pile complète de matériel et de logiciels est une opération lourde », qui nécessitera un effectif de plus de 100 personnes et un capital de plus de 25 millions de dollars. Jusqu'à présent, l'entreprise a conçu l'architecture du matériel et modélisé son comportement. L'objectif est d'accélérer encore les efforts de développement. « Nous avançons à un bon rythme. Si tout se passe bien, nous devrions envoyer une puce d'ici la fin de l'année prochaine, pour un produit expédié en 2027. » Sur le plan commercial, il ajoute que l'entreprise, qui a levé environ 20 millions de dollars jusqu'à présent, doit continuer à attirer de nouveaux investissements. Parmi les premiers bailleurs de fonds figurent Kindred Capital, le Fonds d'innovation de l'OTAN, Oxford Science Enterprises, Cocoa VC et Inovia Capital, ainsi que des investisseurs providentiels et des anciens élèves d'autres entreprises d'IA et de semi-conducteurs.

Alors, la startup Fractile est-elle assez audacieuse pour penser qu'elle peut faire tomber Nvidia de son piédestal, ou vise-t-elle un marché plus limité de puces personnalisées ? Selon M. Goodwin, Fractile veut déjà « enfiler le fil dans le chas de l'aiguille », en construisant une pile matérielle/logicielle qui prenne en charge « une génération de produits phares qui servent plusieurs clients », y compris les charges de travail générales et personnalisées. M. Ram pense que la startup Fractile « a beaucoup d’obstacles à franchir avant de pouvoir prétendre à une position de leader sur le marché ». « Alors que Fractile prépare encore son lancement, le paysage hyperconcurrentiel du matériel d'IA continue d'évoluer, avec des acteurs établis et des start-ups émergentes qui progressent rapidement », a tempéré M. Ram. « Pour défier les leaders de l'industrie comme Nvidia, Fractile doit non seulement tenir ses promesses ambitieuses en matière de performances, mais aussi construire un écosystème solide de développeurs pour assurer sa viabilité à long terme. »