Google a publié son modèle d'IA open source Gemma 3n, positionné comme une avancée pour l'IA sur mobile en apportant des capacités multimodales et des performances plus élevées sur ce type de terminaux. Présenté en mai, ce SLM est multimodal de par sa conception, avec une prise en charge native des entrées et sorties d'images, d'audio, de vidéo et de texte, a déclaré Google. Optimisés pour les téléphones, les tablettes, les ordinateurs portables, mais pouvant aussi tourner sur les PC de bureau d'entrée de gamme, les SLM Gemma 3n sont disponibles en deux tailles basées sur des paramètres « effectifs », E2B et E4B. Alors que le nombre de paramètres bruts pour E2B et E4B est respectivement de 5B et 8B, ces modèles fonctionnent avec une empreinte mémoire comparable aux modèles 2B et 4B traditionnels, soit seulement 2 et 3 Go de mémoire, selon Google.
Annoncé en tant que version de production le 26 juin, ces modèles sont téléchargeables sur Hugging Face et Kaggle. Les développeurs peuvent également tester Gemma 3n dans Google AI Studio. Ce LLM est construit sur la même technologie que les modèles Gemini Nano. Ils s'articulent autour de l'architecture MatFormer pour la flexibilité de calcul, Per Layer Embeddings (PLE) pour l'efficacité de la mémoire, LAuReL et AltUp pour l'efficacité architecturale, et les encodeurs audio et vision optimisés pour les mobiles. En outre, 140 langues sont prises en charge pour le texte et 35 langues pour la compréhension multimodale.
Une performance notable pour moins de 10 milliards de paramètres
La version de taille E4B obtient un score LMArena de plus de 1300, ce qui en fait le premier modèle de moins de 10 milliards de paramètres à atteindre ce niveau de référence d'après la firme de Mountain View. La première famille de SLM Gemma a été lancée en 2024. La gamme comprend plus d'une douzaine de modèles spécialisés pour des tâches allant de la protection aux applications médicales, ainsi que des innovations communautaires, y compris vision assistée par ordinateur (computer vision) pour les variantes japonaises de Gemma.

Commentaire