Pour éviter la congestion réseau des applications IA, Netskope a présenté la fonction AI Fast Path dans son cloud privé NewEdge. Elle réduit la latence des applications tout en maintenant les contrôles de sécurité. « Les applications IA envoient des tonnes de trafic et échangent beaucoup de données » souligne Robert Arandjelovic, responsable du marketing des produits et des solutions chez Netskope. Il ajoute, « il y a donc naturellement une latence, mais si la sécurité venait à accroître cette latence, les utilisateurs essaieront de la contourner. »
Pour cela, IA Fast Path se concentrer sur l'optimisation des flux de trafic entre les utilisateurs d'entreprise, le cloud Netskope et les principaux fournisseurs IA. Le spécialiste de la sécurité réseau affirme que plus de 90 % de ses 120 centres de données NewEdge peuvent désormais se connecter aux principales applications IA en moins de cinq millisecondes. Le service minimise les retards induits par l’inspection du trafic pour le DLP (prévention des pertes de données) la protection contre les menaces et l’application des politiques. « Les clients ont compris que s'ils n'adoptaient pas ces applications IA, ils risquaient de disparaître d'ici à quelques années. Dans le même temps, nous ne pouvons pas faire de compromis de sécurité », a ajouté M. Arandjelovic. « Avec NewEdge et AI Fast Path, nous avons créé un chemin ultra-optimisé où il n'y a littéralement presque aucun obstacle. Surtout, ils ne compromettent pas la sécurité, car ce chemin passe par notre cloud et profite de notre protection des données et de notre protection contre les menaces. »
Plusieurs optimisations
En tant qu'ensemble de fonctionnalités au sein de NewEdge, AI Fast Path améliore les performances et l'efficacité des applications IA. Selon Netskope, la solution offre aux entreprises plusieurs avantages. Tout d’abord, des résultats d'inférence plus rapides pour les utilisateurs professionnels, de la requête à la réponse, ce qui réduit le « temps de réponse au premier jeton » (Time-to-First-Token, TTFT) pour l'IA conversationnelle. Par ailleurs, elle permet une optimisation de l'IA agentique en accélérant les workflows agentiques complexes à invites multiples grâce au traitement à haute vitesse requis pour les sous-tâches IA rapides et itératives. De même, elle améliore la performance des LLM lors de l'accès à de grands volumes de données distribuées (par exemple, via des passerelles Model Context Protocol). Enfin, le support du RAG est effectif en accélérant la connectivité entre les LLM et les sources de données externes.
Les optimisations AI Fast Path offrent aux charges de travail IA un accès direct et à faible latence à des services comme Google Gemini, ChatGPT et Claude, en partie grâce à l'extension par Netskope de ses relations de peering de 10 000 à 11 000. « Les fonctionnalités AI Fast Path sont incluses dans l'infrastructure NewEdge et disponibles pour les clients existants sans licence supplémentaire », a précisé l’entreprise.