L’éditeur de solutions de réseau et de sécurité a rendu public les résultats de performance issus des innovations continues de sa technologie NewEdge AI Fast Path.
Intégrée au cloud privé Netskope NewEdge, la solution AI Fast Path optimise le chemin réseau entre les utilisateurs, les sites et les agents vers les destinations IA afin d'accélérer les résultats d'inférence et de minimiser le Time To First Token (TTFT). Elle permet également d'accélérer les workflows complexes d'IA agentique multi-prompts et d'optimiser les performances des LLM lors de l'accès à de grands volumes de données. Lors de tests menés sur l'ensemble du réseau mondial NewEdge avec du trafic réel, il a été démontré que la solution AI Fast Path réduit la latence jusqu'à 90 % vers les destinations IA les plus populaires.
Les services de sécurité, de réseau et d'IA de Netskope sont délivrés par Netskope NewEdge, une infrastructure de cloud privé comprenant plus de 120 datacenters répartis dans plus de 80 régions à travers le monde. Chaque datacenters NewEdge est conçu pour offrir une puissance de calcul complète et l'intégralité des services Netskope. Disponible pour les clients de Netskope dans le cadre de la plateforme Netskope One, AI Fast Path associe le peering étendu du réseau NewEdge à sa technologie unique Route Control, qui analyse en permanence l'état du réseau. Chaque jour, NewEdge analyse des dizaines de millions de routes, évaluant la latence, les bugs et la perte de paquets pour identifier le chemin le plus rapide et le plus fiable, puis redirige automatiquement le trafic dès qu'un meilleur itinéraire est disponible.
De plus, AI Fast Path prend en compte des mesures spécifiques au trafic IA, notamment le TTFT, le taux de génération de jetons soutenu, le Time Per Output Token (TPOT), le pourcentage de la latence globale de l'IA attribuable au temps d'aller-retour réseau, d'autres facteurs liés aux temps de réponse des fournisseurs d'IA ou aux variations géographiques. AI Fast Path améliore ainsi les performances IA pour les clients, tout en renforçant la résilience et la disponibilité du réseau, même lors d'événements imprévus susceptibles de perturber le routage
