La conférence technologique annuelle d’Arm se termine, la plate-forme informatique IA de nouvelle génération est en route
Cet après-midi, la conférence technologique annuelle Arm Tech Symposia s'est terminée avec succès à Shenzhen.
Lors de cette conférence, Arm a discuté en profondeur des exigences informatiques de l'IA et a expliqué comment mieux saisir les opportunités de développement de l'IA à travers les trois cœurs du matériel, des logiciels et de l'écosystème. Les participants présents ont également discuté de l'innovation technologique basée sur Arm et des tendances de développement de l'IA.
James McNiven, vice-président de la gestion des produits de la division Terminal d'Arm, a souligné dans le discours d'ouverture de la conférence à Shenzhen qu'Armv9, en tant que dernière architecture technique d'Arm, a été conçue pour prendre en charge l'informatique IA lors de son lancement, et qu'elle continue d'être mise à jour de manière itérative. Grâce à SVE, SVE2, SME et d'autres technologies clés, Arm continue d'optimiser l'expérience de l'IA mobile avec une innovation architecturale et de puissantes capacités de synergie logicielle et matérielle, permettant aux développeurs d'obtenir d'excellentes performances d'IA.
Lors de cette conférence, le logiciel KleidiAI est l'un des points forts dignes d'attention.
Il réalise une intégration profonde avec les frameworks d'IA traditionnels et peut offrir aux développeurs une expérience de développement fluide lorsqu'il est utilisé avec Arm CSS, KleidiAI intègre Neon ; 
, SVE2 et SME2, etc., pour améliorer significativement les performances des applications informatiques.
Il est rapporté que KleidiAI est un ensemble de cœurs de calcul hautes performances spécialement conçus pour les développeurs de frameworks d'IA.
Il aide les développeurs à obtenir facilement les meilleures performances des processeurs Arm sur une variété d'appareils et à tirer parti des fonctionnalités de base des architectures Arm clés telles que Neon, SVE2 et SME2.
De plus, KleidiAI intègre également des frameworks d'IA populaires tels que PyTorch, Tensorflow et MediaPipe, optimise les performances de modèles tels que Meta Llama 3 et Phi-3 et adopte une conception rétrocompatible et ascendante.
L’avantage est de garantir qu’Arm puisse toujours s’adapter aux besoins futurs du marché lorsqu’il introduira davantage de technologies à l’avenir.
Selon les rapports, l'intégration de KleidiAI a considérablement amélioré l'efficacité de l'IA générative.
Les données montrent que par rapport à l'implémentation de référence (basée sur llama.cpp, mais sans optimisation logicielle Kleidi), sur le nouveau processeur Arm Cortex-X925, Meta Llama 3 utilisant llama.cpp (avec KleidiAI intégré) et Microsoft Phi -3 Le le premier temps de réponse du jeton du grand modèle de langage (LLM) est accéléré de 190 %.
Un autre gros avantage de KleidiAI est sa facilité d’intégration.
Il est rapporté que l’équipe d’ingénierie d’Arm a terminé le test d’optimisation des performances de Llama 3 en moins de 24 heures.
De plus, KleidiAI s'intègre à MediaPipe via XNNPACK pour fournir la prise en charge du Gemma LLM open source fonctionnant sur les appareils mobiles. Grâce à cela, le temps de réponse au premier mot du Gemma 2B sur le smartphone Google Pixel 8 Pro est réduit de 25 %.
Dans le même temps, Arm travaille également avec Unity pour développer le moteur d'inférence d'IA final – Sentis, qui permet aux développeurs de jeux de créer une nouvelle expérience de jeu d'IA sur tous les appareils prenant en charge le moteur de jeu Unity.
De plus, en tant que plate-forme informatique Arm la plus rapide à ce jour, le terminal Arm CSS a obtenu une amélioration de plus de 30 % des performances informatiques et graphiques, ce qui est suffisant pour gérer diverses charges de travail Android exigeantes.
Dans le même temps, Arm terminal CSS améliore également la vitesse d'inférence de l'IA de 59 %, ce qui le rend adapté à un plus large éventail de charges de travail d'IA/d'apprentissage automatique (ML) et de vision informatique.
Le principal avantage du terminal Arm CSS est qu'il est équipé du cluster de processeurs Arm le plus puissant, le plus efficace et le plus complet à ce jour, et s'engage à atteindre le meilleur équilibre entre performances et efficacité énergétique.
Avec la nouvelle génération de processeur Arm Cortex®-X, le CSS du terminal Arm optimisé pour l'IA apporte la plus forte amélioration IPC d'une année sur l'autre, avec une augmentation des performances de 36 % pour le nouveau Arm Immortalis ; Les performances graphiques du GPU augmentent de 37 %.
Le GPU Arm Immortalis-G925 est le GPU le plus puissant et le plus efficace d'Arm, réalisant une amélioration des performances de 37 % dans plusieurs applications de jeux mobiles et une amélioration des performances de 34 % sur plusieurs réseaux IA et ML.
Immortalis-G925 est principalement destiné au marché phare des smartphones.
Et notamment Arm Mali La nouvelle série de GPU hautement évolutive, comprenant les GPU -G725 et Mali-G625, s'adresse à un large éventail de marchés d'appareils électroniques grand public, des téléphones mobiles haut de gamme aux montres intelligentes et aux appareils portables XR.
Arm prédit que d’ici fin 2025, il y aura plus de 100 milliards d’appareils Arm dotés de capacités d’IA dans le monde.
Des capteurs et smartphones à l’Internet industriel des objets, en passant par les automobiles et les centres de données, tout comme la construction de gratte-ciel nécessite une base solide, le développement vigoureux de la technologie de l’IA ne peut être séparé du soutien de plates-formes informatiques puissantes et efficaces.
Grâce à ses efforts inlassables en matière d'architecture de puce et d'innovation technologique, Arm construit la base la plus fiable pour ce « gratte-ciel de l'IA » et jouera un rôle de plus en plus critique dans ce changement technologique.
# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.
Ai Faner | Lien original · Voir les commentaires · Sina Weibo