Qualcomm affirme que ses nouvelles puces sont 4,5 fois plus rapides en IA que ses concurrents

Qualcomm vient d'annoncer deux nouveaux processeurs puissants qui excellent dans l'IA générative, l'un pour les ordinateurs portables et l'autre pour les téléphones. Alors que les applications potentielles de l’intelligence artificielle continuent de s’étendre du texte aux images, en passant par la vidéo et au-delà, un traitement plus rapide sur votre propre appareil devient de plus en plus important.

Le Snapdragon X Elite est le nouveau processeur pour ordinateur portable passionnant de Qualcomm, offrant les meilleures performances CPU de sa catégorie pour les ordinateurs portables Windows et une vitesse GPU impressionnante. Pour les téléphones, le Snapdragon 8 Gen 3 surpasse la génération précédente avec une vitesse 30 % supérieure tout en consommant 20 % d’énergie en moins de votre batterie.

Les spécifications du CPU et du GPU sont importantes, mais avec sa dernière version de puces, Qualcomm a mis l'accent sur la puissance de traitement IA de ses dernières puces. Grâce à ces performances améliorées, Qualcomm a optimisé plusieurs modèles d'IA générative pour qu'ils s'exécutent localement sur les ordinateurs portables et les téléphones Snapdragon – et ses réclamations contre Intel, AMD et Apple sont impressionnantes.

Alors, à quelle vitesse évolue l’IA ? Eh bien, selon Qualcomm, les nouvelles puces Snapdragon X Elite fournissent 45 TOPS (des milliards d'opérations par seconde) sur les tests de référence INT4 AI et 30 jetons par seconde sur le modèle avancé Llama 2 AI de Meta . Qualcomm affirme que c'est 4,5 fois plus rapide que ses concurrents. Le Snapdragon 8 Gen 3 est censé traiter 20 jetons par seconde, fournir une segmentation en temps réel pour séparer les objets dans une image pour un traitement photo avancé et exécuter une diffusion stable pour la génération d'images en moins d'une seconde.

Le Snapdragon X Elite est également capable d’exécuter des modèles d’IA génératifs de 13 milliards de paramètres sur l’appareil. Pour les téléphones, des modèles de 10 milliards de paramètres peuvent fonctionner sur le Snapdragon 8 Gen 3. Durga Malladi, vice-président senior et directeur général de la planification technologique et des solutions de pointe de Qualcomm, affirme que le Snapdragon 8 Gen 3 est le premier à prendre en charge le multimodal (images , SMS, etc.) sur les téléphones.

Au-delà des performances brutes, Qualcomm affirme que son IA intégrée à l'appareil contribue à sécuriser les requêtes et les résultats, garantissant ainsi la confidentialité des utilisateurs. Étant donné que vos selfies, vos photos et vidéos personnelles, votre voix et votre texte sont tous utilisés avec les nouvelles applications d'IA multimodales , vos données biométriques et personnelles sont potentiellement menacées si vous les téléchargez vers une IA basée sur le cloud.

Alors que l’IA basée sur le cloud connaît des difficultés croissantes liées à une adoption rapide, ainsi qu’à des difficultés pour évoluer suffisamment rapidement, le traitement local de l’IA peut offrir une latence plus faible, une consommation d’énergie moindre et des coûts inférieurs.

Qualcomm a expliqué que tout cela est possible grâce à la synergie de la technologie. Plusieurs des modèles d'IA les plus populaires ont été optimisés pour les processeurs Snapdragon et utilisent le CPU, le GPU, le NPU (processeur neuronal) et le hub de détection travaillant ensemble pour fournir des résultats beaucoup plus rapidement que la génération précédente. Les nouvelles puces prennent également en charge la mémoire LPDDR5X ultra-rapide pour éliminer les goulots d'étranglement de traitement.

À mesure que la demande d'IA augmente, le Snapdragon X Elite pour ordinateurs portables et le Snapdragon 8 Gen 3 pour téléphones de Qualcomm sont prêts à rendre la génération d'images plus rapide, le traitement de texte plus rapide et tous deux plus sécurisés en permettant le traitement sur l'appareil. Il sera intéressant de voir ce que les premiers ordinateurs portables et téléphones équipés des nouvelles puces de Qualcomm peuvent faire avec ces capacités améliorées.