Certains téléphones Android sont sur le point de bénéficier d’applications d’IA super puissantes
Vous avez peut-être déjà essayé de nombreuses applications d'IA générative sur votre téléphone. ChatGPT ou HeyPi d'OpenAI sont quelques exemples d'applications d'IA bavardes, tandis que Runway ML vous permettra de créer des vidéos générées par l'IA directement sur votre téléphone.
Mais jusqu'à présent, presque toutes les applications d'IA générative reposaient sur l'informatique basée sur le cloud, ce qui signifie que tout le traitement magique de l'IA se produit dans le cloud, tout comme les kits Xbox font le gros du travail dans les centres de serveurs Microsoft lorsque vous diffusez un jeu de console sur votre ordinateur. téléphone ou tablette.
MediaTek veut changer cela, en permettant l'informatique générative sur l'appareil directement sur votre smartphone. Cet ambitieux projet de lune se matérialisera avec le prochain chipset phare de MediaTek, qui apparaîtra dans les téléphones Android d'ici la fin de cette année. La société est aidée dans ses efforts par la société mère de Facebook, Meta, qui propose le modèle Llama 2 comme pierre angulaire des applications d'IA générative.
Le fabricant de puces vante toute une gamme d'avantages de son approche de traitement de l'IA générative sur l'appareil, qui comprend « des performances transparentes, une plus grande confidentialité, une meilleure sécurité et fiabilité, une latence plus faible, la possibilité de travailler dans des zones avec peu ou pas de connectivité et une plus faible cout d'opération."
Accélérer l'IA générative sur les téléphones
La prochaine puce haut de gamme MediaTek emploiera trois tactiques clés pour améliorer l'expérience d'IA générative pour les smartphones. Premièrement, il comportera une pile logicielle dédiée optimisée pour exécuter Llama 2, un grand modèle de langage open source développé par Meta qui cherche à défier les modèles GPT d'OpenAI et PaLM 2 de Google.
Llama 2, sorti en juillet, est « gratuit pour la recherche et l’utilisation commerciale ». Jusqu’à présent, peu d’applications s’appuyant sur le modèle linguistique Llama 2 sont arrivées, car les applications d’IA basées sur GPT font actuellement parler d’elles. Mais Meta sollicite activement les acteurs de l'industrie des smartphones, notamment Qualcomm, le grand rival de MediaTek.
Tout comme MediaTek, Qualcomm a également signé un accord avec Meta pour présenter le traitement sur appareil des applications basées sur Llama sur les smartphones alimentés par ses puces phares à partir de 2024. Les deux sociétés ciblent également d'autres domaines d'application, tels que les véhicules. Matériel XR, appareils domestiques intelligents et bien plus encore, avec leurs efforts d'IA générative locale facilités par un silicium de premier ordre.
Sur sa prochaine puce phare compatible avec l'IA, MediaTek utilisera également un APU (AI Processing Unit) amélioré qui s'appuie sur « l'accélération du transformateur ». Les transformateurs sont un type d'architecture de réseau neuronal chargé de créer de grands modèles de langage tels que GPT (Generative Pre-Trained Transformers) qui ont donné naissance à des produits tels que ChatGPT et Bing Chat de Microsoft .
Enfin, la nouvelle puce de MediaTek s'intégrera également dans le module DRAM pour améliorer l'expérience utilisateur des applications d'IA générative basées sur Llama. La DRAM, abréviation de Dynamic Random Memory, est le module de mémoire haute vitesse et à faible latence qui stocke les données de travail d'une application. Plus votre téléphone contient de DRAM, plus le nombre d'applications que vous pouvez exécuter en arrière-plan sans aucun problème est élevé. Il y a une raison pour laquelle les fabricants de smartphones comme OnePlus ont installé jusqu'à 24 Go de DRAM sur leurs téléphones.
Ce que ces mises à niveau de l'IA signifient pour vous
Avec les modifications susmentionnées en place, MediaTek affirme que sa prochaine puce d'IA améliorera l'expérience LLM et AIGC (Artificial Intelligence-Generated Content) en déplaçant l'essentiel des exigences de traitement vers le matériel local.
Quant au type de tâches que vous pouvez espérer accélérer, cela dépendra des capacités du modèle Llama 2 de Meta et du type d'applications construites dessus. Llama 2 est un modèle de langage naturel basé sur du texte, vous pouvez donc vous attendre à ce qu'il fasse le même genre d'astuces que ChatGPT ou Bard. Il peut traiter des requêtes et fournir des réponses basées sur ses ensembles de données de formation, résumer ou développer du texte, et bien plus encore.
Quant à MediaTek, ce ne sera pas le premier partenariat de ce type en matière d'IA. En juillet de cette année, la société a signé un accord avec la branche chinoise d'Unity – qui développe le moteur de développement de jeux éponyme – pour explorer les applications d'IA générative dans le segment des jeux.
MediaTek s'attend à ce que sa nouvelle puce avec les applications Llama 2 arrive sur les smartphones d'ici la fin de l'année, nous n'avons donc plus beaucoup à attendre pour voir à quoi tout cela ressemble dans un produit réel.