Apple n’a pas répondu à la question la plus importante sur ses fonctionnalités d’IA
Hier, lors des débuts d'Apple Intelligence à la WWDC 2024 , le vice-président principal de l'ingénierie logicielle, Craig Federighi, a vanté à plusieurs reprises la sécurité de la nouvelle fonctionnalité et la gestion délicate des données utilisateur sensibles. Pour protéger la confidentialité des utilisateurs, Apple Intelligence effectue bon nombre de ses opérations génératives sur l'appareil. Et pour ceux qui dépassent ses capacités embarquées, le système transférera le travail vers le nouveau Private Cloud Compute (PCC) de l'entreprise.
Cependant, comme l'a demandé lundi le Dr Matthew Green, professeur agrégé d'informatique à l'Université Johns Hopkins de Baltimore, le cloud IA d'Apple est peut-être sécurisé, mais est-il digne de confiance ?
Apple Intelligence promet de doter votre iPhone, iPad et Mac de modèles génératifs de pointe capables de créer des images, de modifier votre écriture et d'effectuer des actions en votre nom dans un nombre illimité d'applications. Les appareils Apple effectuent déjà des tâches d'apprentissage automatique sur l'appareil depuis plusieurs années ; prenez par exemple la fonction de recherche de la pellicule et la reconnaissance de texte par reconnaissance optique de caractères (OCR). Cependant, comme le souligne Green , même la dernière génération de processeurs Apple n'est pas encore assez puissante pour gérer certaines des opérations d'IA les plus complexes et les plus gourmandes en ressources mises en ligne, nécessitant l'utilisation de serveurs de calcul cloud.
Le problème est que ces modèles complexes nécessitent également un accès non crypté aux données de l'utilisateur afin d'effectuer des fonctions d'inférence et que la transmission de ces données vers un cloud public les expose au risque d'être piratées, divulguées ou carrément volées. La solution d'Apple consistait à construire ses propres centres de données autonomes et renforcés spécifiquement pour le traitement des données Apple Intelligence : le PCC. Ce « système d'intelligence cloud révolutionnaire », selon un récent article du blog de sécurité Apple , « étend la sécurité et la confidentialité des appareils Apple, à la pointe du secteur, dans le cloud, en garantissant que les données personnelles des utilisateurs envoyées au PCC ne soient accessibles à personne d'autre que l’utilisateur – même pas à Apple.
Le problème est que même si le matériel « neuronal » des téléphones modernes s’améliore, il ne s’améliore pas assez rapidement pour tirer parti de toutes les fonctionnalités folles que la Silicon Valley attend de l’IA moderne, y compris l’IA générative et ses semblables. Cela nécessite fondamentalement des serveurs. 3/
— Matthew Green (@matthew_d_green) 10 juin 2024
Mais garantir la confidentialité est beaucoup plus difficile dans la pratique. "Construire des ordinateurs fiables est littéralement le problème le plus difficile en matière de sécurité informatique", a écrit Green. "Honnêtement, c'est presque le seul problème en matière de sécurité informatique." Il a félicité l'entreprise d'avoir appliqué à ses nouveaux serveurs bon nombre des mêmes fonctionnalités de sécurité intégrées à ses appareils mobiles et de bureau, notamment Secure Boot, un logiciel « sans état » et un processeur Secure Enclave (SEP), ainsi que d'avoir « lancé toutes sortes de processus au niveau du matériel du serveur pour garantir que le matériel n'est pas falsifié.
Apple a fait de grands efforts pour garantir la légitimité des logiciels exécutés sur ses serveurs, en effaçant automatiquement toutes les données utilisateur d'un nœud PCC dès que la demande a été complétée et en permettant au système d'exploitation de l'appareil d'« attester » de quelle image logicielle il s'agit. en cours d'exécution.
« Si vous donniez une énorme somme d'argent à une excellente équipe et lui demandiez de construire le meilleur cloud « privé » au monde, cela ressemblerait probablement à ceci », a écrit Green. « Mais maintenant, les questions difficiles. Est-ce que c'est une bonne idée? Est-ce aussi sécurisé que ce que propose Apple aujourd’hui » et les utilisateurs peuvent-ils se désinscrire ? Il ne semble même pas que les utilisateurs adhèrent au nouveau service. « On ne vous dira même pas nécessairement que cela se produit », a-t-il poursuivi. « Cela va juste arriver. Magiquement. Je n'aime pas cette partie.
Green poursuit en affirmant que les pirates ne constituent même pas la plus grande menace pour les données des utilisateurs : ce sont les éditeurs de matériel et de logiciels eux-mêmes. En tant que tel, « ce système PCC représente un réel engagement de la part d'Apple de ne pas « jeter un œil » à vos données », a conclu Green. "C'est un gros problème."
Apple Intelligence devrait commencer à être déployé plus tard cet été. Et dans les semaines à venir, Apple prévoit d'inviter des chercheurs en sécurité pour un premier aperçu du logiciel PCC et de l'environnement de recherche virtuel.