Elon Musk affirme que le monde manque de données pour la formation en IA

Elon Musk, PDG de Tesla/X, semble croire que la formation de modèles d’IA avec uniquement des données créées par l’homme devient impossible. Musk affirme qu'il existe un manque croissant de données du monde réel avec lesquelles former des modèles d'IA, y compris son chatbot Grok AI.

"Nous avons désormais pratiquement épuisé la somme cumulée des connaissances humaines… dans la formation à l'IA", a déclaré Musk lors d'une interview en direct de X menée par le président de Stagwell, Mark Penn. "Cela s'est produit essentiellement l'année dernière."

Les commentaires de Musk reflètent ceux de l'ancien chercheur d'OpenAI, Ilya Sutskever, qui avait prédit en décembre dernier que l'industrie de l'IA avait atteint le « pic de données ». La solution proposée par Musk à ce problème – les données synthétiques – reflète également celle de l’industrie dans son ensemble. Google, OpenAI, Anthropic et Meta exploitent déjà des données synthétiques pour entraîner leurs modèles.

"La seule façon de compléter [les données du monde réel] est d'utiliser des données synthétiques, où l'IA crée des [données d'entraînement]", a déclaré Musk. « Avec les données synthétiques… [IA] va en quelque sorte s’auto-évaluer et passer par ce processus d’auto-apprentissage. »

Bien que l'utilisation de données synthétiques puisse permettre aux entreprises de réaliser d'importantes économies, certaines études suggèrent qu'une dépendance excessive à l'égard des données synthétiques peut conduire à l'effondrement du modèle, dans lequel les réponses de l'IA deviennent moins créatives et plus biaisées au fil du temps, à mesure qu'elles sont entraînées à plusieurs reprises sur des données générées de manière récursive. données.

Le manque de données d'origine humaine n'a pas empêché X d' intégrer jeudi sa fonctionnalité Grok AI dans sa propre application iOS . Le chatbot et le générateur d'images, remarquables par leur absence totale de propriété intellectuelle ou de garde-fous de contenu , n'étaient auparavant disponibles que pour les personnes déboursant 8 $ par mois pour un compte premium X. Cependant, la nouvelle application peut être téléchargée gratuitement par tous.