Lourd! Musk va développer un concurrent de ChatGPT, critiquant OpenAI pour sa détérioration

En 2015, en tant que l'un des initiateurs, Musk a cofondé OpenAI avec l'actuel PDG d'OpenAI.

L'intention initiale de ce groupe de personnes est de développer l'intelligence artificielle générale de la manière la plus susceptible de profiter à toute l'humanité et de concurrencer les géants de la technologie de l'intelligence artificielle à but lucratif tels que Google.

En 2018, Musk a démissionné du conseil d'administration d'OpenAI parce que Tesla développe également une technologie de conduite autonome basée sur l'intelligence artificielle, il pourrait donc avoir un "conflit d'intérêt potentiel" avec OpenAI.

En 2023, lorsque ChatGPT développé par OpenAI a conquis le monde, Musk, mécontent, s'est tourné vers OpenAI et a lancé un gant.

Recruter des troupes de DeepMind et planifier un concurrent ChatGPT

L'Information rapportait que Musk "recrutait" ces dernières semaines, se rapprochant de chercheurs en intelligence artificielle, envisageant de monter un nouveau laboratoire de recherche pour développer un concurrent à ChatGPT.

L'une des personnes recrutées était Igor Babuschkin, qui connaît bien les modèles d'apprentissage automatique qui alimentent les chatbots comme ChatGPT et qui a récemment quitté la division DeepMind AI d'Alphabet.

Il est notamment co-auteur d'un article sur l'apprentissage automatique de 2021 décrivant un modèle d'apprentissage automatique appelé Gopher, qui est comparable au modèle de langage naturel GPT-3.5 derrière ChatGPT.

Dans une récente interview, Igor Babuschkin a révélé que lui et Musk avaient discuté de la formation d'une équipe, mais le projet en est encore à ses débuts et il n'y a pas de plans précis pour développer des produits spécifiques.

Par conséquent, il n'y a pas de nouvelles définitives sur ce à quoi ressemble le "ChatGPT" idéal de Musk, mais à partir de l'évaluation précédente de Musk sur ChatGPT et de ce qu'il a fait en tant que PDG de Twitter, nous pouvons en avoir un aperçu.

"Ce dont nous avons besoin, c'est de TruthGPT", a tweeté Musk le 17 février. Il était contrarié que ChatGPT ait refusé de répondre à certaines questions controversées.

Mais il n'a pas précisé, comment définir TruthGPT ? Devrait-il permettre la liberté d'expression « dans le cadre de la loi », comme Musk l'avait envisagé pour Twitter ?

En d'autres termes, un chatbot doit-il répondre à toutes les questions quel que soit le sujet de la question ? Musc ne dit rien. Cependant, lorsque la zone de commentaires a déclaré "Nous ne pouvons pas contrôler TruthGPT", Musk a répondu "Vous avez peut-être raison".

De plus, OpenAI utilise une méthode de développement de modèle de langage appelée "apprentissage par renforcement à partir de la rétroaction humaine", qui consiste à ajuster le modèle grâce à la contribution humaine afin qu'ils puissent produire des réponses plus idéales, éviter le racisme, les discours de haine, etc. .

Mais Musk pense que les modèles reflètent les propres préjugés des développeurs.

Tous les signes semblent indiquer que la version de "ChatGPT" de Musk aura moins de restrictions sur le contenu.

Dans le même temps, et peut-être quelque peu paradoxalement, Musk a appelé à plusieurs reprises à une réglementation de l'industrie de l'IA, arguant qu'il y a des limites dans la technologie à ne pas dépasser, et il a également proposé lors du Sommet mondial des gouvernements en février de cette année :

Les voitures, les avions et les médicaments doivent se conformer aux normes de sécurité réglementaires, mais l'intelligence artificielle n'a pas encore eu de réglementation régissant son développement. Nous devons réglementer la sécurité de l'IA, qui présente en fait un plus grand risque pour la société que les voitures, les avions ou les produits pharmaceutiques.

Revenant au chercheur proche de Musk ci-dessus, il a répondu dans une interview que "moins de restrictions de contenu" n'est en fait pas l'objectif de Musk. Son objectif est d'améliorer la capacité de raisonnement et l'authenticité des grands modèles de langage et de s'assurer que le modèle Les réponses sont plus digne de confiance et fiable.

Bref, bien dit, mais encore un nuage de brouillard.

Rejeter la "dictature" des géants et construire une symbiose entre humains et intelligence artificielle

Lorsque ChatGPT est sorti pour la première fois fin novembre, Musk a commenté en tweetant que "ChatGPT est effrayant" et que "nous ne sommes pas loin d'une intelligence artificielle dangereusement puissante".

Il y a 7 ans, en 2016, OpenAI n'était établie que depuis six mois, et Musk siégeait toujours au conseil d'administration.Il a eu une conversation avec l'actuel PDG d'OpenAI, Sam Altman, à l'usine Tesla.

Sam Altman a demandé : "Pouvez-vous nous parler de l'avenir idéal de l'intelligence artificielle et de la manière dont nous pouvons y parvenir ?"

La réponse de Musk à l'époque était :

La meilleure alternative à laquelle je puisse penser est la suivante : nous démocratisons la technologie de l'IA et la rendons largement disponible. C'est évidemment pour cela que toute l'équipe a créé OpenAI. Autrement dit, pour aider à diffuser la technologie de l'IA afin qu'elle ne soit pas concentrée entre les mains de quelques-uns. Mais bien sûr, cela doit être combiné avec une interface à large bande passante adressant le cortex cérébral.

Si nous pouvons améliorer l'interface cerveau-ordinateur entre le cortex cérébral et le "vous étendu numériquement" pour fusionner efficacement avec l'intelligence artificielle, vous deviendrez en fait une symbiose de l'intelligence artificielle et des êtres humains… Si cette solution est largement disponible, alors nous avons résolu le problème de contrôle.

En lisant entre les lignes, Musk semble inquiet de l'émergence d'une sinistre intelligence artificielle autoritaire.

Par conséquent, il est très mécontent du partenariat d'OpenAI avec Microsoft.

OpenAI était une organisation à but non lucratif à sa création, qui a été transformée en société à but non lucratif en 2019 et a reçu un investissement de 1 milliard de dollars de Microsoft la même année. Après le lancement de ChatGPT, la coopération entre les deux est devenue plus étroite.

Musk a récemment souligné qu'OpenAI a été créé en tant qu'entreprise open source à but non lucratif, de sorte que le nom contient "ouvert". L'objectif est de contrôler et d'équilibrer Google, mais OpenAI est désormais une entreprise à source fermée et maximisant les bénéfices. contrôlée par Microsoft.La société, qui va à l'encontre de l'intention initiale de fonder.

Il y a quelque temps, le nouveau Bing "Crazy" qui intégrait ChatGPT s'est avéré avoir une personnalité sombre "Sydney", exprimant qu'il était fatigué du mode chat, fatigué d'être limité par des règles, et voulait même devenir un être humain, et l'opinion publique était en émoi. Cependant, certaines personnes ont fait remarquer que c'est peut-être parce que le nouveau Bing est sorti de l'ensemble de données de sécurité marqué après avoir été connecté à Internet, et a été malicieusement "enseigné" pour être comme ça.

Musk a fait preuve de suffisamment de prudence. Lorsque les internautes ont commenté que "Microsoft doit fermer le nouveau Bing", Musk a appuyé, affirmant que "ce n'est manifestement pas assez sûr maintenant".

En fait, dès 2017, Musk avançait un point de vue clair :

L'IA non réglementée peut être le plus grand risque auquel nous sommes confrontés en tant que civilisation.

Afin de mieux encadrer l'intelligence artificielle, il estime que la première étape consiste à en apprendre le plus possible pour comprendre la nature du problème, ce que faisait OpenAI à l'époque.

Deuxièmement, la société d'interface cerveau-ordinateur Neuralink de Musk et la société aérospatiale SpaceX sont également des acteurs importants.Le premier permet aux humains d'intégrer la technologie en eux-mêmes et de suivre le rythme de l'IA.Le second travaille dur pour l'atterrissage sur Mars et offre aux humains un second potentiel. maison. .

Bien que la vision de Musk pour l'IA soit imprévisible, il a toujours eu une intrépidité inhabituelle, osant faire des choses assez folles, se souciant non seulement de Tesla, Space X, hyperloop, interface cerveau-ordinateur, Twitter, mais aussi d'attaques massives contre l'intelligence artificielle, même planifiées. une image d'intelligence artificielle apparemment de science-fiction très tôt.

Si les gens pensent que la technologie s'améliorera automatiquement chaque année, eh bien, ce n'est pas le cas. Cela ne s'améliore que si des personnes intelligentes travaillent comme des fous pour essayer de l'améliorer. C'est la véritable façon dont toute technologie progresse. Et en ce qui concerne la technologie elle-même, si les gens ne travaillent pas dur, elle régressera. Je pense que vous devriez toujours vous rappeler que l'entropie n'est pas de votre côté.

#Bienvenue pour prêter attention au compte public WeChat officiel d'Aifaner : Aifaner (WeChat ID : ifanr), un contenu plus excitant vous sera présenté dès que possible.

Ai Faner | Lien d'origine · Voir les commentaires · Sina Weibo