GPT-5 pour faire progresser l’IA de ces deux manières importantes

Nous pourrions bientôt voir des systèmes d’IA générative capables de passer un doctorat. examens grâce à une mémoire plus « durable » et à des opérations de raisonnement plus robustes, a révélé le CTO de Microsoft, Kevin Scott, lorsqu'il est monté sur scène avec Reid Hoffman lors d'un salon Berggruen à Los Angeles plus tôt cette semaine .

"C'est un peu bizarre en ce moment que vous ayez ces interactions avec des agents et que la mémoire soit entièrement épisodique", a-t-il déploré. « Vous avez une transaction, vous faites une chose. C'est utile ou non, quelle que soit la tâche que vous effectuiez, puis il oublie tout. Le système d'IA n'apprend pas et ne se souvient même pas des interactions précédentes avec l'utilisateur, a-t-il poursuivi. "Il n'y a aucun moyen pour vous de faire référence à une chose que vous essayiez de résoudre par [l'IA] dans le passé."

Cependant, Scott est optimiste : « nous constatons que, techniquement, tout est mis en place pour avoir des mémoires vraiment durables avec les systèmes. » Avec une mémoire plus persistante, les futurs systèmes d’IA seront capables de répondre de manière plus naturelle et plus précise au cours de plusieurs conversations plutôt que de se limiter à la session en cours.

OpenAI a annoncé en février qu'il commençait à tester un nouveau système de mémoire persistante, en le déployant auprès de certains utilisateurs d'abonnements gratuits et Plus. L'activation de cette fonctionnalité permet à l'IA de rappeler les préférences de tonalité, de voix et de format de l'utilisateur entre les conversations, ainsi que de faire des suggestions dans de nouveaux projets en fonction des détails mentionnés par l'utilisateur dans les discussions précédentes.

Scott était également enthousiaste à l’idée d’améliorer la « fragilité » trouvée dans le raisonnement de nombreux systèmes d’IA aujourd’hui. « Cela ne peut pas résoudre des problèmes mathématiques très compliqués », a-t-il expliqué. "Il doit s'appuyer sur d'autres systèmes pour faire des choses très compliquées."

"Je pense que le raisonnement s'améliore beaucoup", a-t-il poursuivi. Il compare GPT-4 et la génération actuelle de modèles aux lycéens qui réussissent leurs examens AP . Cependant, la prochaine génération d’IA « pourrait être celle qui pourrait réussir votre examen de qualification ».

À ce jour, les systèmes d’IA générative ont surpassé leurs homologues en chair et en os sur une variété de formats d’examens et de tâches . En novembre dernier, par exemple, GPT-4 a réussi l'examen de responsabilité professionnelle multi-états (MPRE), mieux connu sous le nom d'examen du barreau, avec 76 % de réponses correctes, soit six points de plus que la moyenne nationale pour les humains.

Cependant, Scott n'a pas tardé à souligner que la formation des IA génératives pour obtenir un doctorat était nécessaire. Les examens « semblent probablement être une affaire plus importante qu’ils ne le sont en réalité … le véritable test sera ce que nous choisirons d’en faire. »

Scott était particulièrement excité de voir les barrières à l’entrée tomber si rapidement. Il a noté que lorsqu'il s'est lancé dans l'apprentissage automatique il y a vingt ans, son travail exigeait des connaissances de niveau supérieur, des piles et des piles de « documents techniques très intimidants et compliqués pour comprendre comment faire ce que je voulais faire », et environ six mois de codage. La même tâche aujourd’hui, a-t-il déclaré, « un lycéen pourrait la faire un samedi matin ».

Ces barrières à l’entrée réduites accéléreront probablement la démocratisation de l’IA, a conclu Scott. Trouver des solutions aux innombrables crises sociales, environnementales et technologiques auxquelles l’humanité est confrontée ne relève pas – et ne peut pas – de la seule responsabilité « des seuls employés des entreprises technologiques de la Silicon Valley ou des personnes titulaires d’un doctorat dans les cinq meilleures universités ». " il a dit. "Nous avons 8 milliards de personnes dans le monde qui ont également une idée de ce qu'elles veulent faire avec des outils puissants, si seulement elles y ont accès."