Le prix Nobel est sur le point d’être remporté par l’IA. Ces 10 anecdotes vous aideront à redécouvrir le parrain de l’IA.

Le prix Nobel de chimie et de physique de cette année a été décerné à deux personnalités de l'intelligence artificielle : l'un est Demis Hassabis, le fondateur de DeepMind, et l'autre est le parrain de l'IA, Geoffrey Hinton.

Ce qui est plus intéressant que de remporter le prix, c'est l'histoire du gagnant : lorsque DeepMind n'était qu'une petite entreprise peu connue, elle a osé rivaliser avec les trois géants Baidu, Microsoft et Google pour ce parrain, même si le résultat était définitivement une compétition. . mais.

Nous avons parcouru les principaux reportages des médias et l'histoire de la Silicon Valley et avons trouvé des anecdotes plus intéressantes sur Hinton – je dois dire que ce personnage est bien plus intéressant que la physique.

Pas vraiment physicien

Tout le monde le sait maintenant L'un des lauréats du prix de physique, John Hopfield, est effectivement issu de la physique, bien qu'il soit désormais professeur de biologie moléculaire à Princeton.

Geoffery Hinton est le « parrain de l’intelligence artificielle » bien connu. Ses recherches sur les réseaux neuronaux ont jeté les bases de l’intelligence artificielle.

En fait, leurs recherches sont liées à la physique. Hopfield a créé une mémoire associative capable de stocker et de reconstruire des images et d'autres types de modèles dans les données. La base de cette théorie est constituée des systèmes de spin en physique.

La machine Boltzmann inventée par Geoffrey Hinton s'est inspirée de la physique statistique et a introduit un modèle probabiliste pour la reconnaissance de formes. En théorie, son algorithme d’entraînement et ses principes dynamiques sont similaires à de simples processus physiques. Les machines Boltzmann sont étroitement liées aux réseaux Hopfield.

Cependant, recevoir le prix de physique a été une surprise pour eux deux, et Hinton ne pensait même pas qu'il serait nominé. Il est très heureux que le comité du prix Nobel puisse voir l'inspiration apportée par la physique dans ses recherches et celles de Hopfield. Cependant, récemment, la recherche sur l'intelligence artificielle basée sur le LLM n'a pas été beaucoup liée à la physique, il est donc très surprenant de remporter ce prix.

Autrefois salaud, maintenant parrain

Hinton a également essayé la physique dans ses premières années, mais a été directement découragé par les mathématiques complexes impliquées. Même lorsqu'il suivait le semestre d'apprentissage automatique plus tard, il sautait souvent les calculs mathématiques et examinait directement les arguments.

Jusqu'à l'époque où il dirigeait la thèse de Yann LeCun, parce qu'il ne comprenait pas du tout le français, il ne pouvait que faire le contraire : sauter la discussion et se contenter de regarder les mathématiques. Pendant la soutenance de thèse, Hinton a posé des questions en anglais et LeCun a répondu en français. Les deux ont communiqué facilement. Cela était basé sur leur croyance commune dans les réseaux de neurones, a déclaré LeCun, et tout en discutant, il avait l'impression que Hinton terminait ses phrases.

Maître de l'humour sec britannique

Quiconque a regardé la vidéo du discours de Hinton sera impressionné par son humour sec britannique. Un chercheur nommé Aapo Hyvärinen a écrit un jour dans la colonne des remerciements lors de la publication d'un article universitaire :

L'idée de base de cet article est venue de discussions avec Geoffrey Hinton, mais il n'a pas voulu en être co-auteur parce que l'article contenait trop d'équations mathématiques.

Éloignez-vous de ce type nommé Sam Altman.

Bien qu’il soit connu comme le parrain de l’intelligence artificielle, Hinton n’a ménagé aucun effort pour mettre en garde contre les dangers potentiels de l’intelligence artificielle. Cet après-midi, lors d'une conférence de presse en ligne organisée par l'Université de Toronto, il a remercié le comité organisateur du prix Nobel, ainsi que ses mentors, collègues et étudiants qui ont travaillé avec lui, et a déclaré : « Je suis particulièrement fier de l'un des mes camarades de classe qui ont viré Sam Altman.

Le journaliste d'Associated Press a demandé pourquoi Sam Altman avait été ainsi évalué. Il a répondu que l'intention initiale d'OpenAI était de développer l'intelligence artificielle générale et de garantir sa sécurité. Mais au fil du temps, Sam Altman a progressivement fait passer les profits avant la sécurité : « Je pense que c'est malheureux ».

Baidu n’était qu’à un pas de remporter la « société de sacs » de Hinton

Hinton a deux expériences « entrepreneuriales ». Bien sûr, il ne s’agit pas strictement d’entrepreneuriat, mais plutôt de présentation à l’industrie de ses propres résultats de recherche et de ceux des étudiants.

En 2009, ses étudiants ont réalisé un bon modèle en matière de reconnaissance vocale et ont donc contacté BlackBerry, une entreprise très populaire dans l'industrie de la téléphonie mobile à l'époque. Après de longues discussions, un responsable de BlackBerry a déclaré qu'il n'était pas intéressé.

Plus tard, Google a obtenu ce modèle de reconnaissance vocale, l'a peaufiné en un produit et l'a intégré au système Android. "Quel dommage", a raconté Hinton lors d'un symposium de l'Université de Toronto, où un autre conférencier était Li Feifei. "Si cela n'avait pas été comme ça, nous pourrions encore voir des BlackBerry maintenant."

En 2012, Hinton et ses étudiants ont publié un article démontrant la puissance des réseaux de neurones. La première personne à offrir un rameau d’olivier à Hinton fut Baidu de Chine.

Mais ses étudiants ont suggéré qu'au lieu de travailler comme ouvrier, il serait préférable de créer une entreprise sur place et de laisser les géants l'acheter. Hinton y a réfléchi, c'était logique, alors il l'a fait. De manière inattendue, après sa création, quatre géants se sont affrontés pour les enchères, à savoir Baidu, Google, Microsoft et Deepmind, qui n'était pas encore encore émergent à l'époque.

L'ensemble de l'enchère s'est déroulé par e-mail. Baidu a envoyé un Deepmind qui était relativement faible à l'époque et ne pouvait participer à l'enchère qu'avec les actions de l'entreprise, il a donc été rapidement éliminé. Les trois géants restants ont continué à augmenter leurs prix et Microsoft s'est retiré une fois à 20 millions. À 22 millions, Microsoft s'est complètement retiré en raison de la demande de pause de Hinton.

Dans la seconde moitié de l'enchère finale, l'offre de Baidu était en fait en avance, mais finalement Hinton a toujours préféré Google. Il a travaillé chez Google pendant dix ans jusqu'à sa retraite l'année dernière.

Levez-vous et faites vos recherches

La rumeur dit qu'il n'a finalement pas choisi Baidu parce que les vols transocéaniques étaient trop difficiles pour lui : Hinton souffrait d'une grave maladie discale lombaire, si grave qu'il ne pouvait pas s'asseoir du tout, sinon un morceau de vertèbre lombaire formerait une hernie et provoquerait une hernie. douleur intense. Il se tenait debout dans tous ses discours et discussions et s'agenouillait avec un coussin moelleux si nécessaire.

En 2009, Microsoft a invité Hinton à visiter une expérience dans la banlieue extérieure de Washington à des fins de recherche. Le voyage a été très éprouvant : je ne pouvais ni conduire ni voler et je devais m'allonger sur la banquette arrière de la voiture. Il a donc d'abord pris le métro, s'est rendu à la gare routière de Toronto, a fait la queue à l'avance, puis a pris les devants en prenant un siège vide dans la dernière rangée. Il s'est allongé et a fait semblant de dormir sans être dérangé tout le temps.

Il a ensuite pris un train de trois jours jusqu'à Seattle, puis a traversé le lac Washington à l'arrière d'un taxi pour rejoindre Microsoft.

Apprenant que le voyage était si difficile, Microsoft lui a commandé à l'avance un bureau debout pour s'assurer qu'il puisse travailler normalement.

amoureux des animaux à sang froid

Le père de Hinton est un célèbre entomologiste. Enfant, il a souvent eu affaire à toutes sortes d'animaux étranges, notamment des grenouilles, des tortues, des lézards et des crapauds.

Jusqu’à présent, il a été très proche des animaux à sang froid. Il gardait des libellules mortes dans le placard lorsqu'il était en vacances sur l'île, il introduisait même des serpents dans la maison et invitait les journalistes à les toucher.

Nos ancêtres sont tous des scientifiques

Hinton est né dans une famille scientifique et est surtout connu pour son arrière-arrière-grand-père, George Boole, qui a développé le système de raisonnement binaire « algèbre booléenne » qui constitue la base des ordinateurs modernes. En fait, il a de nombreux ancêtres qui ont réalisé d’étonnantes réalisations scientifiques.

L'arrière-grand-mère Mary Ellen Boole (qui a changé plus tard son nom de famille) était mathématicienne et a épousé Charles Howard Hinton, également mathématicien. Il a proposé le tesseract à quatre dimensions, la théorie de base de l'espace à quatre dimensions. La cousine Joan Hinton est une physicienne nucléaire qui a participé au projet Manhattan. Elle s'est ensuite installée en Chine après avoir épousé Erwin Engst, un conseiller chinois pour les affaires américaines. L'un de leurs enfants, Fred Engst Yang Heping, est actuellement professeur à l'Université de commerce international et d'économie de Pékin.

Après quelques recherches, j'ai découvert qu'il y avait trop de scientifiques parmi ses ancêtres, comme la première femme académicien de l'Institut Royal de Chimie, le médecin qui a inventé l'appareil à rayons X portable, etc.

Le secret du succès ? Trouvez un groupe d'étudiants talentueux

Ilya Sutskever, ancien scientifique en chef d'OpenAI et l'un des cofondateurs, est l'étudiant de Hinton et a décidé de sa propre direction lorsqu'il était étudiant de premier cycle à l'Université de Toronto. Il s'est rendu directement au bureau de Hinton, a frappé à la porte et lui a demandé s'il pouvait rejoindre le laboratoire d'apprentissage profond. Hinton a dit, prenons rendez-vous pour discuter.

Sutskever a dit : « D'accord, et maintenant ?

Hinton lui a donné des papiers classiques et, une semaine plus tard, Sutskever est revenu et a dit : « Je ne comprends pas.

"Vous entraînez un réseau neuronal pour résoudre un problème, puis entraînez un nouveau réseau pour résoudre un autre problème. Pourquoi n'utiliseriez-vous pas simplement un réseau pour résoudre tous les problèmes ?"

Hinton s'est rendu compte que le jeune homme d'une vingtaine d'années avait une intuition de recherche au-delà de l'expérience, il l'a donc invité à rejoindre son équipe expérimentale.

"J'ai toujours raison"

Hinton est resté en marge du monde universitaire pendant plus d’une décennie. Lorsqu'il a décidé de prendre les réseaux de neurones comme objectif de recherche, personne n'était optimiste quant à cette direction et pensait qu'elle ne serait pas célèbre. Cependant, des années plus tard, lorsque les réseaux de neurones se sont fait un nom, on a souvent demandé à Hinton lors d'entretiens ce qui l'avait poussé à choisir une direction impopulaire.

Il répondait à chaque fois avec légèreté : « Je crois que j'ai raison. »

C'est l'une de ses suggestions pour les jeunes : « Allez dans un endroit où vous avez l'impression que tout le monde fait mal. Ensuite, faites confiance à votre instinct jusqu'à ce que vous compreniez pourquoi votre instinct a tort. Quand vous, j'ai l'impression que tout le monde le fait de la même manière. , alors choisissez une approche différente.

La vérité est que soit vous avez une grande intuition, soit vous n'en avez pas. Si vous avez de bonnes intuitions, écoutez-les, suivez-les et continuez à travailler dessus jusqu'à ce que vous découvriez pourquoi c'est faux. Si vous avez une mauvaise intuition, peu importe ce que vous faites, autant suivre votre intuition. "

# Bienvenue pour suivre le compte public officiel WeChat d'aifaner : aifaner (ID WeChat : ifanr). Un contenu plus passionnant vous sera fourni dès que possible.

Ai Faner | Lien original · Voir les commentaires · Sina Weibo