Facebook pourrait obtenir des chatbots – et cela pourrait être un problème
Le propriétaire de Facebook, Meta, prévoit d'introduire des chatbots avec des personnalités distinctes dans son application de médias sociaux. Le lancement pourrait avoir lieu dès septembre et constituerait un défi pour des rivaux comme ChatGPT , mais on craint qu'il n'y ait de graves implications pour la vie privée des utilisateurs.
L'idée vient du Financial Times , qui rapporte que cette décision est une tentative de stimuler l'engagement avec les utilisateurs de Facebook. Le nouvel outil pourrait le faire en fournissant de nouvelles capacités de recherche ou en recommandant du contenu, tout au long de discussions humaines.
Selon des sources citées par le Financial Times, les chatbots prendront différentes personnalités, dont "une qui émule Abraham Lincoln et une autre qui conseille sur les options de voyage à la manière d'un surfeur".
Ce ne serait pas la première fois que nous voyions des chatbots prendre leur propre personnalité ou converser à la manière de personnes célèbres. Le chatbot Character.ai , par exemple, peut adopter des dizaines de personnalités différentes, dont celles de célébrités et de personnages historiques.
Problèmes de confidentialité
Malgré la promesse que les chatbots de Meta pourraient montrer, des craintes ont également été exprimées quant à la quantité de données qu'ils collecteront probablement, d'autant plus que Facebook a un bilan catastrophique en matière de protection de la vie privée des utilisateurs.
Ravit Dotan, conseiller en éthique et chercheur en IA, a été cité par le Financial Times comme ayant déclaré : « Une fois que les utilisateurs interagissent avec un chatbot, cela expose vraiment beaucoup plus de leurs données à l'entreprise, de sorte que l'entreprise peut faire tout ce qu'elle veut avec ces données. .”
Cela soulève non seulement la perspective de violations de la vie privée de grande envergure, mais permet également la possibilité de "manipulation et de coup de coude" des utilisateurs, a ajouté Dotan.
Un gros risque
D'autres chatbots comme ChatGPT et Bing Chat ont eu des "hallucinations" ou des moments où ils partagent des informations incorrectes, voire de la désinformation. Les dommages potentiels causés par la désinformation et les préjugés pourraient être beaucoup plus importants sur Facebook, qui compte près de quatre milliards d'utilisateurs, par rapport aux chatbots concurrents.
Les tentatives passées de Meta sur les chatbots ont mal fonctionné, les BlenderBot 2 et BlenderBot 3 de la société se transformant rapidement en contenu trompeur et en discours de haine incendiaire. Cela pourrait ne pas donner beaucoup d'espoir aux utilisateurs pour le dernier effort de Meta.
Avec septembre qui approche à grands pas, nous n'aurons peut-être pas longtemps pour voir si Facebook est capable de surmonter ces obstacles, ou si nous aurons un autre lancement criblé d'hallucinations semblable à ceux subis ailleurs dans l'industrie. Quoi qu'il arrive, ce sera intéressant à regarder.