Ces idées ingénieuses pourraient aider à rendre l’IA un peu moins diabolique
À l'heure actuelle, on s'interroge beaucoup sur les dégâts que l'intelligence artificielle (IA) peut causer. Pour compenser cela, le fabricant de Firefox, Mozilla, a décidé d'encourager une utilisation plus responsable de l'IA avec son Responsible AI Challenge , et les gagnants du concours récemment annoncés montrent que l'avenir infusé par l'IA ne doit pas être catastrophique.
Le premier prix de 50 000 $ est allé à Sanative AI, qui "fournit des filigranes anti-IA pour empêcher que les images et les illustrations ne soient utilisées comme données de formation" pour le type de modèles de grande langue qui alimentent des outils d'IA comme ChatGPT . Les photographes et les artistes ont été très consternés par l'utilisation de leur travail pour former l'IA sans autorisation, ce à quoi Sanative AI pourrait aider à remédier.
Kwanele Chat Bot était le finaliste de 30 000 $, et il "vise à autonomiser les femmes dans les communautés en proie à la violence en leur permettant d'accéder rapidement à de l'aide et d'assurer la collecte de preuves recevables". La troisième place et 20 000 $ sont allés à Nolano, qui est un "modèle de langage formé qui utilise le traitement du langage naturel pour fonctionner sur des ordinateurs portables et des smartphones".
En plus des prix en espèces, tous les gagnants seront encadrés par des leaders de l'industrie de l'IA et auront accès aux "ressources et communautés" de Mozilla.
Énorme potentiel
La compétition intervient à un moment où les inquiétudes concernant les pouvoirs de l'IA et le potentiel de l'intelligence artificielle à causer des dommages augmentent. En mars 2023, de nombreux leaders technologiques ont signé une lettre ouverte appelant à une pause dans le développement de l'IA en raison de ses risques, tandis qu'au début de la semaine, une lettre ouverte similaire a été publiée avertissant que «l'atténuation du risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle de la société tels que les pandémies et la guerre nucléaire.
Mais tout ne doit pas être mauvais. Comme Joshua Long, analyste en chef de la sécurité de la société de sécurité Intego, l'a récemment déclaré à Digital Trends , "Comme tout outil dans les mondes physiques ou virtuels, le code informatique peut être utilisé pour le bien ou pour le mal." Alors que les vastes capacités de calcul de l'IA pourraient être utilisées à des fins néfastes, elles peuvent également être canalisées vers la résolution de certains des problèmes les plus urgents auxquels l'humanité est confrontée.
En effet, le Mozilla Responsible AI Challenge suggère qu'il y a beaucoup de bien qui peut être fait lorsque l'IA est utilisée. Nous avons déjà vu des utilisations étonnantes de ChatGPT , et le concours de Mozilla pourrait encourager d'autres expérimentations bénéfiques dans ce domaine.
Ce qui est certain, c'est que nous commençons seulement à voir de quoi l'IA est capable, et il est impératif de s'assurer qu'elle est utilisée comme une force pour le bien. Comme l'ont montré les lauréats de Mozilla, l'IA a un énorme potentiel qui attend d'être débloqué.