Grok 2.0 supprime les garde-fous de la génération d’images IA

Hibou Gourou

La société xAI d'Elon Musk a publié deux itérations mises à jour de son modèle de chatbot Grok , Grok-2 et Grok-2 mini. Ils promettent des performances améliorées par rapport à leur prédécesseur, ainsi que de nouvelles capacités de génération d'images qui permettront aux utilisateurs de X (anciennement Twitter) de créer des images d'IA directement sur la plateforme de médias sociaux.

« Nous sommes ravis de publier un premier aperçu de Grok-2, une avancée significative par rapport à notre modèle précédent, Grok-1.5, offrant des capacités de pointe en matière de chat, de codage et de raisonnement. Dans le même temps, nous présentons le Grok-2 mini, un frère petit mais performant du Grok-2. Une première version de Grok-2 a été testée sur le classement LMSYS sous le nom « sus-column-r » », a écrit xAI dans un récent article de blog. Les nouveaux modèles sont actuellement en version bêta et réservés aux abonnés Premium et Premium+, bien que la société prévoit de les rendre disponibles via son API Enterprise plus tard dans le mois.

La fonction de génération d'images semble être alimentée par le modèle Flux.1 développé par Black Forest Labs. Alors que pratiquement tous les autres systèmes de génération d'images sur le marché – qu'il s'agisse de Dall-E d'OpenAI , de StableDiffusion ou de Firefly d'Adobe – disposent de garde-fous pour empêcher les utilisateurs de les utiliser à mauvais escient pour générer du contenu raciste, sectaire ou violent (en particulier lorsqu'il s'agit de célébrités, de politiciens, et d'autres personnalités publiques), Grok-2 ne le fait apparemment pas.

Un des premiers utilisateurs a déclaré : « La génération d'images Grok 2.0 est meilleure que celle du lama et n'a pas de garde-fous stupides » en publiant des images du PDG de Meta, Mark Zuckerberg, et du PDG de xAI, Elon Musk, en train de boxer, ainsi que de Donald Trump portant un turban.

« Grok 2.0 fera des illustrations politiques et de vraies personnes, alors que ChatGPT refuse. Cela rend instantanément Grok 10 fois plus amusant…… », a soutenu un autre utilisateur.

Cette nouvelle fonctionnalité sera sûrement une aubaine pour les trolls sur Internet et, compte tenu de l'élection présidentielle très controversée prévue en novembre (l'une des 50 élections nationales organisées dans le monde cette année), elle contribuera probablement également aux efforts de désinformation sur les réseaux sociaux.