Les personnages de jeu basés sur l’IA de Nvidia deviennent toxiques
Nvidia ACE , l'outil destiné à transformer les jeux avec l'IA générative, évolue, et Nvidia vient de dévoiler une mise à jour intéressante. Il s'avère que les développeurs ne pourront pas seulement utiliser ACE pour créer des personnages entièrement interactifs, avec des dialogues et des expressions faciales, mais ils pourront également utiliser la nouvelle technologie NeMo SteerLM de Nvidia pour adapter la personnalité de ces personnages.
Nvidia a initialement annoncé son outil ACE plus tôt cette année, gardant les détails assez rares. ACE est quelque chose comme ChatGPT pour les jeux, destiné à permettre aux développeurs de jeux de créer plus facilement des personnages avec des histoires entièrement développées, ajoutant plus de profondeur à la façon dont ils interagissent avec les joueurs.
Grâce à cette technologie, les joueurs peuvent utiliser des entrées vocales pour interagir avec des personnages non-joueurs (PNJ) dans le jeu. Riva speech-to-text traduit ensuite sa voix en une entrée de texte et la transmet à l'IA. Il est introduit dans un grand modèle de langage (LLM), qui génère une réponse, et Nvidia utilise quelques outils d'IA supplémentaires pour reconvertir la réponse en parole et animer le personnage.
Entre l'interaction du joueur et la réponse des PNJ, il y a un chemin assez élaboré, et Nvidia vient d'ajouter une couche supplémentaire de complexité en incluant le nouveau NeMo SteerLM.
Nvidia présente NeMo SteerLM comme quelques bascules qui devraient simplifier l'ajustement du comportement d'un personnage. Les trois options que nous avons vues jusqu'à présent sont "Créativité", "Humour" et "Toxicité". Alors que la plupart des joueurs – ou du moins ceux qui jouent en ligne – sont désormais habitués aux comportements toxiques, il est intéressant de le voir comme une option pour ce qui est essentiellement un chatbot IA avec des étapes supplémentaires.
Avant l'ajout de NeMo SteerLM, l'IA préparait une réponse personnalisée pour répondre à la requête du joueur. Il reviendrait ensuite via Riva pour la synthèse vocale, et enfin, Nvidia Omniverse pour les expressions faciales correspondant au discours. Maintenant, cependant, avant que l'IA ne génère une réponse, NeMo SteerLM interviendra avec certains attributs pour déterminer à quel point le PNJ sera utile, amusant ou décalé dans ses interactions.
Amplifier ces trois traits pourrait apporter des résultats hilarants, mais également, il est facile d'imaginer que l'IA déraille complètement, un peu comme cette fois où Bing Chat nous a dit qu'il voulait être humain .
Pour lutter contre une éventuelle folie de l'IA, Nvidia a lancé l'outil NeMo Guardrails pour que les développeurs puissent bloquer ces comportements fous et empêcher les joueurs d'essayer d'obtenir des résultats indésirables. Désormais, le chemin entre le joueur et l'IA s'est élargi pour inclure un autre outil. J'ai hâte de voir cette fonctionnalité implémentée dans les jeux. Quelque chose me dit que malgré tous les efforts de Nvidia, les débuts d'ACE dans les jeux ne seront pas aussi harmonieux qu'on pourrait l'espérer.