Les personnages de jeux basés sur l’IA de Nvidia deviennent toxiques

Nvidia ACE , l'outil destiné à transformer les jeux avec l'IA générative, évolue et Nvidia vient d'en dévoiler une mise à jour intéressante. Il s'avère que les développeurs pourront non seulement utiliser ACE pour créer des personnages entièrement interactifs, avec des dialogues et des expressions faciales, mais ils pourront également utiliser la nouvelle technologie NeMo SteerLM de Nvidia pour adapter la personnalité de ces personnages.

Nvidia a initialement annoncé son outil ACE plus tôt cette année, en gardant les détails assez rares. ACE est quelque chose comme ChatGPT pour les jeux, destiné à permettre aux développeurs de jeux de créer plus facilement des personnages avec des histoires entièrement développées, ajoutant plus de profondeur à la façon dont ils interagissent avec les joueurs.

Grâce à cette technologie, les joueurs peuvent utiliser les entrées vocales pour interagir avec les personnages non-joueurs (PNJ) du jeu. La synthèse vocale Riva traduit ensuite leur voix en une saisie de texte et la transmet à l'IA. Il est introduit dans un grand modèle de langage (LLM), qui génère une réponse, et Nvidia utilise quelques outils d'IA supplémentaires pour reconvertir la réponse en parole et animer le personnage.

Entre l'interaction du joueur et la réponse des PNJ, il existe un chemin assez élaboré, et Nvidia vient d'ajouter une couche supplémentaire de complexité en incluant le nouveau NeMo SteerLM.

Nvidia présente NeMo SteerLM comme quelques options qui devraient simplifier l'ajustement du comportement d'un personnage. Les trois options que nous avons vues jusqu'à présent sont « Créativité », « Humour » et « Toxicité ». Alors que la plupart des joueurs – ou du moins ceux qui jouent en ligne – sont désormais habitués à des comportements toxiques, il est intéressant de voir cela comme une option pour ce qui est essentiellement un chatbot IA avec des étapes supplémentaires.

Avant l'ajout de NeMo SteerLM, l'IA préparait une réponse personnalisée pour répondre à la requête du joueur. Il reviendrait ensuite via Riva pour la synthèse vocale, et enfin, Nvidia Omniverse pour les expressions faciales correspondant au discours. Désormais, cependant, avant que l'IA ne génère une réponse, NeMo SteerLM interviendra avec certains attributs pour déterminer à quel point le PNJ sera utile, drôle ou décalé dans ses interactions.

Améliorer ces trois caractéristiques pourrait donner des résultats hilarants, mais il est également facile d'imaginer que l'IA déraille complètement, un peu comme à l'époque où Bing Chat nous disait qu'elle voulait être humaine .

Pour lutter contre une éventuelle folie de l'IA, Nvidia a lancé l'outil NeMo Guardrails pour que les développeurs puissent bloquer ces comportements fous et empêcher les joueurs d'essayer d'obtenir des résultats indésirables. Désormais, le chemin entre le joueur et l’IA s’est élargi pour inclure encore un autre outil. J'ai hâte de voir cette fonctionnalité implémentée dans les jeux. Quelque chose me dit que malgré tous les efforts de Nvidia, les débuts d'ACE dans les jeux ne seront pas aussi harmonieux qu'on pourrait l'espérer.