YouTube demande aux créateurs de commencer à qualifier le contenu d’IA de « réaliste »

YouTube prend des mesures pour essayer d'aider les téléspectateurs à mieux comprendre si ce qu'ils regardent a été créé, entièrement ou en partie, par l'IA générative.

"L'IA générative transforme la façon dont les créateurs s'expriment – depuis les idées de storyboard jusqu'à l'expérimentation d'outils qui améliorent le processus créatif", a déclaré YouTube dans un message partagé lundi. "Mais les téléspectateurs souhaitent de plus en plus de transparence quant à savoir si le contenu qu'ils voient est modifié ou synthétique."

Une partie des efforts visant à renforcer la confiance sur la plate-forme de streaming populaire comprend le lancement d'un nouvel outil qui oblige les créateurs à informer les téléspectateurs lorsqu'un contenu d'apparence réaliste (défini par YouTube comme « un contenu qu'un téléspectateur pourrait facilement prendre pour une personne, un lieu ou un lieu réel). événement ») est réalisé avec des supports altérés ou synthétiques, y compris l’IA générative.

YouTube a proposé des exemples de contenu que les créateurs doivent marquer comme ayant été modifié :

• Utiliser l'image d'une personne réaliste : modifier numériquement le contenu pour remplacer le visage d'un individu par celui d'un autre ou générer synthétiquement la voix d'une personne pour raconter une vidéo
• Modification d'images d'événements ou de lieux réels : par exemple, donner l'impression qu'un véritable bâtiment a pris feu, ou modifier un véritable paysage urbain pour le rendre différent de la réalité.
• Générer des scènes réalistes : afficher une représentation réaliste d'événements majeurs fictifs, comme une tornade se dirigeant vers une ville réelle.

Si un créateur marque le contenu de cette manière, la divulgation apparaîtra sous forme d'étiquette. YouTube a déclaré que pour la plupart des vidéos, le label apparaîtra dans la description détaillée de la vidéo, mais pour le contenu impliquant des sujets plus sensibles – tels que la santé, l'actualité, les élections ou la finance – il apparaîtra sur la vidéo elle-même pour accroître sa visibilité.

YouTube a ajouté qu'il n'oblige pas les créateurs à divulguer du contenu "qui est clairement irréaliste, animé, inclut des effets spéciaux ou a utilisé l'IA générative pour l'aide à la production".

De plus, la société appartenant à Google, les créateurs ne sont pas tenus de mettre en évidence tous les cas où l'IA générative a été utilisée dans le processus de production plus large. Par exemple, il n'est pas nécessaire de divulguer quand la technologie a été utilisée pour créer des scripts, des idées de contenu ou des sous-titres automatiques.

Les nouveaux labels commenceront à être déployés sur toutes les plateformes YouTube dans les semaines à venir.

Et un avertissement aux créateurs YouTube qui tentent de contourner l’obligation de mettre volontairement en évidence le contenu modifié : YouTube a déclaré qu’à l’avenir, il « examinera des mesures coercitives pour les créateurs qui choisissent systématiquement de ne pas divulguer ces informations ». Il a ajouté qu'il peut même apposer une étiquette sur le contenu dans les cas où un créateur ne l'a pas fait, "surtout si le contenu modifié ou synthétique a le potentiel de confondre ou d'induire les gens en erreur".