Compte tenu de l’augmentation explosive du contenu généré par l'intelligence artificielle, YouTube emploie des moyens pour limiter les publications abusives. Le 16 novembre dernier, la plateforme de vidéos a annoncé que dès l'année prochaine les créateurs devront signaler l'utilisation d’outils d’IA dans leurs vidéos.

Jennifer Flannery O'Connor et Emily Moxley, vice-présidentes chargées des produits chez YouTube, ont justifié cette décision en soulignant que les nouvelles formes puissantes de narration de l'IA peuvent être exploitées pour créer du contenu susceptible de tromper les spectateurs, en particulier s'ils ne sont pas conscients que la vidéo a été modifiée ou synthétiquement générée.

Cette nouvelle exigence concerne spécifiquement les vidéos contenant des contenus "réalistes" créés par une IA générative. YouTube vise en particulier les contenus présentant des événements fictifs ou des personnes disant ou faisant des choses qu'elles n'ont pas réellement dites ou faites.

De façon explicite, les utilisateurs devront cocher une case au moment de la mise en ligne de la vidéo et un avertissement apparaîtra dans le panneau de description. Pour les sujets sensibles tels que les élections, les conflits armés et les crises de santé publique, un avertissement sera également affiché directement sur le lecteur vidéo, le rendant ainsi visible en tout temps.

YouTube souligne que la divulgation des contenus générés par l'IA n'est pas facultative. Les créateurs qui ne respectent pas cette exigence s'exposent à des sanctions, y compris la démonétisation ou la suppression de leur compte.

Par ailleurs, YouTube va introduire une nouvelle fonctionnalité permettant aux utilisateurs de demander le retrait de contenus "générés par l'IA ou d'autres contenus synthétiques ou modifiés simulant une personne identifiable, y compris son visage ou sa voix". Les contenus satiriques ou parodiques bénéficieront cependant d'une certaine latitude face à ces nouvelles règles.

La plateforme s'engage également à étiqueter automatiquement les contenus générés à l'aide de ses propres outils d'IA pour les créateurs, tout en créant un nouveau formulaire permettant aux maisons de disques de demander le retrait de chansons imitant la voix distinctive d'un artiste.

Source : L’Usine Digitale

Vanessa Ntoh