L’approche de YouTube en matière d’innovation responsable en IA
L’intelligence artificielle (IA) générative ouvre des horizons de créativité sur YouTube, promettant de transformer radicalement l’expérience des utilisateurs. Cependant, cette opportunité s’accompagne d’une responsabilité majeure : protéger la communauté YouTube. Tous les contenus, qu’ils soient générés traditionnellement ou par l’IA, doivent respecter les directives de la communauté. Reconnaissant les risques inédits introduits par l’IA, YouTube est en phase préliminaire de développement de stratégies adaptées pour ces défis émergents.
Éxigences de divulgation et nouvelles étiquettes de contenu
Pour préserver un écosystème d’information fiable, YouTube instaure des exigences de divulgation pour les créateurs utilisant des contenus synthétiques. Ces mesures visent à informer les spectateurs lorsqu’ils visionnent un contenu modifié ou synthétique, en particulier si celui-ci est réaliste. Les créateurs seront tenus de signaler l’usage de contenus altérés ou synthétiques, notamment dans le cas de vidéos générées par IA représentant des événements fictifs ou des actions non réelles. Les manquements répétés à ces exigences pourraient entraîner des sanctions, telles que la suppression de contenu ou la suspension du Programme Partenaire YouTube.
Gestion des contenus sensibles et synthétiques
Dans certains cas, une simple étiquette ne suffira pas pour atténuer les risques associés à des médias synthétiques. Par exemple, une vidéo synthétique montrant de la violence réaliste pourrait être supprimée, même si elle est étiquetée, si elle vise à choquer ou dégoûter les spectateurs. Les nouvelles mises à jour de YouTube incluront des étiquettes claires sur les contenus altérés ou synthétiques créés par ses produits et fonctionnalités IA.
Options pour les créateurs, spectateurs et artistes
Répondant aux préoccupations de sa communauté, YouTube permettra bientôt la suppression de contenus AI générés ou altérés imitant une personne identifiable, comme son visage ou sa voix. Cette suppression ne sera cependant pas automatique et tiendra compte de plusieurs facteurs, tels que le caractère parodique ou satirique du contenu. De plus, les partenaires musicaux de YouTube pourront demander la suppression de contenus musicaux générés par IA imitant la voix unique d’un artiste.
Déploiement de la technologie IA pour la modération de contenu
YouTube combine l’expertise humaine et l’apprentissage automatique pour faire respecter ses directives communautaires. Les systèmes d’IA jouent un rôle croissant dans la détection et la modération des contenus problématiques, améliorant la rapidité et la précision du processus. L’IA est particulièrement efficace pour identifier de nouvelles formes d’abus, aidant les modérateurs à cibler rapidement ces contenus.
Intégration de la responsabilité dans les outils et fonctionnalités IA
YouTube intègre la responsabilité dans le développement de ses outils IA. Cela comprend le développement de garde-fous pour prévenir la génération de contenus inappropriés. L’entreprise reconnaît également le risque de contournement de ces mesures par des acteurs malveillants et s’engage à améliorer continuellement ses protections grâce aux retours d’utilisateurs et à des tests adverses.
Transformation IA et l’avenir de la créativité sur YouTube
YouTube se trouve au seuil d’une transformation majeure avec l’IA générative. L’entreprise envisage un avenir où l’IA enrichira considérablement les industries créatives. Toutefois, elle reste concentrée sur la sécurité de sa communauté, cherchant à équilibrer les bénéfices de l’IA avec la nécessité de préserver un environnement sûr pour tous.
Source : https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/
