Youtube met en garde contre les deepfakes grâce à une intelligence artificielle

YouTube est en situation compliquée et la coupable, selon le propre CEO, est l'intelligence artificielle (IA) elle-même. L'entreprise doit être extrêmement prudente par rapport aux contenus qu'elle appelle 'la bouillie'. Parmi ces derniers, les deepfakes de célébrités inquiètent particulièrement. Les utilisateurs sont convaincus qu'ils en ont déjà vu des exemples, car la plateforme en est pleine. Cependant, cette tendance pourrait bientôt prendre fin. Ou au moins, c'est ce que souhaitent les responsables de la plateforme sociale. Selon leurs propres explications, ils disposent d'une nouvelle outil pour 'attraper' ces célébrités falsifiées. Le paradoxe de la situation réside dans le fait que cet outil est lui-même fondé sur l'IA.

Youtube met en garde contre les deepfakes grâce à une intelligence artificielle

YouTube, une plateforme qui s'est toujours caractérisée par une grande tolérance, doit maintenant faire face à un problème plus délicat. L'avènement de l'intelligence artificielle a rendu sa situation plus complexe. Il ne s'agit plus simplement de la saturation de vidéos de qualité médiocre, mais de la légalité même est en jeu. Les experts parlent d'un problème d'identité numérique et de protection des personnalités publiques. Il n'est pas acceptable que n'importe qui puisse créer un faux vidéo d'un célébrité (deepfake) avec l'aide de l'IA et la publier sur YouTube. Pour y remédier, il semble que la solution soit de s'unit à l'ennemi.

YouTube a donc recours à une technologie nouvelle et puissante, baptisée Kimi K2.6, une super intelligence artificielle capable d'exécuter 300 agents en parallèle et de programmer pendant des heures sans supervision. En réalité, cette nouvelle technologie fonctionne comme une évolution du système Content ID déjà bien connu. Mais avec un angle un peu différent. Au lieu de détecter de la musique ou des vidéos protégées par le droit d'auteur, cet outil est entraîné pour identifier des visages, des voix et des traits de personnes réelles qui ont été reproduits avec l'aide de l'intelligence artificielle.

Pour fonctionner efficacement, le système analyse les vidéos publiées sur la plateforme et cherche des correspondances avec des 'empreintes digitales' de célébrités enregistrées dans le programme. Si un possible usage non autorisé de leur image est détecté, le contenu est marqué à révision. Des rapprochements raisonnables avec l'IA sont nécessaires pour que cela fonctionne.