Youtube : l'ia menace-t-elle le développement infantile ?
La plateforme de Google se retrouve sous le feu des critiques. Une coalition de plus de 200 experts en développement de l'enfance, d'organisations de défense des droits et d'écoles a alerté Sundar Pichai, PDG de Google, et Neal Mohan, dirigeant de YouTube, sur les dangers potentiels des vidéos générées par l'IA destinées aux jeunes spectateurs. Un nouveau front s'ouvre après le verdict historique qui a tenu Meta et Google responsables de la conception addictive de leurs réseaux sociaux – une accusation qui évoque, selon des experts en psychologie, une véritable « piration du cerveau ».
La prolifération des contenus de faible qualité
Au cœur des préoccupations, la qualité dégradée de nombreux contenus éducatifs proposés sur YouTube, souvent remplacés par des vidéos générées par IA, jugées creuses et superficiels. L'essor de créateurs utilisant l'intelligence artificielle pour produire des clips à des fins lucratives, au détriment des plus jeunes, inquiète particulièrement. La crainte est que cette « déchet d’IA », comme l'ont qualifié certains, affecte la capacité d'attention des enfants et leur discernement entre réalité et fiction. Le temps passé devant un écran, estime-t-on, se fait au détriment d'activités essentielles au développement émotionnel et social.
« Nous ignorons encore beaucoup de choses sur les conséquences de ces contenus générés par IA sur les enfants », souligne la lettre ouverte. « YouTube participe à une expérience hors de contrôle en promouvant un contenu IA sans recherches prouvant ses bénéfices, et sans tenir compte des principes du développement infantile qui nous indiquent qu'il est très probablement préjudiciable. » Parmi les signataires, on retrouve le psychologue social Jonathan Haidt, dont le best-seller « La génération anxieuse » a lancé un mouvement mondial pour lutter contre les dommages causés par les réseaux sociaux et les smartphones aux jeunes, ainsi que des organisations comme Fairplay et la National Alliance for Adolescent Health.
Youtube se défend, mais les critiques persistent
YouTube ne nie pas les préoccupations, mais insiste sur la transparence et la mise en place de mesures. « Nous avons des normes très strictes pour YouTube Kids, y compris la limitation du contenu généré par IA à un petit groupe de chaînes de haute qualité », affirme Boot Bullwinkle, porte-parole de YouTube. Les parents ont également la possibilité de bloquer des chaînes spécifiques. Cependant, les défenseurs de l'enfance soulignent que les étiquettes indiquant un contenu « altéré ou synthétique » sont peu susceptibles d'être comprises par les enfants pré-alphabétisés, qui constituent la cible principale de cette production massive de vidéos IA.
Ironiquement, Google a récemment investi dans Animaj, un studio d'animation IA spécialisé dans la création de contenu pour enfants sur YouTube, une initiative qualifiée de « véritable modèle pour l'avenir » par un dirigeant de Google, mais fustigée par les défenseurs de la sécurité infantile, qui dénoncent l'exposition de « bébés et jeunes enfants à des écrans ». L'urgence est palpable : ces derniers appellent à l'arrêt immédiat de tout investissement dans la production de vidéos générées par IA pour les enfants.
Le débat s'inscrit dans un contexte plus large de remise en question du fonctionnement de YouTube. En mars, un verdict historique a déclaré Google et Meta Platforms responsables d'avoir causé un préjudice à une jeune utilisatrice par des produits conçus pour la maintenir accrochée. Si les deux entreprises ont annoncé qu'elles feraient appel, la pression monte sur les géants de la tech pour qu'ils modifient certaines de leurs pratiques les plus lucratives, notamment leurs algorithmes de contenu. La question n'est plus de savoir si l'IA transformera l'avenir de YouTube, mais si cette transformation se fera au détriment des plus vulnérables.