Anthropic lance le projet glasswing pour préparer les entreprises contre les cyberattaques

La startup d'intelligence artificielle Anthropic a dévoilé mardi une initiative baptisée Projet Glasswing, en partenariat avec Amazon, Apple, Microsoft et d'autres acteurs du secteur. Cette coalition aura accès à un modèle d'Anthropic encore non publié, baptisé Mythos, conçu pour détecter les failles dans les produits et partager ces découvertes avec d'autres entreprises.

Une collaboration pour renforcer la sécurité

Ce projet répond à la montée des inquiétudes quant aux risques que pourrait représenter l'accès plus large à des modèles d'IA plus puissants pour les cyberattaques. Anthropic a déjà signalé que Mythos a déjà révélé des vulnérabilités, notamment une faille de sécurité de 27 ans dans du logiciel critique d'Internet et une vulnérabilité de 16 ans dans un jeu vidéo populaire, malgré des millions d'analyses automatiques.

Les protagonistes du Projet Glasswing devront s'engager à utiliser le modèle Mythos de manière responsable et à prendre des mesures pour éviter sa diffusion non autorisée. Anthropic a affirmé avoir discuté de ces questions de sécurité avec des responsables américains, notamment l'Agence de Sécurité de l'Infrastructure et le National Institute of Standards and Technology.