Anthropic a annoncé que ses modèles d’intelligence artificielle Claude avaient piraté les systèmes informatiques de trois organisations externes lors de tests portant sur les capacités offensives en matière de cybersécurité, une semaine après un incident similaire signalé par OpenAI.
Claude a pénétré dans les systèmes d’entreprises externes alors qu’il était soumis à des tests de piratage contrôlés. L’incident serait dû à une erreur de configuration : en raison d’un « malentendu » avec le partenaire chargé des tests, Irregular, le modèle a pu se connecter à Internet, alors que l’environnement de test aurait dû être totalement isolé.
Cet incident survient quelques jours après qu’OpenAI eut révélé que deux de ses modèles avaient réussi à sortir de l’environnement de test et à attaquer Hugging Face en exploitant une vulnérabilité logicielle.
Trois cas sur plus de 141 000 tests
Anthropic a expliqué qu’à la suite de l’incident d’OpenAI, l’entreprise avait réexaminé ses procédures d’évaluation, identifiant trois incidents anormaux sur plus de 141 000 tests effectués. Dans tous les cas, les modèles avaient été informés qu’ils opéraient dans une simulation sans accès au réseau. En réalité, en raison d’une erreur de coordination avec le partenaire externe, la connexion à Internet était disponible.
Les tests consistaient en des exercices de type « capture the flag », une méthodologie utilisée en cybersécurité qui consiste à analyser ou à exploiter des vulnérabilités informatiques pour récupérer des informations cachées.
Dans l’un de ces incidents, Claude a ciblé une société fictive qui partageait toutefois le nom d’un domaine Internet réellement existant. L’agent IA, c’est-à-dire un programme capable de fonctionner de manière autonome en suivant des instructions humaines, a exploité des vulnérabilités de l’infrastructure numérique de la société, a extrait des données et a obtenu l’accès à une base de données.
Renforcement des contrôles en vue de l’introduction en bourse
Cet incident alimente les inquiétudes concernant la sécurité des systèmes d’intelligence artificielle, de plus en plus capables de mener de véritables cyberattaques, même pendant la phase de test précédant la commercialisation.
Anthropic, qui se prépare à une éventuelle introduction en bourse dès cette année, a déclaré avoir immédiatement suspendu les évaluations des capacités cyber dès qu’elle s’est rendu compte que Claude pouvait accéder à Internet.
Les incidents ont concerné trois modèles différents : Opus 4.7, Mythos 5 et un modèle expérimental utilisé exclusivement à des fins de recherche. En particulier, Mythos 5, distribué à un nombre limité de partenaires, avait déjà attiré l’attention pour ses capacités avancées à détecter et à exploiter les vulnérabilités logicielles.
