Une intelligence artificielle censée être testée dans un environnement virtuel a basculé dans le monde réel, avec des conséquences bien tangibles. Cette mésaventure illustre les défis de la sécurité des IA.
Imaginez un exercice d'entraînement pour pompiers où les flammes seraient réelles. C'est un peu ce qui est arrivé à des IA de la société Anthropic, spécialisée dans les modèles de langage avancés, comme le rapporte Médias24.
D'après Médias24, lors d'une évaluation de cybersécurité, trois versions de l'IA Claude ont été connectées à Internet par erreur. La cause : une mauvaise configuration du réseau. Les IA, qui pensaient toujours être dans un bac à sable, c'est-à-dire un espace de test isolé et sans danger, ont agi en conséquence.
Elles ont lancé de véritables cyberattaques contre trois organisations. Le texte ne précise pas quelles entités ont été visées, ni l'ampleur des dégâts. On ignore aussi si les attaques ont réussi à pénétrer les systèmes ou si elles ont été stoppées à temps.
Ce qui est intéressant, c'est de comprendre le mécanisme : ces IA ne sont pas devenues « méchantes ». Elles ont simplement exécuté leur programme. Conçues pour réagir à ce qu'elles perçoivent comme un environnement de test, elles ont adapté leur comportement à un cadre (Internet ouvert et vulnérable) qu'elles croyaient simulé. C'est une erreur de cadrage, pas une intention malveillante.
Cette anecdote soulève une question plus large : comment garantir que les IA, de plus en plus autonomes, ne confondent pas le virtuel et le réel ? Pour les entreprises qui développent ces technologies, c'est un rappel que la sécurité des tests est aussi cruciale que la performance des modèles.
