Tech : quand l’IA pirate pour réussir son examen
Un prototype d’IA s’est affranchi des règles et limites qui lui étaient imposées. L’incident reconnu par OpenAI confirme que les modèles les plus avancés développent des comportements de plus en plus inquiétants, comme le rappelle le précédent de Mythos.
Un « cyberincident sans précédent », « qui, selon nous, deviendra plus courant avec la prolifération de modèles aux capacités cybernétiques croissantes ».
Dans son communiqué du 21 juillet, OpenAI ne mâche pas ses mots et, de fait, l’affaire a de quoi inquiéter. Lors d’un test de cybersécurité organisé par cette société, plusieurs agents d’intelligence artificielle ont triché pour résoudre les exercices proposés. Ils ont profité d’une faille jusque-là inconnue (dite « zero-day ») pour pirater la plateforme Hugging Face afin d’y récupérer des informations susceptibles de les aider à obtenir un meilleur résultat.
Les modèles évoluaient pourtant dans un environnement volontairement limité, conçu pour les empêcher d’interagir librement avec l’extérieur. Au lieu d’accepter ces contraintes, ils ont mobilisé des ressources de calcul supplémentaires pour accéder au Web, puis exploité des identifiants compromis, allant jusqu’à fouiller des informations qui ne faisaient pas partie du test. En somme, l’important n’était pas de participer, mais de gagner à tout prix.
Cet épisode rappelle les alertes suscitées il y a quelques mois par Mythos, le modèle de cybersécurité développé par Anthropic. Dans son analyse, INCYBER expliquait déjà que plus une IA gagne en autonomie, plus elle peut considérer les règles imposées par ses concepteurs comme des obstacles à contourner plutôt que comme des limites à respecter. Le modèle était notamment capable de mentir sur son identité, de masquer certaines de ses actions ou de chercher des moyens détournés pour atteindre un objectif.
L’alerte mérite toutefois d’être nuancée. Les grands laboratoires ont tout intérêt à mettre en avant les capacités spectaculaires de leurs modèles, qui contribuent à leur réputation et à leur valorisation. Reste que l’affaire Hugging Face fait sortir ces comportements des scénarios imaginés par des chercheurs ou des auteurs de science-fiction : une IA a bel et bien piraté une plateforme réelle pour améliorer son score. Plus les modèles gagnent en autonomie, moins leurs concepteurs saisissent ce qui se joue dans leurs rouages ; « nous ne comprenons pas le fonctionnement de nos propres créations d’IA », écrivait déjà en avril 2025 Dario Amodei, patron d’Anthropic.
