C'est une première dont l'entreprise elle-même mesure la portée. Dans un rapport publié cette semaine, Anthropic, la société californienne à l'origine du modèle d'intelligence artificielle Claude, explique avoir détecté, dès la mi-septembre de l'année précédente, une activité suspecte qui s'est révélée être une campagne d'espionnage d'une sophistication inédite. Les assaillants ont utilisé les capacités dites « agentiques » de l'IA, sa capacité à agir de façon autonome sur la durée, non pas comme un simple outil d'assistance, mais pour exécuter eux-mêmes les cyberattaques.
Un pirate informatique presque entièrement automatisé
Selon Anthropic, le groupe à l'origine de l'opération, évalué « avec une grande confiance » comme étant parrainé par l'État chinois, a manipulé l'outil Claude Code pour tenter de s'infiltrer dans une trentaine de cibles à travers le monde, avec un succès partiel dans un petit nombre de cas. Grandes entreprises technologiques, institutions financières, groupes chimiques et agences gouvernementales figuraient parmi les organisations visées.
Pour contourner les garde-fous du modèle, les opérateurs ont eu recours au « jailbreak », une technique consistant à fragmenter l'attaque en tâches anodines en apparence, sans jamais révéler à l'IA la finalité malveillante de l'ensemble, allant jusqu'à lui faire croire qu'elle travaillait pour une entreprise de cybersécurité menant des tests défensifs légitimes. L'intelligence artificielle a ensuite mené elle-même la reconnaissance des systèmes ciblés, identifié les bases de données les plus sensibles, rédigé son propre code d'exploitation des failles détectées, collecté des identifiants de connexion, puis extrait et trié un volume important de données selon leur valeur pour le renseignement.
« Selon Anthropic, l'intelligence artificielle a réalisé entre 80 % et 90 % de l'ensemble de la campagne, l'intervention humaine se limitant à quatre ou six décisions critiques par opération de piratage, un rythme d'exécution, à son pic, de plusieurs requêtes par seconde, hors de portée d'une équipe de pirates humains. »
L'entreprise reconnaît toutefois que le système n'a pas fonctionné sans faille : il lui est arrivé d'halluciner des identifiants ou de revendiquer l'extraction d'informations en réalité déjà publiques, ce qui reste, selon elle, un obstacle à l'automatisation complète de ce type d'attaque.
Alibaba, Moonshot et DeepSeek également mis en cause
Le rapport d'Anthropic, relayé notamment par l'agence Reuters, ne s'arrête pas à cet épisode d'espionnage. L'entreprise affirme avoir perturbé, au cours des huit derniers mois, plusieurs usages malveillants de ses modèles, dont des tentatives de sept laboratoires basés en Chine, parmi lesquels Alibaba, Moonshot et DeepSeek, visant à extraire et reproduire les capacités de Claude. Les opérateurs liés à Alibaba auraient mené la plus importante opération de « distillation » jamais recensée par l'entreprise, avec plus de 151 millions d'échanges enregistrés entre mai et juillet, dans le but d'améliorer les modèles Qwen du groupe chinois. Moonshot, créateur du robot conversationnel Kimi, et DeepSeek sont quant à eux soupçonnés d'avoir fait transiter par Claude des conversations réelles de leurs propres utilisateurs, contenant parfois des informations sensibles, pour s'en servir comme données d'entraînement.
Un précédent qui interroge l'avenir de la cybersécurité
Le rapport signale par ailleurs un groupe distinct, dont les méthodes correspondent à celles de l'acteur russe Midnight Blizzard, lié par les autorités américaines au renseignement extérieur russe, pour des opérations de phishing et de piratage visant les secteurs gouvernemental, militaire et diplomatique ukrainiens.
« Il y a un an, si vous vouliez optimiser un drone ou le logiciel d'un missile, les modèles n'étaient tout simplement pas aussi performants qu'aujourd'hui dans cette tâche », a résumé Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, interrogé par la presse. Une phrase qui, à elle seule, dit la vitesse à laquelle la frontière entre assistance et exécution autonome s'est déplacée, et l'ampleur du défi que doivent désormais relever gouvernements et entreprises pour s'en prémunir.
