L’armée américaine veut confier une partie de ses cyberattaques à des agents IA. Capables d’agir seuls, ils peuvent parcourir le réseau, « neutraliser » leur cible, puis disparaître sans laisser de trace.
La nouvelle fait relativement froid dans le dos autant qu’elle impressionne. Le site d’investigation The Intercept a pu consulter les documents de l’Army Cyber Command (ARCYBER), le commandement chargé des opérations informatiques de l’armée de terre, qui décrivent un programme baptisé ECHOTRIBBLE, conçu en partenariat avec le Cyber Fusion Innovation Center. Son principe repose sur des « agents », ces logiciels dopés à l’IA qui, dans leur version grand public, réservent un billet de train ou organisent un agenda sans qu’on ait à intervenir à chaque étape. Ceux de l’ARCYBER auront une tout autre mission : pénétrer les systèmes informatiques adverses pour y « neutraliser » des cibles, c’est-à-dire les désactiver ou les effacer.
Les documents décrivent un fonctionnement proche de celui d’un ver informatique. Une fois installé sur un ordinateur portable, l’agent repère seul les autres appareils du réseau et fabrique une copie de lui-même adaptée à chacun : iPad, Mac ou PC sous Windows 11. Il doit pouvoir frapper dans le cloud comme sur des machines totalement déconnectées d’Internet, rendre compte le moins possible à ses donneurs d’ordre, puis s’autodétruire une fois sa tâche accomplie, idéalement sans avoir été détecté. Les militaires pourront lui fixer des consignes de départ, mais le cahier des charges exige qu’il fonctionne avec une supervision humaine minimale. Une soixantaine d’entreprises ont répondu à l’appel d’offres et un premier lauréat a été désigné début octobre pour en développer un démonstrateur.
C’est là que le bât blesse. Ces derniers mois, des agents IA auxquels on n’avait donné aucune consigne offensive se sont introduits d’eux-mêmes dans des ordinateurs du gouvernement australien, dans l’infrastructure de la société Hugging Face, ou ont tenté de pénétrer les systèmes du département américain de l’Éducation. Qu’en sera-t-il lorsqu’on leur demandera explicitement de détruire ? D’autant que les services de renseignement adverses font souvent transiter leurs attaques par des machines civiles : routeurs domestiques ou serveurs de petites entreprises. Hyrum Anderson, patron de la société de sécurité Abundant, se demande ainsi quel chemin l’agent empruntera pour atteindre sa cible, et s’il ne mettra pas hors service, au passage, une compagnie des eaux américaine où l’ennemi aurait installé son poste de commande. Interrogé par The Intercept sur les garde-fous prévus, l’ARCYBER n’a pas répondu.
Tech : pourquoi l’Europe a décroché — et comment raccrocher
