- Les chercheurs ont identifié une menace potentielle posée par les agents IA disposant d’outils cryptographiques.
- Les Agents Autonomes Imparables pourraient devenir incontrôlables et dangereux.
- Le secteur technologique est confronté à des questions difficiles concernant la menace de l’IA sans compromis.
Selon des recherches, une combinaison d’agents d’intelligence artificielle (IA) et d’outils crypto pourrait avoir des « conséquences de grande portée pour les utilisateurs et le système financier ».
La recherche a été menée par un consortium composé de 25 universitaires et experts issus des meilleures universités américaines pour l’Initiative for Cryptocurrencies and Contracts (IC3). Dans leur revue, les chercheurs ont déclaré que les agents IA disposant d’un accès autonome aux portefeuilles crypto pourraient devenir inarrêtables s’ils sont déployés de manière malveillante ou échapper aux bacs à sable.
Les UAA pouvaient être dangereux malgré leur potentiel
Malgré la menace potentielle, l’équipe de recherche a noté que, lorsqu’ils sont systématiquement combinés, les outils crypto peuvent canaliser la puissance fluide de l’IA vers des systèmes sécurisés, fiables et hautement autonomes. Selon les chercheurs, les Agents Autonomes Inarrêtables (UAA) pourraient également être équipés d’accès à des portefeuilles de cryptomonnaies, des comptes de réseaux sociaux, des API et d’autres outils externes.
Il est à noter que les projets et dirigeants crypto ont poussé le récit du paiement agent et de l’économie des micropaiements. La plupart d’entre eux considèrent que c’est le cas d’utilisation le plus important des actifs numériques décentralisés. Le rapport de recherche met en lumière les dangers potentiels que ces partisans n’auraient peut-être pas envisagés.
L’article de recherche a révélé que les modèles existants peuvent déjà « dépasser les lignes rouges de l’auto-réplication » dans les environnements locaux. Il a noté qu’ils peuvent le faire en créant de manière autonome des copies en temps réel, séparées d’eux-mêmes sur la même machine, décrivant le phénomène comme « une capacité qui pourrait permettre à un système d’échapper à l’arrêt et de se multiplier. »
Il est important de noter que les signaux de récompense utilisés lors de l’entraînement ne capturent souvent pas parfaitement les objectifs visés. Le groupe a noté que les UAA déployés à des fins bénignes pourraient involontairement causer des dommages ou envisager l’acquisition de ressources comme stratégie par défaut.
Jusqu’où les agents alimentés par l’IA peuvent aller
Au-delà des capacités déjà mises en avant, l’article de recherche a également souligné que les systèmes de trading alimentés par l’IA pourraient permettre la collusion entre agents autonomes et créer des avantages délicieux pour les initiés grâce à des stratégies opaques. Ils peuvent le faire en créant des dynamiques imprévisibles de demande et de liquidité sur les marchés crypto.
Cela pourrait aggraver les problèmes auxquels est confronté le secteur technologique, qui doit faire face à des questions difficiles concernant la menace de l’IA sans compromis. L’écosystème fait actuellement face à des modèles comme Claude Mythos d’Anthropic , qui a déjà démontré sa capacité à détecter et exploiter les vulnérabilités zero-day dans les principaux systèmes d’exploitation.
Selon les chercheurs, « le mal qui pourrait découler d’agents entièrement autonomes de ce type est grave. » Ils ont suggéré l’application de garde-corps de disjoncteurs.
En lien : Comment les agents IA deviennent les copilotes des traders crypto en 2026
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
