• Vitalik avertit que la croissance de l’IA pourrait priver les utilisateurs du contrôle des données et des comptes numériques en ligne.
• Il encourage les systèmes d’IA locaux et l’approbation humaine afin de réduire les risques liés aux outils d’intelligence basés sur le cloud.
• Les experts associent sa vision à la « technologie sanctuaire », c’est-à-dire garder le pouvoir de décision entre les utilisateurs et non les plateformes.

Un débat sur la sécurité de l’IA et le contrôle numérique a pris ampleur après que Vitalik Buterin, cofondateur d’Ethereum, a averti que les gens pourraient perdre le contrôle de leurs comptes en ligne et de leurs données personnelles à mesure que les systèmes d’IA deviennent plus puissants. Il a appelé à « l’identité autonome, les données et l’argent », affirmant que les utilisateurs devraient garder un contrôle direct de leur vie numérique au lieu de dépendre de plateformes tierces ou de systèmes automatisés.

Cet avertissement intervient alors que des inquiétudes circulent en ligne concernant la gestion des fonctions sensibles des comptes par les outils d’IA. Un chercheur connu sous le nom d’Impulsive a affirmé que le système de support IA de Meta pouvait modifier les paramètres des comptes Instagram sans vérifications d’identité appropriées.

Construire l’IA autour du contrôle utilisateur

Dans un récent article de blog intitulé « Ma configuration LLM auto-souveraine / locale / privée / sécurisée », Vitalik a présenté une approche différente de l’intelligence artificielle. Il a ajouté que de nombreux systèmes d’IA privilégient la commodité tout en exposant la vie privée et la sécurité. Il a également averti que les outils basés sur le cloud pourraient rendre normal le partage de données personnelles sensibles avec de grands fournisseurs centralisés.

Pour réduire ces risques, Buterin a décrit une configuration basée sur des modèles d’IA locaux, un stockage hors ligne des données et une isolation stricte du système. Il a souligné des risques tels que les fuites de données, les invites manipulées, les portes dérobées de logiciels cachées et l’exposition accidentelle d’informations privées. En conséquence, il a déclaré que la confidentialité et la sécurité devraient être considérées comme des exigences de conception de base, et non comme des fonctionnalités optionnelles.

À lire aussi : Michael Burry qualifie l’offre GPU de Nvidia à 5,4 milliards de dollars de « Fugazi »

IA locale et confirmation humaine

Buterin a également décrit les outils derrière sa configuration, notamment les modèles de langage locaux, les magasins privés de données et les systèmes de sandboxing qui limitent ce à quoi les agents IA peuvent accéder. Il a aussi ajouté avoir développé des outils de communication permettant à l’IA de lire les messages mais nécessitant l’approbation humaine avant d’envoyer quoi que ce soit à d’autres personnes.

Il a étendu la même idée aux portefeuilles de cryptomonnaies. Dans ce modèle, l’IA pourrait aider les utilisateurs à préparer les transactions, mais les humains approuveraient toujours des actions à risque élevé. Il a résumé cette approche en disant : « la nouvelle ‘confirmation à deux facteurs’ est que les deux facteurs sont l’humain et le LLM. »

Technologies Sanctuaire pour l’ère de l’IA

L’investisseur Saito a lié les points de vue de Buterin à ce qu’il appelle des « technologies sanctuaires ». Dans une récente discussion sur un podcast, Buterin a déclaré que le risque le plus important lié à l’IA ne vient pas seulement d’une défaillance technique, mais aussi du transfert progressiv de décisions à des systèmes gérés par des entreprises ou par une intelligence centralisée.

Il a déclaré que la technologie devrait élargir le choix des utilisateurs plutôt que de le remplacer. Selon lui, Ethereum représente un système alternatif que les gens peuvent adopter ou quitter à volonté. Il a également encouragé les développeurs à créer des outils protégeant la vie privée et laissant la prise de décision entre les mains des utilisateurs.

En lien : Binance ajoute plus de 7 000 actions et ETF américains à Financial Super App