Ethereums Buterin weist auf das Risiko von KI-gesteuerten Kontoübernahmen hin.

• Vitalik warnt, dass das Wachstum der KI den Nutzern die Kontrolle über Daten und digitale Konten online nehmen könnte.
• Er fordert lokale KI-Systeme und menschliche Genehmigungen, Risiken durch cloudbasierte Intelligenztools zu reduzieren.
• Experten bringen seine Sichtweise mit „Sanctuary Tech“ in Verbindung und behalten die Entscheidungsmacht bei den Nutzern, nicht bei Plattformen.

Eine Debatte über KI-Sicherheit und digitale Kontrolle hat zugenommen, nachdem Ethereum-Mitgründer Vitalik Buterin gewarnt hat, dass Menschen die Kontrolle über ihre Online-Konten und persönlichen Daten verlieren könnten, wenn KI-Systeme immer leistungsfähiger werden. Er forderte „selbstständige Identität, Daten und Geld“ und sagte, die Nutzer sollten die direkte Kontrolle über ihr digitales Leben behalten, anstatt sich auf Drittanbieterplattformen oder automatisierte Systeme zu verlassen.

Die Warnung kommt zu einem Zeitpunkt, in dem online Bedenken über KI-Tools kursieren, die sensible Kontofunktionen verwalten. Ein Forscher namens Impulsive behauptete, dass Metas KI-Unterstützungssystem die Instagram-Kontoeinstellungen ohne ordnungsgemäße Identitätsprüfungen ändern könnte.

KI um Benutzersteuerung herum aufbauen

In einem aktuellen Blogbeitrag mit dem Titel „Mein selbst-souveränes / lokales / privates / sicheres LLM-Setup“ stellte Vitalik einen anderen Ansatz zur künstlichen Intelligenz dar. Er sagte, viele KI-Systeme legen Wert auf Bequemlichkeit, lassen aber Privatsphäre und Sicherheit offen. Er warnte außerdem, dass cloudbasierte Tools es für Menschen normal machen könnten, sensible persönliche Daten mit großen, zentralisierten Anbietern zu teilen.

Um diese Risiken zu verringern, beschrieb Buterin ein Setup, das auf lokalen KI-Modellen, Offline-Datenspeicherung und strikter Systemisolation basiert. Er wies auf Risiken wie Datenlecks, manipulierte Eingabeaufforderungen, versteckte Software-Hintertüren und versehentliche Offenlegung privater Informationen hin. Daher sagte er, dass Privatsphäre und Sicherheit als grundlegende Designanforderungen und nicht als optionale Funktionen behandelt werden sollten.

Verwandt: Michael Burry nennt Nvidias 5,4-Milliarden-Dollar-GPU-Deal „Fugazi“

Lokale KI und menschliche Bestätigung

Buterin beschrieb auch die Werkzeuge hinter seinem Setup, darunter lokale Sprachmodelle, private Datenspeicher und Sandbox-Systeme, die den Zugriff von KI-Agenten einschränken. Er sagte, er habe auch Kommunikationstools entwickelt, die es KI ermöglichen, Nachrichten zu lesen, aber vor dem Senden von etwas an andere Personen menschliche Zustimmung benötigen.

Er hat dieselbe Idee auf Kryptowährungs-Wallets übertragen. In diesem Modell könnte KI den Nutzern helfen, Transaktionen vorzubereiten, aber Menschen würden dennoch risikoreichere Maßnahmen genehmigen. Er fasste diesen Ansatz mit den Worten zusammen: „Die neue ‚Zwei-Faktor-Bestätigung‘ ist, dass die beiden Faktoren der Mensch und der LLM sind.“

Zufluchtstechnologien für das KI-Zeitalter

Investor Saito verband Buterins Ansichten mit dem, was er „Sanctuary-Technologien“ nennt. In einer kürzlichen Podcast-Diskussion sagte Buterin, das größere Risiko von KI sei nicht nur technisches Versagen, sondern dass Menschen langsam Entscheidungen an Systeme von Unternehmen oder zentralisierten Geheimdienstinformationen übergeben.

Er sagte, Technologie solle die Nutzerwahl erweitern, anstatt sie zu ersetzen. Seiner Ansicht nach stellt Ethereum ein alternatives System dar, das Menschen nach Belieben übernehmen oder verlassen können. Er ermutigte Entwickler außerdem, Tools zu entwickeln, die die Privatsphäre schützen und die Entscheidungsfindung in den Händen der Nutzer legen.

Verwandt: Binance fügt über 7.000 US-Aktien und ETFs zur Financial Super App hinzu