Ethereums Buterin: KI sollte den Menschen verbessern, nicht überwältigen

• Vitalik Buterin warnt vor selbstreplizierender KI und befürwortet menschenerweiternde Technologien.
• Destilliertes menschliches Urteilsvermögen bietet eine billigere Möglichkeit, kollektive Entscheidungen in Echtzeit zu treffen.
• Buterin unterstützt KI dabei, die menschliche Handlungsfähigkeit zu verbessern, anstatt sie zu ersetzen, wie Chatbots, die Aufgaben verbessern.

Vitalik Buterin, der Mitbegründer von Ethereum, teilte seine Gedanken zu künstlicher Intelligenz (KI) auf X. Er sprach darüber, wie KI entwickelt wird und was sie für die Menschheit bedeutet. Er wies auf den Unterschied zwischen KI hin, die „falsch“ gemacht wurde, und KI, die „richtig“ gemacht wurde.

Lesen Sie auch: KI-Modelle prognostizieren Krypto-Marktführer für 2025: Bitcoin nach Kaspa

Er warnte davor, unabhängige, sich selbst replizierende KI-Systeme zu schaffen, die zu einer Entmachtung des Menschen führen könnten. Stattdessen schlug er vor, KI mit menschlichem Urteilsvermögen und kollektiver Entscheidungsfindung zu kombinieren.

Er verglich KI mit Mecha-Anzügen, mächtigen Werkzeugen, die die menschliche Intelligenz und Entscheidungsfindung verbessern. Er zog jedoch eine Grenze zu selbstreplizierenden, autonomen KI-Systemen und warnte vor den Gefahren, die von ihnen ausgehen.

Laut Buterin könnten solche KI-Systeme eine „dauerhafte Entmachtung des Menschen“ riskieren, so dass die Menschen wenig Kontrolle über die von ihnen geschaffene Technologie haben.

Destilliertes menschliches Urteilsvermögen: Die kollektive Entscheidungsfindung

Buterin sprach auch von „destilliertem menschlichem Urteilsvermögen“, um die kollektive Entscheidungsfindung effizienter zu gestalten.

Er bezog sich dabei auf eine Idee des Ökonomen Robin Hanson. Grundsätzlich wird ein teurer, vertrauenswürdiger menschlicher Beurteilungsmechanismus billiger und schneller kopiert. In diesem Modell werden Entscheidungen nicht direkt von Menschen getroffen, sondern von einem Prognosemarkt.

In der Praxis stellte Buterin fest, dass die Menschen jedes Mal einen Prognosemarkt verwenden würden, wenn sie eine Entscheidung treffen müssen. Der Markt würde es den Teilnehmern ermöglichen, das Ergebnis der Entscheidung vorherzusagen, wenn Menschen sie treffen.

Die Debatte um agentische KI

Als Reaktion auf die wachsende Debatte über die Rolle der KI bei der Entscheidungsfindung wies Emad, der ehemalige CEO von Stability AI, auf den Kontrast zwischen agentischer KI und zunehmender menschlicher Handlungsfähigkeit durch Designentscheidungen hin.

Buterin antwortete, indem er seine Sicht auf „Agenten“ erklärte. Er sprach über den Unterschied zwischen KI, die komplexe Pläne ohne menschliches Zutun erstellt, und einfacheren Formen der KI, wie Chatbots, die grafische Benutzeroberflächen (GUIs) ersetzen können, um alltägliche Aufgaben effizienter zu gestalten.