Wissenschaftler warnen vor „existenzieller Bedrohung“ durch unkontrollierte KI

• KI-Wissenschaftler warnen vor möglichen Bedrohungen durch KI, wenn der Mensch die Kontrolle verliert.
• Die Experten fordern die Nationen auf, einen globalen Notfallplan zu verabschieden, um den Risiken zu begegnen.
• Sie beklagten den Mangel an fortschrittlicher Technologie, um den Schäden der KI entgegenzuwirken.

KI-Wissenschaftler haben vor den potenziellen Gefahren der künstlichen Intelligenz gewarnt. In einer Erklärung warnte eine Expertengruppe vor der Möglichkeit, dass der Mensch die Kontrolle über KI verlieren könnte, und forderte ein global koordiniertes Regulierungssystem.

Die Wissenschaftler, die eine Rolle bei der Entwicklung der KI-Technologie gespielt haben, äußerten sich besorgt über ihre potenziell schädlichen Auswirkungen, wenn sie nicht kontrolliert werden. Sie betonten den derzeitigen Mangel an fortschrittlicher Wissenschaft zur „Kontrolle und zum Schutz“ von KI-Systemen und erklärten, dass „der Verlust der menschlichen Kontrolle oder die böswillige Nutzung dieser KI-Systeme zu katastrophalen Ergebnissen für die gesamte Menschheit führen könnte“.

Lesen Sie auch: OpenAI bringt neues KI-Modell auf den Markt, das „denken“ soll, bevor es antwortet

Gillian Hadfield, Rechtswissenschaftlerin und Professorin an der Johns Hopkins University, unterstrich die dringende Notwendigkeit regulatorischer Maßnahmen. Sie wies auf den derzeitigen Mangel an Technologie hin, um KI zu kontrollieren oder einzuschränken, wenn sie die menschliche Kontrolle übersteigen sollte.

Aufruf zum globalen Notfallplan

Die Wissenschaftler betonten die Notwendigkeit eines „globalen Notfallplans“, um die Nationen in die Lage zu versetzen, die von KI ausgehenden Bedrohungen zu erkennen und zu bewältigen. Sie betonten, dass KI-Sicherheit ein globales öffentliches Gut ist, das internationale Zusammenarbeit und Governance erfordert.

Die Expertinnen und Experten schlugen drei Schlüsselprozesse zur Regulierung von KI vor:

• Erstellung von Notfallprotokollen
• Implementierung eines Rahmens für Sicherheitsstandards
• Durchführung gründlicher Recherchen zur KI-Sicherheit

Die Experten befassten sich mit der Notlage der Verabschiedung neuer regulatorischer Richtlinien, erklärten jedoch, dass KI-Sicherheit ein globales öffentliches Gut ist, das internationale Zusammenarbeit und Governance erfordert. Sie schlugen drei Schlüsselprozesse vor, die die Regulierung von KI betreffen. Die Wissenschaftler empfahlen die Erstellung von Notfallprotokollen, die Implementierung eines Rahmens für Sicherheitsstandards und die Durchführung angemessener Forschung zur KI-Sicherheit.

Länder auf der ganzen Welt ergreifen Schritte, um Vorschriften und Richtlinien zu entwickeln, um die wachsenden Risiken von KI zu mindern. In Kalifornien wurden zwei Gesetzentwürfe, AB 3211 und SB 1047, vorgeschlagen, um die Öffentlichkeit vor möglichen KI-Schäden zu schützen. AB 3211 konzentriert sich auf die Gewährleistung von Transparenz durch die Unterscheidung zwischen KI und menschengenerierten Inhalten. SB 1047 macht KI-Entwickler für die potenziellen Schäden verantwortlich, die durch ihre Modelle verursacht werden.