Anthropic sagt, KI könnte eines Tages eigene Nachfolger erschaffen

• Anthropic sagt, Claude schreibe inzwischen einen Großteil des Codes, der zur Entwicklung eigener KI-Systeme verwendet wird, was die Produktivität steigert.
• Das Unternehmen sagt, dass die KI-Fähigkeiten schneller wachsen, wobei sich die Aufgabenkomplexität etwa alle vier Monate verdoppelt.
• Anthropic warnt, dass KI letztlich dazu beitragen könnte, bessere KI zu schaffen, was Aufsicht und Sicherheit erschwert.

Das Unternehmen für künstliche Intelligenz Anthropic sagt, dass KI sich so schnell verbessert, dass sie beginnt, die nächste Generation von KI-Systemen zu entwickeln. Das Unternehmen warnt, dass dies es Menschen letztlich erschweren könnte, die Kontrolle über die KI-Entwicklung zu behalten.

In einer neuen Forschungsarbeit diskutierte Anthropic die Möglichkeit der „rekursiven Selbstverbesserung“. Dies ist eine Situation, in der KI-Systeme fortschrittlichere KI-Systeme mit sehr wenig menschlicher Beteiligung entwerfen, bauen und trainieren.

Das Unternehmen betonte, dass dies bisher nicht geschehen ist und möglicherweise nie passieren wird. Sie ist jedoch der Meinung, dass Regierungen, Regulierungsbehörden und Technologieunternehmen jetzt mit der Vorbereitung beginnen sollten.

„Wir sind noch nicht so weit, und rekursive Selbstverbesserung ist nicht unvermeidlich. Aber es könnte früher kommen, als die meisten Institutionen bereit sind“, sagte Anthropic.

Claude spielt eine größere Rolle in der KI-Entwicklung

Anthropic sagt, dass sein Claude-KI-Modell weit über einen einfachen Programmierassistenten hinausgewachsen ist.

Das Unternehmen beschrieb, wie sich KI-Tools weiterentwickelt haben. Anfangs schrieben Ingenieure selbst Code. Später halfen Chatbots bei kleinen Programmieraufgaben. Dann kamen KI-Codierer, die Dateien bearbeiten und Projekte selbst verwalten konnten.

Heute können KI-Agenten Code schreiben und ausführen, Aufgaben eigenständig erledigen und sogar Arbeit an andere KI-Agenten verteilen. Laut Anthropic ist der nächste Schritt KI-Systeme, die aktiv helfen, zukünftige KI-Modelle zu erstellen und zu trainieren.

Das Unternehmen enthüllte, dass Claude nun den Großteil des Codes schreibt, der zur Entwicklung der eigenen KI-Systeme von Anthropic verwendet wird. Dadurch sind Entwickler viel produktiver. Anthropic sagt, dass der durchschnittliche Ingenieur heute etwa achtmal mehr Code pro Tag produziert als im Jahr 2024.

Verwandt: Anthropic Präsident sagt, steigende Kosten für KI-Training treiben Börsengangspläne voran

KI-Fähigkeiten wachsen schneller

Anthropic sagt, dass öffentliche Tests und interne Forschungen zeigen, dass sich die KI-Fähigkeiten schnell verbessern. Das Unternehmen behauptet, dass sich die Länge und Komplexität der Aufgaben, die KI zuverlässig erledigen kann, etwa alle vier Monate verdoppelt. Früher lag diese Wachstumsrate näher bei alle sieben Monate.

Anthropic verwies als Beispiel auf den Fortschritt seiner Claude-Modelle. Im März 2024 konnte Claude Opus 3 Software-Engineering-Aufgaben übernehmen, die für einen Menschen etwa vier Minuten dauern würden. Ein Jahr später konnte Claude Sonnet 3.7 Berichten zufolge Aufgaben erledigen, die etwa 90 Minuten menschliche Arbeit erforderten.

Bis 2026 war Claude Opus 4.6 Berichten zufolge in der Lage, Aufgaben zu bewältigen, die etwa 12 Stunden menschlicher Anstrengung entsprachen.

Auch Claudes Forschungsfähigkeiten haben sich verbessert. In einem internen Projekt lösten Claude-angetriebene Agenten nahezu alle großen Forschungsherausforderungen.

Anthropic berichtete außerdem, dass Claudes Erfolgsquote bei schwierigen Programmieraufgaben im Mai 2026 76 % erreichte – eine deutliche Verbesserung im Vergleich zu sechs Monaten zuvor.

Drei mögliche Zukünfte für KI

Anthropic skizzierte drei mögliche Wege für die KI-Entwicklung. Die erste ist eine Verlangsamung, bei der Fortschritt mit der Zeit schwerer zu erreichen ist.

Die zweite ist eine Zukunft, in der KI weiterhin die Produktivität steigert, während Menschen weiterhin wichtige Entscheidungen und Aufsicht kontrollieren.

Das dritte und dramatischste Szenario ist, dass KI-Systeme beginnen, eigene Nachfolger zu erschaffen, was zu viel schnellerem Fortschritt führt.

Basierend auf den aktuellen Erkenntnissen hält Anthropic das zweite Szenario für das wahrscheinlichste. Das Unternehmen sagt jedoch, dass weiterhin Unsicherheiten darüber bestehen, wie schnell sich KI-Fähigkeiten weiterentwickeln könnten.

Die menschliche Aufsicht könnte zur größten Herausforderung werden

Anthropic sagt, dass Menschen weiterhin wichtige Stärken besitzen, darunter Urteilsvermögen, strategisches Denken und die Entscheidung, welche Probleme es wert sind, gelöst zu werden. Das Unternehmen argumentiert jedoch, dass die größte Herausforderung bald die menschliche Aufsicht sein könnte und nicht die KI-Entwicklung selbst.

Da KI-Systeme leistungsfähiger werden, kann es für Menschen zunehmend schwieriger werden, ihre Arbeit zu überprüfen, zu überprüfen und sicher zu überwachen.

Deshalb schlägt Anthropic vor, dass Regierungen und führende KI-Unternehmen Pläne haben sollten, um die Entwicklung der fortschrittlichsten KI-Systeme vorübergehend zu verlangsamen, falls der Fortschritt schneller voranschreitet, als die Gesellschaft sicher bewältigen kann.

Das Unternehmen wies darauf hin, dass eine bedeutende Verlangsamung wahrscheinlich internationale Zusammenarbeit erfordern würde. Wenn nur ein Unternehmen die Entwicklung pausiert, könnten die Wettbewerber weiter vorankommen und die Wirksamkeit der Sicherheitsmaßnahme verringern.

Für den Moment sagt Anthropic, dass rekursive Selbstverbesserung eine Möglichkeit und keine Gewissheit bleibt. Da Claude jedoch eine wachsende Rolle beim Aufbau zukünftiger KI-Systeme spielt, ist das Unternehmen der Meinung, dass Diskussionen über KI-Governance, Aufsicht und Sicherheit eher früher als später beginnen sollten.

Verwandt: Tötet KI Bitcoin? Warum das Kapital jetzt auf KI-Technologie umsteigt