Anthropic Mengatakan AI Suatu Hari Nanti Dapat Menciptakan Penerus Sendiri

• Anthropic mengatakan Claude sekarang menulis banyak kode yang digunakan untuk mengembangkan sistem AI-nya sendiri, meningkatkan produktivitas.
• Perusahaan mengatakan kemampuan AI tumbuh lebih cepat, dengan kompleksitas tugas berlipat ganda setiap empat bulan.
• Anthropic memperingatkan AI pada akhirnya dapat membantu menciptakan AI yang lebih baik, membuat pengawasan dan keamanan lebih menantang.

Perusahaan kecerdasan buatan Anthropic mengatakan AI meningkat begitu cepat sehingga mulai membantu menciptakan sistem AI generasi berikutnya. Perusahaan memperingatkan bahwa ini pada akhirnya dapat mempersulit manusia untuk mempertahankan kendali atas pengembangan AI.

Dalam makalah penelitian baru, Anthropic membahas kemungkinan “perbaikan diri rekursif.” Ini adalah situasi di mana sistem AI merancang, membangun, dan melatih sistem AI yang lebih canggih dengan keterlibatan manusia yang sangat sedikit.

Perusahaan menekankan bahwa ini belum terjadi dan mungkin tidak akan pernah terjadi. Namun, ia percaya pemerintah, regulator, dan perusahaan teknologi harus mulai mempersiapkan sekarang.

“Kami belum sampai di sana, dan perbaikan diri rekursif tidak dapat dihindari. Tapi itu bisa datang lebih cepat daripada yang dipersiapkan oleh kebanyakan institusi,” kata Anthropic.

Claude Memainkan Peran Lebih Besar dalam Pengembangan AI

Anthropic mengatakan model Claude AI-nya telah berkembang jauh melampaui asisten pengkodean dasar.

Perusahaan menggambarkan bagaimana alat AI telah berevolusi. Pada awalnya, para insinyur menulis kode sendiri. Kemudian, chatbot membantu dengan tugas pengkodean kecil. Kemudian muncul agen pengkodean AI yang dapat mengedit file dan mengelola proyek sendiri.

Saat ini, agen AI dapat menulis dan menjalankan kode, menyelesaikan tugas secara mandiri, dan bahkan menugaskan pekerjaan ke agen AI lainnya. Menurut Anthropic, langkah selanjutnya adalah sistem AI yang secara aktif membantu membangun dan melatih model AI masa depan.

Perusahaan mengungkapkan bahwa Claude sekarang menulis sebagian besar kode yang digunakan untuk mengembangkan sistem AI Anthropic sendiri. Akibatnya, pengembang jauh lebih produktif. Anthropic mengatakan rata-rata insinyur sekarang menghasilkan sekitar delapan kali lebih banyak kode per hari daripada pada tahun 2024.

Terkait: Presiden Anthropic Mengatakan Meningkatnya Biaya Pelatihan AI Mendorong Rencana IPO

Kemampuan AI Tumbuh Lebih Cepat

Anthropic mengatakan tes publik dan penelitian internalnya menunjukkan bahwa kemampuan AI meningkat pesat. Perusahaan mengklaim panjang dan kompleksitas tugas yang dapat diselesaikan AI dengan andal berlipat ganda sekitar setiap empat bulan. Sebelumnya, tingkat pertumbuhan ini mendekati setiap tujuh bulan sekali.

Anthropic menunjuk kemajuan model Claude-nya sebagai contoh. Pada Maret 2024, Claude Opus 3 dapat menangani tugas rekayasa perangkat lunak yang akan memakan waktu sekitar empat menit bagi manusia. Satu tahun kemudian, Claude Sonnet 3.7 dilaporkan dapat menyelesaikan tugas yang membutuhkan sekitar 90 menit kerja manusia.

Pada tahun 2026, Claude Opus 4.6 dilaporkan mampu menangani tugas yang setara dengan sekitar 12 jam upaya manusia.

Kemampuan penelitian Claude juga meningkat. Dalam satu proyek internal, agen bertenaga Claude memecahkan hampir semua tantangan penelitian utama.

Anthropic juga melaporkan bahwa tingkat keberhasilan Claude pada tugas pengkodean yang sulit mencapai 76% pada Mei 2026, peningkatan besar dibandingkan dengan enam bulan sebelumnya.

Tiga Kemungkinan Masa Depan untuk AI

Anthropic menguraikan tiga jalur yang mungkin untuk pengembangan AI. Yang pertama adalah perlambatan, di mana kemajuan menjadi lebih sulit dicapai dari waktu ke waktu.

Yang kedua adalah masa depan di mana AI terus meningkatkan produktivitas sementara manusia tetap mengendalikan keputusan dan pengawasan penting.

Skenario ketiga dan paling dramatis adalah skenario di mana sistem AI mulai menciptakan penerusnya sendiri, yang mengarah pada kemajuan yang jauh lebih cepat.

Berdasarkan bukti saat ini, Anthropic percaya skenario kedua adalah yang paling mungkin. Namun, perusahaan mengatakan masih ada ketidakpastian tentang seberapa cepat kemampuan AI dapat maju.

Pengawasan Manusia Bisa Menjadi Tantangan Terbesar

Anthropic mengatakan manusia masih memiliki kekuatan penting, termasuk penilaian, pemikiran strategis, dan memutuskan masalah mana yang layak dipecahkan. Namun, perusahaan berpendapat bahwa tantangan terbesar mungkin akan segera menjadi pengawasan manusia daripada pengembangan AI itu sendiri.

Ketika sistem AI menjadi lebih mampu, mungkin menjadi semakin sulit bagi orang untuk meninjau, memverifikasi, dan memantau pekerjaan mereka dengan aman.

Karena itu, Anthropic menyarankan pemerintah dan perusahaan AI terkemuka harus memiliki rencana untuk memperlambat sementara pengembangan sistem AI paling canggih jika kemajuan mulai bergerak lebih cepat daripada yang dapat dikelola masyarakat dengan aman.

Perusahaan mencatat bahwa setiap perlambatan yang berarti kemungkinan akan membutuhkan kerja sama internasional. Jika hanya satu perusahaan yang menghentikan pengembangan, pesaing dapat terus maju, mengurangi efektivitas tindakan keselamatan.

Untuk saat ini, Anthropic mengatakan perbaikan diri rekursif tetap menjadi kemungkinan, bukan kepastian. Tetapi karena Claude memainkan peran yang berkembang dalam membangun sistem AI di masa depan, perusahaan percaya diskusi tentang tata kelola, pengawasan, dan keselamatan AI harus dimulai lebih cepat daripada nanti.

Terkait: Apakah AI Membunuh Bitcoin? Mengapa Modal Berputar ke Teknologi AI Sekarang