Ramaswamy Memperingatkan Terhadap ‘Humanisasi Berlebihan’ AI Saat ChatGPT Menambahkan Mode Dewasa

• OpenAI akan mengaktifkan konten dewasa untuk orang dewasa terverifikasi pada bulan Desember.
• CEO Sam Altman mengutip prinsip “memperlakukan pengguna dewasa seperti orang dewasa” untuk perubahan kebijakan.
• Kandidat gubernur Ohio Ramaswamy menyuarakan kekhawatiran tentang manipulasi AI.

Kandidat gubernur Ohio Vivek Ramaswamy mengeluarkan peringatan tentang kecerdasan buatan yang berlebihan menyusul pengumuman OpenAI tentang fitur konten dewasa untuk ChatGPT. Kandidat politik itu menyatakan keprihatinan bahwa kemampuan tersebut dapat membahayakan pengguna daripada menguntungkan mereka.

“‘Humanisasi berlebihan’ AI yang tidak perlu menjadi meresahkan,” Ramaswamy memposting di X. Dia mempertanyakan apakah fitur baru ini akan meningkatkan produktivitas atau kemakmuran bagi pengguna.

Ramaswamy secara khusus memperingatkan bahwa merancang AI dengan kemampuan untuk memanipulasi manusia secara seksual atau emosional memerlukan kehati-hatian yang ekstrem. Kandidat tersebut memprediksi bahwa fitur-fitur ini hampir pasti akan meningkatkan kecanduan dan kesepian di antara pengguna.

Kemampuan manipulasi menimbulkan tanda bahaya

Komentar Ramaswamy menanggapi pengumuman CEO OpenAI Sam Altman bahwa ChatGPT akan mengizinkan konten dewasa, termasuk erotika, untuk orang dewasa yang diverifikasi usia mulai bulan Desember. Perubahan kebijakan mengikuti prinsip “memperlakukan pengguna dewasa seperti orang dewasa”, menurut Altman.

OpenAI sebelumnya menerapkan kebijakan konten yang membatasi untuk melindungi pengguna dengan masalah kesehatan mental. Altman menyatakan perusahaan telah mengembangkan alat baru yang memungkinkan pelonggaran pembatasan ini yang lebih aman bagi sebagian besar pengguna.

Rilis mendatang akan memungkinkan pengguna untuk menyesuaikan nada dan kepribadian ChatGPT. Pilihannya termasuk respons seperti manusia, penggunaan emoji yang ekstensif, atau gaya percakapan seperti teman. Namun, ini tetap opsional daripada pengaturan default.

Terkait: OpenAI Meningkatkan Ante vs Musk dengan Dilaporkan Menguji Aplikasi Sosial Mirip X-nya sendiri

Perdebatan muncul tentang potensi manfaat

Satu pengguna X menantang perspektif Ramaswamy dengan mengusulkan aplikasi yang bermanfaat untuk AI yang menarik secara emosional. Komentator menyarankan teknologi tersebut dapat mendukung orang-orang dengan masalah kesehatan mental atau berfungsi sebagai mediator hubungan.

“Bagaimana jika itu benar-benar solusi… pendamping yang mendukung orang-orang dengan masalah kesehatan mental. Atau tipe ‘roda ketiga’ dari anggota keluarga yang bertindak sebagai konselor pernikahan,” jawab pengguna. Komentar itu berpendapat menentang penyebaran ketakutan tentang hasil masa depan yang tidak dapat diprediksi.

Pertukaran tersebut menyoroti pandangan yang bersaing tentang humanisasi AI. Kekhawatiran Ramaswamy berpusat pada potensi bahaya psikologis dari sistem yang dirancang untuk membentuk hubungan emosional dengan pengguna. Kritikus berpendapat bahwa otonomi orang dewasa harus memungkinkan individu untuk memilih bagaimana mereka berinteraksi dengan sistem AI.

Terkait: Reddit dalam Pembicaraan untuk Mengadopsi Orb Pemindaian Iris Sam Altman untuk Verifikasi Pengguna