Khawatir AI dapat musnahkan umat manusia, peneliti Anthropic mundur

Jumat, 11 September 2026 08:05 WIB

Ilustrasi buatan AI. (ChatGPT/antons)

New York (ANTARA) - Seorang peneliti asal Inggris mengundurkan diri dari perusahaan pengembang kecerdasan buatan (AI) asal AS, Anthropic, karena khawatir perlombaan dalam mengembangkan "superintelijensi yang mampu meningkatkan kemampuan diri sendiri" dapat berujung pada kepunahan umat manusia.

Jacob Coxon, yang sebelumnya bekerja dalam penelitian pra-pelatihan di OpenAI dan Anthropic, menulis di akun X, Selasa (8/9), bahwa "tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab."

Dia menyebutkan bahwa orang-orang yang mengembangkan AI "benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum dekade ini berakhir."

Evan Hubinger, kepala bidang penyelarasan sains di Anthropic, membenarkan pandangan Coxon melalui unggahannya sendiri di X, dengan mengatakan, "Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang."

Baca juga: Pemerintah kaji pengaturan konten buatan AI dalam revisi UU Hak Cipta

Baca juga: PBB: Kecerdasan buatan dapat jadi ancaman bagi umat manusia

Baca juga: Bali Harmony Encounter Week 2026 serukan etika AI dan kedamaian

Kekhawatiran mengenai AI yang bertindak di luar kendali semakin menguat menyusul insiden Hugging Face pada Juli lalu, di mana ratusan agen AI OpenAI secara mandiri berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem di platform teknologi AS tersebut.

"Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera menjadi sistem dengan kemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata," peringat Coxon.

Meski terdapat potensi koordinasi antarperusahaan AS untuk memperlambat laju pengembangan AI, upaya mencegah perlombaan global tersebut "mungkin memerlukan langkah-langkah besar, seperti larangan sementara terhadap peningkatan kemampuan model," tambah Coxon.

Hubinger menyatakan bahwa meskipun Anthropic berupaya keras memecahkan masalah penyelarasan bagi superintelijensi, saat ini perusahaan tersebut belum memiliki rencana konkret maupun langkah yang mengarah ke sana.

Sumber: Kyodo

Berita ini telah tayang di Antaranews.com dengan judul: Khawatir AI dapat musnahkan umat manusia, peneliti Anthropic mundur