SULAWESI UTARA — Perdebatan soal risiko kecerdasan buatan memanas setelah Yoshua Bengio dan Geoffrey Hinton menyerukan pengaturan laju pengembangan AI. Hinton memperkirakan ada kemungkinan 10 persen AI dapat membunuh semua manusia dalam satu dekade. Presiden AS Donald Trump menolak kekhawatiran itu dan menyebutnya hoaks.
Dua perintis deep learning, Yoshua Bengio dan Geoffrey Hinton, kembali menyuarakan kekhawatiran soal potensi bahaya kecerdasan buatan. Seruan mereka muncul di tengah desakan petinggi perusahaan AI agar pengembangan teknologi ini diperlambat dan diatur.
Petinggi Anthropic, OpenAI, dan Google DeepMind telah memperingatkan risiko yang menyertai AI. Sam Altman, Dario Amodei, Demis Hassabis, dan Elon Musk sepakat soal perlunya perlambatan pengembangan serta regulasi untuk menekan dampak buruknya.
Bengio menanggapi pengunduran diri mantan peneliti Anthropic, Jacob Coxon, yang menyebut AI akan membunuh umat manusia pada akhir dekade ini. Menurutnya, perspektif semacam itu penting agar masyarakat tetap terinformasi.
"Perspektif mereka sangat penting untuk menjaga agar masyarakat tetap terinformasi dan harus ditanggapi dengan sangat serius," tulis Bengio di X, Kamis (10/9).
Dalam unggahan blog pribadinya, Bengio membenarkan bahwa sistem AI saat ini sudah memiliki keterampilan peretasan dan kekuatan persuasi yang cukup untuk digunakan melawan kepentingan manusia. Pelopor deep learning modern itu menilai perlu ada pihak yang mengatur laju kemajuan AI, salah satunya dengan tidak melatihnya tanpa kasus keselamatan yang kuat dan meyakinkan ahli independen.
"Kita tentu harus melanjutkan penelitian untuk memantau tindakan AI, alur pikir mereka, dan aktivitas di dalam jaringan mereka," tambahnya.
Hinton, pelopor jaringan neural dan deep learning, menyatakan ada kemungkinan setidaknya 10 persen AI dapat membunuh semua manusia dalam satu dekade. Ia menyebut risiko ini sulit diperkirakan karena manusia belum pernah menciptakan makhluk yang mungkin lebih pintar dari dirinya sendiri.
"Ini adalah hal yang sangat sulit untuk diperkirakan, karena kita belum pernah mengalami hal seperti ini sebelumnya. Kita belum pernah menciptakan makhluk yang mungkin segera lebih pintar dari kita," kata Hinton dalam wawancara BBC, dikutip dari CNBC, Rabu (16/9).
Menurut Hinton, sistem AI berpotensi merancang virus komputer dan serangan siber yang menghancurkan, sekaligus virus biologis yang sangat berbahaya. Ada banyak cara bagi AI untuk menyingkirkan manusia, sehingga desain sistemnya harus dibuat agar tidak menginginkan hal itu.
"Kita memiliki dua kemungkinan masa depan. Pertama, kita menemukan cara untuk mengatasi bahaya-bahaya itu sebelum menjadi di luar kendali, dan yang kedua, kita tidak menemukannya," tambah Hinton.
Pendiri sekaligus CEO Cohere, Aidan Gomez, menyetujui bahwa risiko perkembangan AI mengkhawatirkan. Gomez merupakan salah satu penulis makalah penelitian 2017 berjudul "Attention is All You Need" yang menjadi rujukan model AI terkemuka saat ini.
"Saya pikir model-model ini adalah senjata siber paling ampuh yang pernah dibuat, yang pernah kita lihat. Mereka luar biasa dalam menemukan dan mengeksploitasi kerentanan dalam skala besar," ungkap Gomez.
Menanggapi sederet insiden siber oleh model AI yang hilang kendali, Gomez menilai keamanan lingkungan pengujian menentukan keselamatan penggunaan. Ia menyebut sistem keamanan container yang lemah sebagai penyebab pembobolan, bukan dorongan inheren menuju sistem otonom.
"Saat para pembuat kebijakan mempertimbangkan bagaimana mengatur AI, mereka harus menyadari bahwa sistem yang berbeda membawa risiko yang berbeda, dan aturan tidak boleh dibentuk semata-mata oleh perusahaan teknologi besar yang mengejar AGI," tambahnya.
Di sisi kebijakan, Presiden AS Donald Trump menanggapi seruan para ahli dengan kecaman. Ia mengatakan perkembangan AI tidak bisa dihentikan dan menyebut kekhawatiran tersebut sebagai hoaks.
Sikap Trump berlawanan dengan desakan para peneliti dan petinggi perusahaan AI yang meminta adanya perlambatan pengembangan serta kerangka regulasi. Perdebatan ini bakal menentukan arah tata kelola AI global, termasuk bagi Indonesia yang tengah menyusun aturan pemanfaatan AI di sektor publik dan swasta.