ZONA PRIANGAN - Kiamat bisa dengan cepat datang jika perlombaan membuat robot pembunuh tidak segera dihentikan.
Para ahli kini khawatir, negara besar terus menciptakan robot pembunuh yang bisa bertindak sendiri tanpa kontrol.
Konferensi PBB pun gagal menyepakati larangan "slaughterbots" bergaya Terminator - yang sedang dikembangkan oleh China, Rusia dan Amerika Serikat.
Baca Juga: ISIS Makin Brutal, Kepala Pendeta Dipenggal dan Diserahkan Kepada Istrinya
Kekuatan besar menginvestasikan miliaran untuk membuat senjata AI canggih yang dapat berburu dan menyerang target tanpa masukan dari pengontrol.
Tahun lalu sebuah pesawat tak berawak Kamikaze buatan Turki melakukan pembunuhan otonom pertama di dunia pada target manusia di Libya, sebuah laporan PBB mengungkapkan.
Menurut para ahli, robot yang membuat keputusan sendiri, rentan terhadap kesalahan yang tidak terduga dan menyebar dengan cepat.
Ini muncul dari kode yang disebut algoritma yang bahkan programmer tidak selalu mengerti dan tidak bisa berhenti menjadi serba salah.
Jika senjata AI di masa depan dipersenjatai dengan hulu ledak biologis, kimia, atau bahkan nuklir, hasilnya bisa jadi Armageddon yang tidak disengaja.
"Ini adalah dunia di mana jenis kesalahan algoritmik yang tidak dapat dihindari yang mengganggu," kata Prof James Dawes dari Macalester College.
Baca Juga: Phryne Bebas dari Hukuman Mati Cuma Bermodalkan Telanjang dan Mohon Ampunan
Dia menambahkan: "Bahkan raksasa teknologi seperti Amazon dan Google sekarang dapat menyebabkan penghapusan seluruh kota."
"Dunia seharusnya tidak mengulangi kesalahan bencana dari perlombaan senjata nuklir. Seharusnya tidak berjalan sambil tidur menjadi distopia," ujar Dawes.
Profesor MIT Max Tegmark, salah satu pendiri Future of Life Institute, mengeluarkan peringatan yang sama mengerikannya minggu ini.
Dia mengatakan kepada Wired: “Teknologi berkembang jauh lebih cepat daripada diskusi militer-politik."
"Dan kami sedang menuju, secara default, ke hasil yang paling buruk," ucapnya, yang dikutip The Sun.
Potensi larangan atas apa yang disebut Sistem Senjata Otomotis Mematikan (LAWS) dibahas pekan lalu di Konvensi lima tahunan PBB tentang Senjata Konvensional Tertentu.
Beberapa dari 120 negara yang ambil bagian - termasuk Brasil, Afrika Selatan dan Selandia Baru - berpendapat bahwa hukum harus dibatasi oleh perjanjian seperti ranjau darat dan beberapa penghukuman.
Daftar negara yang berkembang termasuk Prancis dan Jerman mendukung batasan pada beberapa senjata otomatis termasuk yang menargetkan manusia.
China mengatakan mendukung serangkaian pembatasan yang sempit.
Baca Juga: Bayi Masih Ada Tali Pusarnya Diselamatkan Kawanan Anjing Liar di Tengah Sawah
Negara-negara lain, termasuk AS, Rusia, India, Inggris, dan Australia menolak larangan tersebut.
Mereka beralasan bahwa terus mengembangkan robot pembunuh sangat penting untuk menghindari kerugian strategis.***