Jika senjata AI di masa depan dipersenjatai dengan hulu ledak biologis, kimia, atau bahkan nuklir, hasilnya bisa jadi Armageddon yang tidak disengaja.
"Ini adalah dunia di mana jenis kesalahan algoritmik yang tidak dapat dihindari yang mengganggu," kata Prof James Dawes dari Macalester College.
Baca Juga: Phryne Bebas dari Hukuman Mati Cuma Bermodalkan Telanjang dan Mohon Ampunan
Dia menambahkan: "Bahkan raksasa teknologi seperti Amazon dan Google sekarang dapat menyebabkan penghapusan seluruh kota."
"Dunia seharusnya tidak mengulangi kesalahan bencana dari perlombaan senjata nuklir. Seharusnya tidak berjalan sambil tidur menjadi distopia," ujar Dawes.
Profesor MIT Max Tegmark, salah satu pendiri Future of Life Institute, mengeluarkan peringatan yang sama mengerikannya minggu ini.
Dia mengatakan kepada Wired: “Teknologi berkembang jauh lebih cepat daripada diskusi militer-politik."
"Dan kami sedang menuju, secara default, ke hasil yang paling buruk," ucapnya, yang dikutip The Sun.
Potensi larangan atas apa yang disebut Sistem Senjata Otomotis Mematikan (LAWS) dibahas pekan lalu di Konvensi lima tahunan PBB tentang Senjata Konvensional Tertentu.