Pakar militer menyebut senjata otonom atau sistem senjata otonom (AWS) jenis senjata yang melakukan segalanya sendiri: mereka menemukan target dan menyelesaikan tugas tanpa campur tangan manusia. Salah satu yang paling terkenal, sejauh ini hanya dalam film fiksi ilmiah dan buku AWS, adalah apa yang disebut "robot pembunuh".
Elon Musk dan lebih dari seratus ahli robotika lainnya menulis tentang ancaman mematikan dari robot pembunuh dalam surat peringatan terbuka kepada PBB. Musk, Mustafa Suleiman, pencipta perusahaan AI DeepMind Technologies, yang sekarang dimiliki oleh Google, dan 114 ahli dari 26 negara memperingatkan PBB bahwa perlombaan senjata di AWS dapat membuka kotak Pandora, yang dapat menyebabkan hal yang tidak terduga dan sangat kerugian besar bagi umat manusia. Mereka menuntut larangan pengembangan dan implementasi sistem senjata otonom.
Semua penandatangan berpengalaman dalam hal ini karena mereka bekerja di bidang kecerdasan buatan (AI). Mereka yakin bahwa pengenalan robot pembunuh ke dalam persenjataan tentara negara-negara maju akan memiliki signifikansi yang sama untuk urusan militer seperti penemuan mesiu dan senjata nuklir, yang mereka sebut sebagai revolusi pertama dan kedua dalam urusan militer. AWS, mereka percaya, akan menjadi revolusi ketiga.
“Begitu dibawa ke tingkat tinggi, sistem senjata otonom akan membawa konflik militer ke tingkat yang belum pernah dilihat manusia sebelumnya,” kata surat kolektif itu. - Selain itu, itu akan terjadi dengan kecepatan tinggi. AWS dapat menjadi senjata teror, senjata yang akan digunakan oleh para lalim dan teroris terhadap warga sipil …"
Penulis surat itu memperingatkan tentang senjata hipotetis yang masih bisa menghancurkan orang tanpa campur tangan manusia. Harinya sudah dekat ketika itu akan menjadi kenyataan pahit dari kategori fiksi dan akan memaksa kita untuk mencari jawaban atas banyak pertanyaan sulit, mulai dari manajemen yang aman dari sistem tersebut hingga masalah moral dan etika yang disebabkan oleh kekejaman "besi" dan ketidakpastian. dari mesin yang mematikan.
Musk, dengan para pendukung yang berbagi pendiriannya tentang bahaya AWS bagi kemanusiaan, menekankan bahwa tidak ada waktu untuk refleksi dan diskusi dan perlu untuk segera bertindak. "Waktu kita sangat sedikit," tulis mereka di PBB. "Begitu kotak Pandora terbuka, akan sangat sulit untuk menutupnya."
Waktu untuk menulis surat terbuka tidak dipilih secara kebetulan. Para ahli ingin bertepatan dengan dimulainya Konferensi Internasional tentang Kecerdasan Buatan (IJCAI) di Melbourne. Itu seharusnya dibuka pada hari Senin 21 Agustus, tetapi PBB memutuskan untuk menundanya hingga November.
Di akhir surat terbuka, Elon Musk dan rekan-rekannya meminta PBB untuk melipatgandakan upayanya untuk menciptakan strategi pada November untuk melindungi planet ini dari robot pembunuh.
Sebelumnya, Musk sendiri memperingatkan tentang bahaya bekerja pada kecerdasan buatan seperti itu, karena sistem yang didasarkan padanya dapat keluar dari kendali manusia. Pada saat yang sama, mobil dengan motor listrik Tesla sudah mengemudi di jalan-jalan Amerika Serikat dalam mode tak berawak, yang bukannya tanpa insiden.
