Robot Pembunuh Bisa Melenyapkan Kota dalam Hitungan Detik
- Laura Nolan, mantan insinyur perangkat lunak Google yang ‘memberontak’ mengingatkan dunia bahwa robot pembunuh yang menggunakan artificial intelligence (AI)...

AZ
Author


Laura Nolan, mantan insinyur perangkat lunak Google yang ‘memberontak’ mengingatkan dunia bahwa robot pembunuh yang menggunakan artificial intelligence (AI) dan bekerja secara otonom benar-benar bisa membahayakan kehidupan manusia. Tidak tanggung-tanggung mereka dapat menghancurkan sebuah kota dalam hitungan detik ketika dengan secara tidak sengaja menyebabkan “flash war” atau "perang kilat."
Nolan, seperti diketahui mengundurkan diri dari Google tahun lalu sebagai protes menolak dikirim untuk bekerja pada sebuah proyek bernama Maven Pentagon, yang bertujuan untuk meningkatkan teknologi drone militer Amerika. Nolan juga telah lama menjadi pendukung pelarangan mesin pembunuh Al.
"Mungkin saja dalam situasi di mana banyak senjata otonom dikerahkan di daerah yang sama, Anda bisa memiliki situasi ‘flash war' di mana senjata otonom bereaksi terhadap perilaku senjata otonom lain untuk menciptakan konflik yang sangat intens dan hampir secara instan,” kata Nolan dalam wawancara dengan Daily Star Minggu (13/10/2019).
"Ini mirip dengan 'flash crash' yang telah kita lihat di pasar saham sebagai hasil dari algoritma perdagangan otomatis," tambah mantan insinyur Google tersebut.
"Perbedaannya dengan peperangan adalah bahwa tidak ada cara untuk menempatkannya sebuah 'circuit breaker', seperti yang dimiliki lantai bursa, mereka umumnya menghentikan perdagangan ketika harga saham bergerak terlalu cepat ".
"Dalam kasus terburuk, perang kilat bisa berarti penghancuran seluruh kota dalam hitungan detik", dia memperingatkan.
Laura Nolan adalah anggota Campaign to Stop Killer Robots (CTSKR), yang telah mendesak negara-negara untuk menandatangani perjanjian yang melarang penggunaan senjata otonom yang tidak memerlukan kontrol manusia.
Dia sebelumnya memberi tahu kepada para diplomat Amerika di New York dan Jenewa tentang bahaya teknologi ini, dengan alasan bahwa robot senjata tak berawak dapat melakukan hal-hal buruk yang pada awalnya tidak diprogram untuk mereka.
“Kemungkinan bencana sebanding dengan berapa banyak mesin ini akan berada di area tertentu sekaligus. Apa yang Anda lihat adalah kemungkinan kekejaman dan pembunuhan di luar hukum bahkan di bawah hukum peperangan, terutama jika ratusan atau ribuan mesin ini dikerahkan," kata Nolan sebelumnya kepada The Guardian. Dia mendesak pemerintah untuk menyerahkan sistem persenjataan canggih tersebut ke kontrol manusia.
Sejak 2015, ribuan ahli Al telah bergabung bersama untuk menandatangani petisi dan surat terbuka yang menyerukan larangan sistem persenjataan otonom, termasuk 3.000 karyawan Google yang sebelumnya terlibat dalam program Maven. Program ini diluncurkan Departemen Pertahanan Amerika untuk membangun sistem mesin otonom untuk teknologi drone Amerika.
CEO Tesla dan SpaceX, Elon Musk, sebelumnya juga telah menyampaikan sejumlah kekhawatiran tentang bahaya pengembangan kecerdasan buatan dan kemampuan robot Al dengan mengatakan perang dunia berikutnya dapat disebabkan oleh persaingan Al di tingkat nasional.
