Mesin Pembunuh Otonom Ternyata Jauh Lebih Berbahaya

Sistem robot tempur Soratnik buatan Rusia. © Kalashnikov Concern

JakartaGreater.com – Sebuah laporan berjudul “Senjata Otonom dan Risiko Operasional” yang ditulis oleh Paul Scharre, direktur di Pusat Keamanan Amerika Baru. Scharre sebelumnya bekerja di kantor Menteri Pertahanan di mana ia membantu militer AS dalam menyusun kebijakan pada penggunaan senjata tak berawak dan otonom.

Sekali disebarkan, senjata masa depan ini akan mampu memilih dan menarik target yang mereka pilih sendiri, menambah sejumlah pertanyaan hukum, etika dan moral. Tetapi sebagaimana ditunjukkan Scharre dalam laporan tersebut, “Mereka juga meningkatkan pertimbangan penting mengenai keselamatan dan risiko”.

Dilansir dari Gizmodo.com, Scharre menyebutkan ada perbedaan antara senjata semi-otonom dan sepenuhnya otonom. Dengan senjata semi-otonom, manusia yang mengendalikan akan berada dalam putaran (loop), memantau aktivitas senjata atau sistem senjata tersebut. Apabila gagal, sang pengendali hanya perlu menekan tombol untuk mematikannya.

Tapi dengan senjata otonom, kerusakan yang ditimbulkan secara signifikan akan jauh lebih besar sebelum manusia mampu melakukan intervensi. Scharre khawatir bahwa sistem ini sangat rentan mengalami kegagalan, hacking, spoofing, dan manipulasi oleh musuh.

Sistem senjata masa depan yang mengurangi peran manusia mencakup drone udara tanpa awak, kendaraan robot bersenjata otonom, senapan mesin kawal otomatis, dan sistem sniper otonom.

Scharre melukiskan konsekuensi potensial sebagai berikut:

Dalam kasus yang paling ekstrim, senjata otonom bisa terus mengambil target yang tidak seharusnya sampai kehabisan peluru, berpotensi dalam cakupan yang luas. Jika modus kegagalan direplikasi pada senjata otonom lainnya dari jenis yang sama, militer bisa menghadapi prospek mengganggu dari sejumlah besar kegagalan senjata otonom secara bersamaan, dengan konsekuensi yang berpotensi bencana.

Dari sudut pandang operasional, senjata otonom menimbulkan risiko pembunuhan saudara secara massal seperti dalam novel, dengan sejumlah besar senjata menembaki pasukan teman. Ini bisa jadi karena hacking, manipulasi perilaku oleh musuh, interaksi tak terduga dengan lingkungan, atau malfungsi sederhana atau karena kesalahan perangkat lunak.

Selain itu, dengan pengingkatan sistem yang kompleks, menjadi semakin sulit untuk memverifikasi perilaku sistem dalam semua kondisi yang mungkin, jumlah potensi interaksi dalam sistem dan dengan lingkungannya menjadi terlalu besar.

Saat ini, banyak negara mulai mengembangkan dan menguji berbagai persenjataan militer otonom dan semi-otonom, seperti Amerika Serikat, Rusia, China termasuk Indonesia. Sehingga terdengar seperti bakat dystopian film fiksi ilmiah yang paling mengerikan. Namun, Scharre percaya bahwa beberapa risiko ini dapat dikurangi dan diminimalisir, tetapi risiko bencana “tidak pernah bisa dihilangkan sepenuhnya”.

Saat ini kita masih cukup jauh untuk bisa melihat sistem otonom sepenuhnya untuk dikerahkan di lapangan, namun belum terlalu dini untuk mulai berpikir tentang potensi risiko dan manfaat. Sistem otonom dapat mengurangi jatuhnya korban dan penderitaan di medan perang, namun kasus tersebut bisa sangat bervariasi.

Tinggalkan komentar