Mar 272017
 

Sebuah laporan berjudul “Senjata Otonom dan Risiko Operasional” yang ditulis oleh Paul Scharre, direktur di Pusat Keamanan Amerika Baru. Scharre sebelumnya bekerja di kantor Menteri Pertahanan di mana ia membantu militer AS dalam menyusun kebijakan pada penggunaan senjata tak berawak dan otonom.

Sekali disebarkan, senjata masa depan ini akan mampu memilih dan menarik target yang mereka pilih sendiri, menambah sejumlah pertanyaan hukum, etika dan moral. Tetapi sebagaimana ditunjukkan Scharre dalam laporan tersebut, “Mereka juga meningkatkan pertimbangan penting mengenai keselamatan dan risiko”.

Marinir AS sedang menguji robot Mutt. © Military.com

Robot Uran-9 buatan Rusia sedang diuji coba di Suriah. © Sputnik

Tank robot Soratnik yang sedang dikembangkan oleh Rusia. © Sputnik

Dilansir dari Gizmodo.com, Scharre menyebutkan ada perbedaan antara senjata semi-otonom dan sepenuhnya otonom. Dengan senjata semi-otonom, manusia yang mengendalikan akan berada dalam putaran (loop), memantau aktivitas senjata atau sistem senjata tersebut. Apabila gagal, sang pengendali hanya perlu menekan tombol untuk mematikannya.

Tapi dengan senjata otonom, kerusakan yang ditimbulkan secara signifikan akan jauh lebih besar sebelum manusia mampu melakukan intervensi. Scharre khawatir bahwa sistem ini sangat rentan mengalami kegagalan, hacking, spoofing, dan manipulasi oleh musuh.

Sistem senjata masa depan yang mengurangi peran manusia mencakup drone udara tanpa awak, kendaraan robot bersenjata otonom, senapan mesin kawal otomatis, dan sistem sniper otonom.

Robot militer buatan perusahaan asal China, Norinco. © Meyet.com

Prototipe tank robot War-V1 yang dikendalikan oleh remote dirancang oleh mahasiswa Institut Teknologi Sepuluh November (ITS).

Scharre melukiskan konsekuensi potensial sebagai berikut:

Dalam kasus yang paling ekstrim, senjata otonom bisa terus mengambil target yang tidak seharusnya sampai kehabisan peluru, berpotensi dalam cakupan yang luas. Jika modus kegagalan direplikasi pada senjata otonom lainnya dari jenis yang sama, militer bisa menghadapi prospek mengganggu dari sejumlah besar kegagalan senjata otonom secara bersamaan, dengan konsekuensi yang berpotensi bencana.

Dari sudut pandang operasional, senjata otonom menimbulkan risiko pembunuhan saudara secara massal seperti dalam novel, dengan sejumlah besar senjata menembaki pasukan teman. Ini bisa jadi karena hacking, manipulasi perilaku oleh musuh, interaksi tak terduga dengan lingkungan, atau malfungsi sederhana atau karena kesalahan perangkat lunak.

Selain itu, dengan pengingkatan sistem yang kompleks, menjadi semakin sulit untuk memverifikasi perilaku sistem dalam semua kondisi yang mungkin, jumlah potensi interaksi dalam sistem dan dengan lingkungannya menjadi terlalu besar.

Saat ini, banyak negara mulai mengembangkan dan menguji berbagai persenjataan militer otonom dan semi-otonom, seperti Amerika Serikat, Rusia, China termasuk Indonesia. Sehingga terdengar seperti bakat dystopian film fiksi ilmiah yang paling mengerikan. Namun, Scharre percaya bahwa beberapa risiko ini dapat dikurangi dan diminimalisir, tetapi risiko bencana “tidak pernah bisa dihilangkan sepenuhnya”.

Saat ini kita masih cukup jauh untuk bisa melihat sistem otonom sepenuhnya untuk dikerahkan di lapangan, namun belum terlalu dini untuk mulai berpikir tentang potensi risiko dan manfaat. Sistem otonom dapat mengurangi jatuhnya korban dan penderitaan di medan perang, namun kasus tersebut bisa sangat bervariasi.

Bagikan Artikel:

  44 Responses to “Mesin Pembunuh Otonom Ternyata Jauh Lebih Berbahaya”

  1. Oooo…tonom

  2. Pertamax

    • Contoh film robocop dalam tugas kepolisian hanya memebacakan uu kemudian langsung menghukum ,kira -kira begitulah jadinya nanti bila robot bekerja dalam militer bahkan bisa lebih parang karena senjata militer pasti lebih powerfull dari pada polisi . .

      • Lebih mantap klo robot mjd penegak hukum bg sesama robot.. Jd misal ada robot melakukan kriminal spt judi miras atau perselingkuhan hrs ditangkap robot polisi..

      • makanya tuh robot tak boleh main internet dan terhubung internet. 😆 bisa runyam ntar, apalagi klo mereka ditanamkan kecerdasan buatan tingkat tinggi :D hihihi

  3. apa…????

    Indonesia juga…????

    (ikut mengembangkan senjata otonom)

    mudah mudahan benar….

    amiiinn…

  4. Ya ..kita minimal butuh drone bersenjata untuk lumpuhkan sparatis.

  5. mantap deh… mesti didukung dan dikembangkan tuh… bila perlu dibuat versi berodanya, seperti panser, sehingga memiliki mobilitas tinggi, persenjataan bisa diganti dengan RCWS dan rudal serta roket

  6. Mantab lah

  7. Kode-nya harus spesial punya, bukan dari ctrl-a > ctrl-c > ctrl-v apalagi produk impor kita cuma kebagian bikin casing + rangka doang ….

  8. segera berlakukan Hukum Asimov
    utk melindungi hak asasi umat manusia

    jika sang robot2 tak mau tunduk gunakan pesawat Multidimensi sebagai efek gentar

  9. Yg paling sangar justru yg bikinan Indonesia si robot war v1.
    Sayangnya cm memanggul senjata yg imut imut.
    Robotnya sangar..senjatanya imuut..

    Perlu dikembangkan dgn senjata yg lebih besar lg biar sangarnya seratus persen..

    Maaf ngelantur.. Tanggal tuaa..

    • namanya masih prototipe, sayang klo langsung pasang RCWS atau rudal disana, mending dipasang di kapal perang dulu barangnya :D hehehe… tapi mungkin klo dipasang gatling gun boleh juga tuh

      versi upgrade pastinya bakal lebih serem seperti warok 😆 hahaha

  10. Ketahuan klo kemampuannya cuma bisa makan mie Instant, makanya dikepalanya cuma ada bayangan mie instant doank ya….kwok…kwok…kwok…

  11. Klu takut dihacker ya pake kode inkripsi yg lbh paten lah! Klu liat gbr diatas masih rawan rudal anti tank karena blm ada era dan flare.just imho!

  12. Come on get back to real live..
    Are we planning to create Drone for S-60 or TD-2000???

  13. Sebenarnya kita dah bisa bikin yg begituan dulu ada yg bikin Tank Robot di persenjatai sama SMB tapi sekarang gk ada kabarnya

  14. Uji coba sistem AI yg dipake hanya utk prototipenya. Rencana jauh kedepan adalah penerapan AI itu di kendaraan tempur macam Abraam, Scorpion, F22 & F35, Bahkan menjadikan kapal induk Ford class dijadikan pabrik dan perbaikan drone berjalan di seluruh samudra. Atau bisa dipake di Columbia submarine class. Betapa mengerikannya orang2 di Amerika hidup dg damai dan bersuka ria sedangkan musuh mereka bertempur setengah mati hanya utk menghadapi sebuah benda mati apalagi benda mati itu bersenjata nuklir. Selesai sudah. Harusnya IFX dan Klewang juga diarahkan untuk dipasangi AI agar bisa bertempur secara otonom

  15. Namanya saja senjata namun dibuat otonom artinya perangkat perang bersenjata yg diberi “akal buatan” untuk membuat sendiri kebijakan (mungkin komando?) dalam memutuskan “bunuh atau tidak, hancurkan atau tidak” sasaran musuh. Senjata yg dipegang serdadu terlatih pun msh terlihat mengerikan apalagi senjata yg terpasang diperangkat perang (mesin perang) yg notabene sebenarnya benda mati, namun diberi sistem untuk menentukan sendiri urusannya. Ih serem juga jika yg berperang berbagai mesin perang otonom, wong jika manusia yg msh memiliki hati nurani, selain akal semata pun sering kilaf jika sdh berada dimedan tempur.

    Pada senjata manual yg operasionalnya msh dilakukan secara langsung oleh serdadu, bisa jadi sang serdadu yg masih memiliki hati nurani tiba-tiba membatalkan menarik picu walau sasaran sdh terkunci. Bisa jadi, ditempat sasaran tiba-tiba muncul nenek-nenek atau bisa saja wanita cantik nan seksi menutupi target sehingga muncul kemanusian atau humanisme sang serdadu untuk membatalkan menarik picu. Apakah kondisi seperti itu ada pd senapan otonom? Walau “otak buatan” senjata otonom sdh diprogram secanggih mungkin, namun msh ada hal tak terduga yg mungkin muncul seperti gangguan hack pihak lawan, atau gangguan elektris sbg dampak perang seperti yg dicemaskan oleh pak Paul Scharre, yg mengakibatkan sistem senjata otonom kacau dan gila. Saking gilanya bahkan nenek-nenek pun diembatnya juga. Selain itu, dari sisi moral pun patut dipertanyakan tanggung jawab pihak operator, terutama bila terjadi malfungsional dari senjata seperti ini, yg mengakibatkan kerugian dan korban yg tidak perlu.

    Sangat tidak jantan wong berperang kok menyuruh mesin-mesin otonom untuk membabat musuh. Konon pd perang di akhir jaman nanti, peperangan kembali lagi seperti pd jaman baheula, yakni peperangan hanya bersenjata batu, pentungan atau alat seadanya. Tidak ada pistul, senapan apalagi rudal…

  16. Takutnya jadi kayak film terminator.

 Leave a Reply