Ruang pertempuran modern menghadapi guncangan normatif fundamental: delegasi keputusan untuk mencabut nyawa kepada algoritma komputer. Perkembangan Autonomous Weapon Systems (AWS) atau sistem senjata otonom berbasis AI bukan sekaju lompatan teknologi, tetapi ujian krisis bagi inti etika dan hukum perang internasional. Ketika mesin menentukan sasaran dan memicu peluru tanpa campur tangan manusia yang substantif dalam loop, prinsip paling sakral dalam Hukum Humaniter Internasional (IHL)—yaitu pembedaan antara kombatan dan sipil (distinction) serta kalkulasi kepatutan dampak (proporsionalitas)—berada di ambang delegitimasi. Keabsahan peperangan yang bermartabat terletak pada pertanggungjawaban manusia, suatu prinsip yang terancam punah oleh logika deterministik kecerdasan buatan.
Delegasi Keputusan Mematikan: Pelanggaran Terhadap Prinsip Kendali Manusia
Inti etika dalam konflik bersenjata adalah mens rea—unsur kesengajaan dan pertimbangan moral yang melekat pada keputusan manusia. Hukum Humaniter Internasional dibangun atas premis bahwa manusia, sebagai subjek hukum dan moral, merupakan pemegang kendali akhir. Sistem senjata otonom yang mematikan (Lethal Autonomous Weapons Systems/LAWS) menggantikan pertimbangan kontekstual manusia dengan algoritma yang terbatas. Dalam hukum perang, terutama Protokol Tambahan I 1977 Konvensi Jenewa, prinsip pembedaan dan proporsionalitas membutuhkan penilaian situasional yang kompleks yang sulit, jika bukan mustahil, untuk dikodekan secara penuh ke dalam AI. Akibatnya, risiko pelanggaran berat secara sistematis menjadi nyata:
- Gangguan Terhadap Prinsip Pembedaan (Ps. 48 Protokol I): Algoritma dapat gagal membedakan kombatan yang sah dari warga sipil dalam lingkungan yang kacau atau ketika menggunakan penyamaran, mengubah sasaran militer yang sah menjadi pembantaian sipil yang tak dapat dipertanggungjawabkan.
- Erosi Prinsip Proporsionalitas (Ps. 51(5)(b) Protokol I): Penilaian apakah kerusakan sipil yang 'diperkirakan berlebih' dibandingkan keuntungan militer konkret merupakan kalkulasi nilai yang mendalam, bukan sekadar perhitungan matematis. Mendelegasikannya ke mesin adalah pelepasan tanggung jawab moral negara.
- Krisis Akuntabilitas: Siapa yang bertanggung jawab atas pelanggaran hukum yang dilakukan oleh sistem otonom? Komandan, programmer, atau produsen? Ketiadaan 'subjek' yang dapat diadili menciptakan celah hukum (accountability gap) yang menggerogoti sistem keadilan internasional.
Tanggung Jawab Negara dan Imperatif Moral Indonesia di Kancah Global
Dalam situasi vakum norma global yang mengikat, tanggung jawab negara, termasuk Indonesia yang mulai menginvestasikan dana dalam teknologi pertahanan berbasis AI, menjadi sorotan etis yang tajam. Negara bukan hanya aktor strategis, tetapi penanggung jawab utama (primary duty bearer) dalam menghormati dan menjamin penghormatan terhadap IHL. Investasi tanpa kerangka hukum domestik yang kuat dan posisi diplomatik yang tegas merupakan bentuk kelalaian (negligence) terhadap kewajiban hukum internasionalnya. Momentum di forum seperti Konvensi Senjata Konvensional PBB (CCW) adalah ujian bagi komitmen riil Indonesia terhadap martabat kemanusiaan. Posisi hukum dan moral yang jelas harus diambil:
- Mendukung dan memperjuangkan pembuatan instrumen hukum internasional yang secara tegas melarang pengembangan dan penggunaan sistem senjata otonom mematikan yang sepenuhnya lepas dari kendali manusia yang bermakna (meaningful human control).
- Membangun regulasi nasional yang ketat yang menempatkan prinsip kendali manusia, transparansi algoritma, dan auditabilitas sebagai prasyarat mutlak untuk riset dan pengadaan teknologi militer berbasis AI.
- Memastikan bahwa setiap penggunaan teknologi dalam domain militer tunduk pada skema komando dan tanggung jawab hierarkis yang jelas, mencegah terciptanya 'dewan mesin' yang tak tersentuh hukum.
Dilema yang diajukan oleh senjata otonom bukan tentang kemajuan atau stagnasi teknologi, melainkan tentang jenis peradaban apa yang ingin kita pertahankan. Apakah kita akan membiarkan logika algoritmik yang dingin dan bebas konteks menentukan nilai hidup dan mati di medan perang, sehingga mengikis sisa-sisa kemanusiaan dalam konflik? Atau, sebagai komunitas global yang terikat oleh hukum dan etika, kita akan bersikap tegas bahwa ada garis yang tak boleh diseberangi: bahwa keputusan untuk mengambil nyawa manusia harus tetap menjadi beban dan tanggung jawab moral kesadaran manusia, bukan keluaran dari proses komputasi? Bagi para aktivis hukum dan pembela HAM, pertanyaan ini bukan retorika; ini adalah panggilan untuk aksi kolektif sebelum pintu etika perang tertutup selamanya oleh kode mesin.
