DAILYENERGI.COM — Sebuah laporan intelijen yang sebagian dihasilkan kecerdasan buatan nyaris membuat militer Amerika Serikat menyerang sebuah kapal China di Timur Tengah. Insiden yang disebut "hampir memicu perang" itu membuka risiko besar penggunaan AI dalam pekerjaan sensitif Departemen Pertahanan AS.
Analis dari komando operasi khusus menyusun penilaian tersebut setelah bertanya kepada sebuah chatbot AI soal manifes kapal China itu. Menurut laporan CNN, chatbot tersebut menggabungkan intelijen sumber terbuka dengan intelijen sinyal rahasia, lalu menyimpulkan kapal itu membawa komponen program senjata nuklir.
Kesimpulan itu nyaris mendorong militer AS untuk menahan kapal tersebut. Belum sampai tindakan itu diambil, para pejabat menemukan fakta bahwa laporan tersebut dihasilkan AI dan tidak akurat.
Kesalahan yang Nyaris Berujung Konflik
CNN tidak berhasil memastikan apa muatan sebenarnya kapal itu. Alat AI apa yang dipakai analis tersebut, apakah produk komersial atau sistem khusus pemerintah AS, juga tidak diketahui.
Seorang sumber yang dikutip CNN menyebut insiden ini "hampir memulai perang". Kasus ini menyoroti bahaya memasukkan AI ke dalam pekerjaan intelijen yang sangat sensitif, tempat kesalahan kecil bisa memicu konsekuensi militer besar.
Engadget telah meminta komentar dari Departemen Pertahanan AS terkait pemberitaan CNN ini.
Dorongan "AI-First" di Lingkungan Militer AS
Insiden ini terjadi di tengah upaya Departemen Pertahanan AS mempercepat adopsi AI. Pada Januari, Menteri Pertahanan Pete Hegseth menerbitkan memo yang mengarahkan departemen itu menjadi "AI-first" dan mendorong eksperimen dengan model dari perusahaan AI terkemuka Amerika.
Rencana itu tidak sepenuhnya berjalan mulus. Anthropic menolak membiarkan militermya memakai model mereka untuk pengembangan senjata otonom, dan sempat dilarang sementara oleh pemerintah.
Meski begitu, sejumlah kemitraan lain tetap terjalin. SpaceXAI dilaporkan mencapai kesepakatan agar militer bisa memakai Grok pada Februari, sementara NVIDIA, Microsoft, dan Amazon menjalin kerja sama untuk menawarkan teknologi AI mereka ke Departemen Pertahanan AS pada Mei.
Mengapa Kontrak Pemerintah Begitu Menarik
Kontrak dengan pemerintah bernilai besar, dan itulah alasan perusahaan AI mengejarnya. Namun membantu penyebaran AI di lingkungan militer membawa risiko yang tidak dimiliki perangkat lunak enterprise biasa.
Kasus kapal China ini menunjukkan bahwa kesalahan AI di ranah pertahanan tidak berhenti pada bug atau gangguan layanan. Dalam hitungan menit, keluaran model yang salah bisa mendorong pengambil keputusan militer ke ambang konflik bersenjata.
