ARLINGTON, Virginia (AP) - Jauh sebelum booming kecerdasan buatan generatif, sebuah perusahaan di Silicon Valley dikontrak untuk mengumpulkan dan menganalisis data non-klasifikasi tentang perdagangan fentanyl Cina ilegal membuat kasus yang meyakinkan bagi penerimaan oleh badan intelijen AS.
Hasil operasi itu jauh melampaui analisis hanya manusia, menemukan dua kali lipat lebih banyak perusahaan dan 400% lebih banyak orang yang terlibat dalam perdagangan ilegal atau mencurigakan di opioid mematikan itu.
Para pejabat intelijen AS yang bersemangat memuji hasilnya secara publik - kecerdasan buatan menemukan koneksi berdasarkan data internet dan dark-web - dan membaginya dengan otoritas Beijing, mendesak tindakan tegas.
Salah satu aspek penting dari operasi 2019, yang dikenal sebagai Sable Spear, yang sebelumnya tidak pernah dilaporkan: Perusahaan menggunakan kecerdasan buatan generatif untuk menyediakan ringkasan bukti bagi agensi AS - tiga tahun sebelum peluncuran produk ChatGPT terobosan OpenAI - untuk kasus kriminal potensial, menghemat berjam-jam kerja tak terhitung.
"Anda tidak akan bisa melakukannya tanpa kecerdasan buatan," kata Brian Drake, mantan direktur AI Badan Intelijen Pertahanan dan koordinator proyek itu.
Kontraktor, Rhombus Power, kemudian menggunakan kecerdasan buatan generatif untuk memprediksi invasi penuh Rusia ke Ukraina dengan kepastian 80% empat bulan sebelumnya, untuk klien pemerintah AS yang berbeda. Rhombus mengatakan juga memberi tahu pelanggan pemerintah, yang enggan disebutkan namanya, tentang peluncuran misil Korea Utara yang segera dan operasi luar angkasa Cina.
Badan intelijen AS berusaha keras untuk merangkul revolusi kecerdasan buatan, percaya bahwa mereka akan tenggelam oleh pertumbuhan data eksponensial ketika teknologi surveilans berbasis sensor semakin meluas menutupi seluruh planet.
Tapi pejabat sangat sadar bahwa teknologi ini masih muda dan rapuh, dan bahwa kecerdasan buatan generatif - model prediksi yang dilatih pada kumpulan data besar untuk menghasilkan teks, gambar, video, dan percakapan mirip manusia sesuai permintaan - jauh dari tepat untuk perdagangan berbahaya yang penuh dengan tipu daya.
Analisis memerlukan "model kecerdasan buatan yang canggih yang dapat mencerna jumlah informasi sumber terbuka dan diperoleh secara rahasia yang sangat besar," tulis direktur CIA William Burns baru-baru ini dalam Foreign Affairs. Tetapi itu tidak akan mudah.
Peperangan teknologi pertama CIA, Nand Mulchandani, berpikir bahwa karena model gen AI "halusinasi" itu lebih baik dianggap sebagai "teman gila, mabuk" - mampu memberikan wawasan dan kreativitas yang besar tetapi juga rentan terhadap kebohongan bias. Ada juga masalah keamanan dan privasi: musuh bisa mencuri dan meracuni mereka, dan mereka mungkin mengandung data pribadi sensitif yang pejabat tidak diizinkan untuk melihatnya.
Itu tidak menghentikan eksperimen, meskipun kebanyakan terjadi secara rahasia.
Sebuah pengecualian: Ribuan analis di 18 badan intelijen AS sekarang menggunakan gen AI yang dikembangkan oleh CIA yang disebut Osiris. Ini berjalan pada data yang tidak diklasifikasi dan tersedia secara publik atau komersial - yang dikenal sebagai open-source. Ini menulis ringkasan yang dianotasi dan fitur chatbot-nya memungkinkan para analis untuk menelusuri lebih dalam dengan pertanyaan.
Mulchandani mengatakan itu menggunakan beberapa model AI dari berbagai penyedia komersial yang tidak akan ia sebutkan. Demikian pula ia tidak akan mengatakan apakah CIA menggunakan gen AI untuk sesuatu yang besar di jaringan yang diklasifikasikan.
"Masih tahap awal," kata Mulchandani, "dan para analis kami perlu dapat menandai dengan pasti dari mana informasi itu berasal." CIA mencoba semua model gen AI utama - tidak berkomitmen pada siapapun -- sebagian karena AI terus saling melompat dalam kemampuan, katanya.
Mulchandani mengatakan gen AI kebanyakan bagus sebagai asisten virtual yang mencari "jarum dalam tumpukan jarum." Apa yang tidak akan pernah dilakukan, kata pejabat, adalah menggantikan analis manusia.
Linda Weissgold, mantan direktur deputi CIA bidang analisis tahun lalu, berpikir permainan perang akan menjadi "aplikasi pembunuh."
Selama masa jabatannya, badan tersebut sudah menggunakan AI reguler - algoritma dan pemrosesan bahasa alami - untuk terjemahan dan tugas-tugas termasuk memberitahu analis selama jam-jam senggang tentang perkembangan yang mungkin penting. AI tidak dapat mendeskripsikan apa yang terjadi - itu akan diklasifikasikan - tetapi bisa mengatakan "ini adalah sesuatu yang perlu Anda lihat."
Gen AI diharapkan meningkatkan proses-proses tersebut.
Gunanya paling besar kecerdasan akan berada dalam analisis prediktif, percaya CEO Rhombus Power, Anshu Roy. "Ini mungkin akan menjadi salah satu perubahan paradigma terbesar dalam bidang keamanan nasional secara keseluruhan - kemampuan untuk memprediksi apa yang kemungkinan dilakukan lawan Anda."
Rhombus' AI machine menggunakan lebih dari 5.000 aliran data dalam 250 bahasa yang dikumpulkan selama lebih dari 10 tahun termasuk sumber-sumber berita global, gambar satelit, dan data cyberspace. Semuanya bersumber terbuka. "Kami dapat melacak orang, kami dapat melacak objek," kata Roy.
Pemain besar AI yang bersaing untuk bisnis badan intelijen AS termasuk Microsoft, yang mengumumkan pada 7 Mei bahwa mereka menawarkan OpenAI's GPT-4 untuk jaringan rahasia, meskipun produk tersebut masih harus mendapatkan akreditasi untuk bekerja pada jaringan yang diklasifikasikan.
Pesaing, Primer AI, mencantumkan dua badan intelijen yang tidak disebutkan namanya di antara pelanggannya - yang meliputi layanan militer, dokumen-dokumen yang diposting online untuk workshop AI militer yang baru-baru ini. Ini menawarkan pencarian yang didukung AI dalam 100 bahasa untuk "mendeteksi sinyal-sinyal baru dari peristiwa yang sedang terjadi" dari sumber-sumber termasuk Twitter, Telegram, Reddit, dan Discord serta membantu mengidentifikasi "orang-orang, organisasi, lokasi kunci." Primer mencantumkan penargetan di antara penggunaan teknologi mereka. Dalam demo di konferensi Angkatan Darat hanya beberapa hari setelah serangan Hamas pada 7 Oktober terhadap Israel, eksekutif perusahaan menjelaskan bagaimana teknologi mereka memisahkan fakta dari fiksi dalam banjir informasi online dari Timur Tengah.
Eksekutif Primer menolak untuk diwawancara.
Dalam jangka pendek, bagaimana pejabat intelijen AS menggunakan gen AI mungkin kurang penting daripada menanggulangi bagaimana lawan menggunakan teknologi itu: Untuk menembus pertahanan AS, menyebarkan disinformasi, dan mencoba melemahkan kemampuan Washington untuk membaca niat dan kemampuan mereka.
Dan karena Silicon Valley mendorong teknologi ini, Gedung Putih juga khawatir bahwa model gen AI yang diadopsi oleh agensi AS bisa diinfiltrasi dan diracuni, sesuatu yang penelitian menunjukkan sebagai ancaman yang nyata.
Kekhawatiran lain: Memastikan privasi "orang-orang AS" yang data mereka mungkin tertanam dalam model bahasa besar.
"Jika Anda berbicara dengan peneliti atau pengembang yang melatih sebuah model bahasa besar, dan bertanyalah apakah mungkin untuk menghapus satu informasi individu dari LLM dan membuatnya melupakan hal itu - dan memiliki jaminan empiris yang kuat tentang melupakannya - itu bukan hal yang mungkin," kata John Beieler, kepala AI di Kantor Direktur Intelijen Nasional, dalam sebuah wawancara.
Ini salah satu alasan mengapa komunitas intelijen tidak berada dalam mode "bergerak dengan cepat dan merusak" dalam pengadopsian gen AI.
"Kami tidak ingin berada dalam dunia di mana kami bergerak cepat dan mendeploy salah satu hal ini, dan kemudian dua atau tiga tahun dari sekarang menyadari bahwa mereka memiliki beberapa informasi atau efek atau perilaku yang tidak kami antisipasi," kata Beieler.
Ini adalah perhatian, misalnya, jika lembaga pemerintah memutuskan untuk menggunakan AI untuk menjelajahi teknologi senjata biologi dan siber.
William Hartung, peneliti senior Quincy Institute for Responsible Statecraft, mengatakan badan intelijen harus menilai AI dengan hati-hati untuk penyalahgunaan potensial agar tidak mengakibatkan konsekuensi tak terduga seperti surveilans yang melanggar hukum atau peningkatan korban sipil dalam konflik.
"Semua ini datang dalam konteks kasus berulang di mana sektor militer dan intelijen membanggakan 'senjata ajaib' dan pendekatan revolusioner - mulai dari medan perang elektronik di Vietnam hingga program Star Wars pada tahun 1980-an hingga 'revolusi dalam urusan militer pada tahun 1990-an dan 2000-an - hanya untuk menemukan bahwa mereka kurang sesuai," katanya.
Pejabat pemerintah menegaskan mereka sensitif terhadap kekhawatiran tersebut. Selain itu, mereka mengatakan, misi AI akan bervariasi secara luas tergantung pada agensi yang terlibat. Tidak ada yang satu-petunjuk untuk semuanya.
Ambil National Security Agency. Itu menyadap komunikasi. Atau Badan Intelijen Geospasial Nasional (NGA). Tugasnya termasuk melihat dan memahami setiap inci planet. Lalu ada rahasia pengukuran dan tanda intel, yang digunakan oleh beberapa agensi untuk melacak ancaman menggunakan sensor fisik.
Mempercepat misi-misi semacam itu dengan AI adalah prioritas yang jelas.
Pada bulan Desember, NGA mengeluarkan permintaan proposal untuk model AI generatif yang sepenuhnya baru. Tujuannya adalah menggunakan gambar yang dikumpulkannya - dari satelit dan di level tanah - untuk menghasilkan intel geospasial yang tepat dengan perintah suara atau teks sederhana. Model gen AI tidak memetakan jalan-jalan dan jalur kereta api dan "tidak memahami dasar-dasar geografi," kata direktur inovasi NGA, Mark Munsell, dalam sebuah wawancara.
Munsell mengatakan di konferensi April di Arlington, Virginia bahwa pemerintah AS saat ini hanya memodelkan dan menandai sekitar 3% planet ini.
Aplikasi Gen AI juga memiliki banyak keuntungan bagi konflik cyber, di mana penyerang dan pembela berada dalam pertempuran konstan dan otomatisasi sudah berjalan.
Tetapi banyak pekerjaan intelijen penting tidak ada hubungannya dengan ilmu data, kata Zachery Tyson Brown, mantan petugas intelijen pertahanan. Dia percaya badan intelijen akan meminta bencana jika mereka mengadopsi gen AI terlalu cepat atau sepenuhnya. Model-model itu tidak merasionalkan. Mereka hanya memprediksi. Dan para perancang mereka tidak sepenuhnya bisa menjelaskan bagaimana mereka bekerja.
Bukan alat terbaik, kemudian, untuk menandingi rival yang mahir dalam tipu daya.
"Analisis intelijen biasanya lebih seperti kebiasaan lama tentang menyusun puzzle, hanya dengan seseorang terus mencoba mencuri potongan teka-teki Anda sambil juga menempatkan potongan-potongan teka-teki yang sepenuhnya berbeda ke tumpukan dengan Anda bekerja," tulis Brown baru-baru ini dalam jurnal CIA internal. Analis bekerja dengan "potongan-potongan informasi parsial, tidak lengkap, sering kali kontradiktif yang kurang dapat diandalkan."
Mereka menempatkan kepercayaan yang signifikan pada insting, rekan-rekan, dan memori institusi.
"Saya tidak melihat AI menggantikan analis dalam waktu dekat," kata Weissgold, mantan deputi direktur analisis CIA.
Keputusan cepat yang menyangkut nyawa kadang harus diambil berdasarkan data yang tidak lengkap, dan model gen AI saat ini masih terlalu tidak transparan.
"Saya tidak berpikir akan pernah dapat diterima bagi beberapa presiden," kata Weissgold, "untuk komunitas intelijen datang dan mengatakan, 'Saya tidak tahu, kotak hitam hanya memberi tahu saya begitu.'"
