Ancaman deepfake semakin meningkat seiring dengan alat kecerdasan buatan untuk membuatnya menjadi lebih mudah diakses. Ada peningkatan 245% dalam deepfake di seluruh dunia dari tahun 2023 hingga 2024, peningkatan yang didorong sebagian oleh siklus pemilihan yang akan datang, menurut penyedia verifikasi Sumsub. Hal ini juga mempengaruhi sektor korporat; sebuah survei terbaru dari Business.com menemukan bahwa 10% perusahaan telah menghadapi penipuan yang dibantu deepfake, seperti suara yang di-kloning.
Trend ini, tidak mengherankan, telah menjadi sumber keuntungan bagi perusahaan yang memasarkan alat untuk melindungi dari deepfake dan teknologi yang digunakan untuk memproduksi mereka. Salah satu perusahaan tersebut, Pindrop, pada hari Rabu mengumumkan bahwa mereka berhasil mendapatkan pinjaman $100 juta selama lima tahun dari Hercules Capital, yang CEO Vijay Balasubramaniyan menyatakan akan dialokasikan untuk pengembangan produk dan perekrutan.
\"Dengan kemajuan dalam kecerdasan buatan generatif, kloning suara secara khusus telah menjadi alat yang kuat,\" kata Balasubramaniyan kepada TechCrunch. \"Deteksi deepfake dengan memanfaatkan teknologi deteksi kecerdasan buatan sekarang diperlukan oleh setiap pusat panggilan untuk selangkah lebih maju dari para penipu.\"
Pindrop membangun produk perlindungan deepfake dan otentikasi multi-faktor yang ditujukan untuk bisnis di bidang perbankan, keuangan, dan industri terkait. Perusahaan ini mengklaim bahwa alat-alat mereka dapat mengidentifikasi penelepon pusat kontak, misalnya - dan dengan akurasi yang lebih tinggi dibandingkan solusi pesaing.
\"Pindrop memanfaatkan kumpulan data lebih dari 20 juta ucap, baik sintetis maupun asli, untuk melatih model kecerdasan buatan untuk membedakan antara suara manusia asli dan suara yang dihasilkan secara sintetis,\" kata Balasubramaniyan. \"Kami juga telah melatih lebih dari 330 model teks ke suara (TTS) untuk membantu mengidentifikasi model TTS yang digunakan untuk membuat deepfake.\"
Bias merupakan masalah umum dalam model deteksi deepfake. Banyak model audio cenderung bias terhadap pengenalan suara Barat, Amerika dan performa buruk dengan aksen dan dialek yang berbeda, yang bisa membuat detektor mengklasifikasikan suara yang sah sebagai deepfake.
Masih diperdebatkan apakah data pelatihan sintetis - data pelatihan yang dihasilkan oleh model kecerdasan buatan sendiri - mengurangi atau meningkatkan bias tersebut. Sebagaimana dikatakan Balasubramaniyan, dia berpendapat yang pertama dan mengklaim bahwa produk otentikasi suara Pindrop berfokus pada \"fitur akustik dan spektro-temporal\" suara dibandingkan dengan pelafalan atau bahasa.
\"Sistem pengenalan suara berbasis kecerdasan buatan cenderung menampilkan hasil yang bias terhadap perbedaan nada, aksen, vernakular, dan dialek yang dapat memiliki implikasi rasial,\" kata Balasubramaniyan. \"Bias ini berasal dari homogenitas data yang digunakan untuk melatih sistem yang mungkin kekurangan representasi dari beragam etnis, ras, gender atau perbedaan lainnya, sehingga membatasi variasi data yang digunakan sistem kecerdasan buatan tersebut.\"
Terlepas dari keefektifan produknya, Pindrop telah mencapai kemajuan substansial sejak tahun 2011, ketika Balasubramaniyan, mantan pekerja Google, mendirikan perusahaan tersebut dengan mantan Chief Research Officer Barracuda Networks Paul Judge dan Mustaque Ahamad. Hingga saat ini, perusahaan yang berbasis di Atlanta dan memiliki sekitar 250 karyawan ini telah meraup $234,77 juta dalam modal ventura dari investor termasuk Vitruvian Partners, CapitalG, IVP dan Andreessen Horowitz.
Menjawab mengapa Pindrop memilih utang daripada ekuitas kali ini, Balasubramaniyan mengatakan bahwa itu merupakan pilihan yang \"menarik\" untuk \"mengumpulkan modal pertumbuhan secara efisien\" tanpa mengencerkan ekuitas Pindrop. (Itu adalah strategi umum).
\"Dengan munculnya kecerdasan buatan generatif, kami melihat permintaan besar atas solusi kami di seluruh dunia, dan berencana untuk melihat ekspansi ke negara-negara yang mengalami ancaman signifikan akibat deepfake,\" kata Balasubramaniyan. \"Posisi Pindrop adalah untuk membantu perusahaan melindungi diri dan konsumen mereka dari penipuan dan ancaman deepfake yang meningkat dengan solusi pencegahan penipuan, otentikasi, dan kehidupan nyata.\"
