Tahun lalu adalah waktu sibuk bagi para pembuat kebijakan dan pengacara yang prihatin tentang AI — terutama di California, di mana Gavin Newsom menandatangani 18 undang-undang baru terkait AI sambil juga menolak legislasi AI yang berprofil tinggi.
Dan tahun 2025 bisa saja melihat aktivitas yang sama banyaknya, terutama di tingkat negara bagian, menurut Mark Weatherford. Weatherford, yang menurut kata-katanya telah melihat 'proses pembuatan kebijakan dan legislasi' baik di tingkat negara bagian maupun federal; dia pernah menjabat sebagai Kepala Petugas Keamanan Informasi untuk negara-negara California dan Colorado, serta Wakil Sekretaris Bawah untuk Keamanan Siber di bawah Presiden Barack Obama.
Weatherford mengatakan bahwa dalam beberapa tahun terakhir, dia memiliki berbagai judul pekerjaan, tetapi perannya biasanya mereduksi menjadi "bagaimana kita meningkatkan tingkat percakapan seputar keamanan dan privasi sehingga kita dapat membantu mempengaruhi bagaimana kebijakan dibuat."
Musim gugur lalu, ia bergabung dengan perusahaan data sintetis Gretel sebagai wakil presiden kebijakan dan standar. Jadi saya sangat senang untuk berbicara dengannya tentang apa yang menurutnya akan terjadi selanjutnya dalam regulasi AI dan mengapa dia berpikir bahwa negara-negara kemungkinan akan memimpin jalan.
Wawancara ini telah disunting untuk panjang dan kejelasan.
Tujuan untuk meningkatkan tingkat percakapan itu mungkin akan resonan dengan banyak orang dalam industri teknologi, yang mungkin pernah menyaksikan dengar pendapat di majelis tentang media sosial atau topik terkait di masa lalu dan merasa heran, melihat pengetahuan dan ketidaktahuan beberapa pejabat terpilih. Seberapa optimis Anda bahwa pembuat kebijakan dapat memperoleh konteks yang mereka butuhkan untuk membuat keputusan yang terinformasi seputar regulasi?
Nah, saya sangat yakin mereka bisa mencapainya. Apa yang kurang yakin saya adalah jangka waktunya untuk mencapainya. Anda tahu, AI berubah setiap hari. Sangat mengagumkan bagi saya bahwa masalah yang kita bicarakan hanya sebulan yang lalu sudah berkembang menjadi sesuatu yang lain. Jadi saya yakin bahwa pemerintah akan mencapainya, tetapi mereka butuh orang untuk membimbing mereka, memberi mereka staf, mendidik mereka.
Awal pekan ini, Dewan Wakil Rakyat AS memiliki kelompok tugas yang mereka mulai sekitar setahun yang lalu, sebuah kelompok tugas tentang kecerdasan buatan, dan mereka merilis laporan mereka — nah, membutuhkan waktu setahun bagi mereka untuk melakukannya. Ini adalah laporan 230 halaman; saya sedang membacanya sekarang. [Weatherford dan saya pertama kali berbicara pada bulan Desember.]
[Dalam hal] proses pembuatan kebijakan dan legislasi, Anda memiliki dua organisasi yang sangat berseteru, dan mereka mencoba untuk bersatu dan menciptakan sesuatu yang membuat semua orang senang, yang berarti semuanya sedikit diredam. Ini hanya membutuhkan waktu lama, dan sekarang, saat kita memasuki administrasi baru, semuanya belum tentu, berapa banyak perhatian yang akan diberikan kepada hal-hal tertentu atau tidak.
Tampaknya sudut pandang Anda adalah bahwa kami mungkin akan melihat lebih banyak tindakan regulasi di tingkat negara bagian pada tahun 2025 daripada di tingkat federal. Benarkah?
Saya benar-benar percaya demikian. Saya berarti, di California, saya pikir Gubernur [Gavin] Newsom, hanya dalam beberapa bulan terakhir, menandatangani 12 undang-undang yang memiliki sesuatu hubungannya dengan AI. [Sekali lagi, jumlahnya 18 menurut hitungan TechCrunch.)] Dia menolak RUU besar tentang AI, yang awalnya akan benar-benar meminta perusahaan AI untuk berinvestasi lebih banyak dalam pengujian dan benar-benar melambatkan proses.
Faktanya, saya memberikan ceramah di Sacramento kemarin kepada Pertemuan Pendidikan Keamanan Siber California, dan saya sedikit membicarakan tentang legislasi yang terjadi di seluruh AS, semua negara bagian, dan seperti ada sekitar 400 undang-undang yang berbeda di tingkat negara bagian telah diajukan hanya dalam 12 bulan terakhir. Jadi ada banyak yang terjadi di sana.
Dan saya pikir salah satu kekhawatiran besar, kekhawatiran besar dalam teknologi secara umum, dan dalam keamanan siber, tetapi saat ini kami melihat di sisi kecerdasan buatan, adalah persyaratan harmonisasi. Harmonisasi adalah kata yang [Departemen Keamanan Dalam Negeri] dan Harry Coker di [Gedung Putih Biden] gunakan untuk [mengacu]: Bagaimana kita menyatukan semua aturan dan regulasi seputar hal-hal yang berbeda ini agar kita tidak memiliki [keadaan] di mana semua orang melakukan hal mereka sendiri, yang membuat perusahaan gila. Karena itu mereka harus mencari tahu, bagaimana mereka mematuhi semua undang-undang dan regulasi berbeda di negara bagian yang berbeda?
Saya pikir akan ada banyak lebih banyak aktivitas di sisi negara bagian, dan semoga kami bisa mengharmonisasi ini sedikit sehingga tidak ada peraturan yang sangat beragam yang harus dipatuhi perusahaan.
Saya belum pernah mendengar istilah itu, tetapi itu akan menjadi pertanyaan saya berikutnya: Saya membayangkan kebanyakan orang akan setuju bahwa pengharmonisan adalah tujuan yang baik, tetapi apakah ada mekanisme di mana itu terjadi? Apakah negara-negara memiliki insentif untuk memastikan undang-undang dan regulasi mereka selaras?
Jujur, tidak banyak insentif untuk mengharmonisasikan regulasi, kecuali bahwa saya bisa melihat bahasa yang sama muncul di negara bagian yang berbeda — yang bagi saya, menunjukkan bahwa mereka semua melihat apa yang dilakukan satu sama lain.
Tapi dari sudut pandang, seperti, 'Mari kita ambil pendekatan rencana strategis untuk ini di antara semua negara,' itu tidak akan terjadi, saya tidak punya harapan tinggi agar itu terjadi.
Apakah Anda berpikir negara-negara lain mungkin akan mengikuti jejak California dalam hal pendekatan umum?
Banyak orang tidak suka mendengar ini, tetapi California memang mendorong batas [dalam legislasi teknologi] yang membantu orang untuk ikut serta, karena mereka melakukan sebagian besar kerja keras, mereka melakukan sebagian besar penelitian yang diperlukan untuk beberapa legislasi itu.
Kedua belas RUU yang baru saja disahkan Gubernur Newsom menyebar di berbagai bidang, mulai dari pornografi hingga menggunakan data untuk melatih situs web dan semua jenis hal yang berbeda. Mereka telah cukup komprehensif tentang mengambil langkah maju di sana.
Meskipun pemahaman saya adalah bahwa mereka melewatkan tindakan yang lebih tertuju, spesifik dan kemudian regulasi yang lebih besar yang mendapat perhatian banyak orang, Gubernur Newsom pada akhirnya menolaknya.
Saya bisa melihat kedua sisi dari hal itu. Ada komponen privasi yang mendorong RUU awalnya, tetapi kemudian Anda harus mempertimbangkan biaya melakukan hal-hal ini, dan persyaratan yang akan dikenakan pada perusahaan kecerdasan buatan untuk menjadi inovatif. Jadi ada keseimbangan di sana.
Saya sepenuhnya berharap [pada tahun 2025] bahwa California akan mengesahkan sesuatu yang sedikit lebih ketat dari yang mereka lakukan [pada tahun 2024].
Dan pendapat Anda adalah bahwa di tingkat federal, pasti ada minat, seperti laporan Dewan yang Anda sebutkan, tetapi tidak selalu akan menjadi prioritas yang besar atau bahwa kita akan melihat legislasi utama [pada tahun 2025]?
Nah, saya tidak tahu. Itu tergantung seberapa banyak penekanan yang dibawa Kongres [baru]. Saya pikir kita akan melihat. Maksud saya, Anda membaca apa yang saya baca, dan apa yang saya baca adalah bahwa akan ada penekanan lebih sedikit pada regulasi. Tetapi teknologi dalam banyak hal, terutama seputar privasi dan keamanan siber, itu semacam isu bipartisan, itu bagus untuk semua orang.
Saya bukan penggemar berat regulasi, ada banyak duplikasi dan banyak sumber daya yang terbuang yang terjadi dengan begitu banyak legislatif yang berbeda. Tetapi pada saat yang sama, ketika keselamatan dan keamanan masyarakat dipertaruhkan, seperti yang terjadi dengan AI, pasti ada tempat untuk lebih banyak regulasi.
Anda menyebutnya sebagai isu bipartisan. Saya pikir ketika ada perpecahan, itu tidak selalu bisa diprediksi — itu bukan hanya semua suara Republik versus semua suara Demokrat.
Itu poin yang bagus. Geografi penting, apakah kita suka mengakui atau tidak, itu, dan itu sebabnya tempat-tempat seperti California benar-benar bersikap maju dalam beberapa legislasi mereka dibandingkan dengan beberapa negara bagian lain.
Tentu saja, ini adalah area di mana Gretel beroperasi, tetapi tampaknya Anda percaya, atau perusahaan percaya, bahwa dengan semakin banyak regulasi, itu mendorong industri ke arah data sintetis yang lebih banyak.
Mungkin. Salah satu alasan saya berada di sini adalah, saya percaya data sintetis adalah masa depan AI. Tanpa data, tidak ada AI, dan kualitas data semakin menjadi masalah, karena kolam data yang digunakan atau menyusut. Akan ada lebih banyak kebutuhan akan data sintetis berkualitas tinggi yang menjamin privasi dan menghilangkan bias dan menangani semua jenis masalah lembut non-teknis tersebut. Kami percaya bahwa data sintetis adalah jawabannya. Bahkan, saya 100% yakin akan hal itu.
Saya akan senang mendengar lebih banyak tentang apa yang membuat Anda berpikiran demikian. Saya pikir ada orang lain yang menyadari masalah yang Anda bicarakan tapi berpikir data sintetis potensial memperkuat sejumlah bias atau masalah yang ada dalam data asli, daripada memecahkan masalah.
Tentu, itu adalah bagian teknis dari percakapan. Pelanggan kami merasa bahwa kami telah menyelesaikan itu, dan ada konsep flywheel dari generasi data, yakni jika Anda menghasilkan data buruk, itu semakin buruk dan buruk, tetapi membangun kontrol ke dalam flywheel ini memvalidasi bahwa data tidak memburuk, bahwa ia tetap sama atau semakin baik tiap kali penerbangan datang. Itu adalah masalah yang telah diselesaikan Gretel.
Banyak tokoh yang berpihak pada Trump di Silicon Valley telah memperingatkan tentang "sensor" AI — berbagai beban dan pagar pengaman yang diletakkan perusahaan seputar konten yang dibuat oleh AI generatif. Apakah menurut Anda kemungkinan akan diatur? Apakah seharusnya diatur?
Mengenai kekhawatiran tentang sensor AI, pemerintah memiliki sejumlah tuas administratif yang dapat mereka tarik, dan ketika ada risiko yang dirasakan bagi masyarakat, hampir pasti mereka akan mengambil tindakan.
Namun, menemukan titik yang pas antara moderasi konten yang wajar dan sensor yang restriktif akan menjadi tantangan. Administrasi yang baru dapatkan cukup jelas bahwa 'kurang regulasi lebih baik' akan menjadi modus operandi, sehingga apakah melalui legislasi resmi atau perintah eksekutif, atau dengan cara yang kurang formal seperti pedoman dan kerangka kerja dari Institut Standar dan Teknologi Nasional atau pernyataan bersama melalui koordinasi antar instansi, kita sebaiknya mengharapkan beberapa petunjuk.
Saya ingin kembali ke pertanyaan apa yang mungkin menjadi regulasi AI yang baik. Ada perbedaan besar dalam cara orang berbicara tentang AI, seperti itu akan menyelamatkan dunia atau akan menghancurkan dunia, itu adalah teknologi paling luar biasa, atau terlalu dibesar-besarkan. Ada begitu banyak pendapat yang berbeda tentang potensi teknologi ini dan risikonya. Bagaimana satu atau bahkan beberapa peraturan AI dapat mencakup itu?
Saya pikir kita harus sangat berhati-hati dalam mengelola penyebaran AI. Kami telah melihat dengan deepfakes dan beberapa aspek negatif yang benar-benar membuat khawatir ketika melihat anak-anak muda sekarang di sekolah menengah dan bahkan lebih muda yang membuat deep fakes yang mengancam mereka dengan hukum. Jadi saya pikir ada tempat bagi legislasi yang mengendalikan cara orang menggunakan kecerdasan buatan yang tidak melanggar apa yang mungkin merupakan hukum yang ada — kita membuat undang-undang baru yang memperkuat hukum yang ada, tetapi hanya mengontrol komponen AI-nya.
Kami — bagi kita yang telah berada di ruang teknologi — semua harus ingat, banyak hal ini hanya kami anggap sebagai hal yang wajar, ketika saya berbicara dengan anggota keluarga saya dan beberapa teman saya yang bukan di bidang teknologi, mereka benar-benar tidak tahu apa yang saya bicarakan sebagian besar waktu. Kami tidak ingin orang merasa bahwa pemerintah besar berlebihan dalam regulasi, tetapi penting untuk membicarakan hal-hal ini dalam bahasa yang bisa dipahami non-teknisi.
Tetapi di sisi lain, Anda mungkin bisa mendengarkannya hanya dari pembicaraan dengan saya, saya sangat antusias tentang masa depan AI. Saya melihat begitu banyak kebaikan datang. Saya pikir kita akan mengalami beberapa tahun yang bumpy karena orang semakin terhubung dengannya dan semakin memahami itu, dan legislasi akan memiliki tempat di sana, baik untuk memberi tahu orang apa artinya AI bagi mereka dan menempatkan beberapa pagar di sekitar AI.
