Seruan kontroversial oleh para legislator Uni Eropa untuk secara hukum mengharuskan platform pesan memindai komunikasi pribadi warga negara untuk materi penyalahgunaan seksual anak (CSAM) dapat menyebabkan jutaan positif palsu setiap hari, ratusan ahli keamanan dan privasi memperingatkan dalam surat terbuka pada hari Kamis.
Khawatir atas proposal UE telah meningkat sejak Komisi mengusulkan rencana pemindaian CSAM dua tahun lalu — dengan ahli independen, para legislator di seluruh Parlemen Eropa, bahkan Pengawas Perlindungan Data blok itu sendiri di antara mereka yang memberikan peringatan.
Proposal UE tidak hanya akan menuntut platform pesan yang menerima perintah deteksi CSAM untuk memindai CSAM yang diketahui, tetapi mereka juga harus menggunakan teknologi pemindaian deteksi yang tidak teridentifikasi untuk mencoba mendeteksi CSAM yang tidak diketahui dan mengidentifikasi aktivitas grooming saat itu sedang berlangsung — menyebabkan tuduhan bahwa para legislator bersantai dalam tingkat teknosolutionism pikiran ajaib.
Kritikus berpendapat proposal tersebut meminta yang tidak mungkin secara teknologi dan tidak akan mencapai tujuan yang dinyatakan untuk melindungi anak-anak dari penyalahgunaan. Sebaliknya, mereka mengatakan, ini akan menimbulkan kekacauan pada keamanan internet dan privasi pengguna web dengan memaksa platform untuk menerapkan pemantauan blanket dari semua pengguna mereka dalam menerapkan teknologi yang berisiko dan belum terbukti, seperti pemindaian sisi klien.
Ahli mengatakan tidak ada teknologi yang mampu mencapai apa yang diminta undang-undang tanpa menyebabkan lebih banyak kerusakan daripada manfaat. Namun UE tetap melanjutkan.
Penyidik UE mempertanyakan keberadaan rahasia di sekitar proposal pemindaian CSAM yang melanggar enkripsi oleh para legislator
Surat terbuka terbaru membahas amendemen terhadap regulasi pemindaian CSAM yang disusun oleh Dewan Eropa, yang menurut para penandatangan gagal mengatasi kelemahan mendasar dari rencana tersebut.
Para penandatangan surat — berjumlah 270 pada saat penulisan — termasuk ratusan akademisi, termasuk ahli keamanan terkenal seperti profesor Bruce Schneier dari Harvard Kennedy School dan Dr. Matthew D. Green dari Universitas Johns Hopkins, bersama dengan sejumlah peneliti yang bekerja untuk perusahaan teknologi seperti IBM, Intel, dan Microsoft.
Surat terbuka sebelumnya (Juli tahun lalu), ditandatangani oleh 465 akademisi, memperingatkan bahwa teknologi deteksi yang menjadi pijakan proposal legislasi itu ada yang \'sangat cacat dan rentan terhadap serangan\' dan akan menyebabkan pelemahan signifikan dari proteksi yang diberikan oleh komunikasi terenkripsi ujung-ke-ujung (E2EE).
Sedikit daya tarik untuk kontra-proposal
Tahun lalu, MEP di Parlemen Eropa bersatu untuk menolak dengan pendekatan yang secara substansial direvisi — yang akan membatasi pemindaian untuk individu dan grup yang sudah dicurigai melakukan pelecehan seksual anak; membatasinya pada CSAM yang diketahui dan tidak diketahui, menghapus persyaratan untuk memindai grooming; dan menghilangkan risiko terhadap E2EE dengan membatasinya pada platform yang tidak terenkripsi ujung-ke-ujung. Namun Dewan Eropa, badan perundang-undangan bersama lainnya yang terlibat dalam perundang-undangan UE, belum mengambil posisi dalam masalah ini, dan di mana itu akan berdampak pada bentuk akhir hukum.
Amendemen terbaru yang diselenggarakan oleh Belgia Dewan Kepresidenan pada Maret, yang memimpin diskusi atas nama perwakilan pemerintah Negara Anggota UE. Tetapi dalam surat terbuka para pakar memperingatkan proposal ini masih gagal menangani kelemahan mendasar yang tersemat dalam pendekatan Komisi, berpendapat bahwa revisi tersebut masih menciptakan "kemampuan surveillance dan kontrol Internet yang belum pernah terjadi sebelumnya" dan akan "menggoyahkan ... masa depan digital yang aman bagi masyarakat kita dan dapat memiliki konsekuensi besar bagi proses demokratis di Eropa dan di luar."
Penyesuaian yang sedang dalam diskusi dalam proposal Dewan yang diamendemen termasuk saran bahwa perintah deteksi dapat lebih terarah dengan menerapkan kategorisasi risiko dan langkah mitigasi risiko, dan keamanan siber dan enkripsi dapat dilindungi dengan memastikan platform tidak diwajibkan untuk menciptakan akses ke data yang dienkripsi dan dengan memiliki teknologi deteksi divetted. Tetapi para 270 ahli menyarankan bahwa ini hanya meragukan di sekitar masalah bencana keamanan dan privasi.
Dari \"dalam perspektif teknis, untuk menjadi efektif, proposal baru ini juga akan menggoyahkan sepenuhnya komunikasi dan keamanan sistem,\" mereka memperingatkan. Sementara bergantung pada \"teknologi deteksi yang cacat\" untuk menentukan kasus-kasus yang menarik agar perintah deteksi yang lebih terarah dikirim tidak akan mengurangi risiko hukum memenuhi era dystopian dari \"pengawasan massal\" pesan pengguna web, menurut analisis mereka.
Surat juga menangani proposal Dewan untuk membatasi perintah deteksi dengan aplikasi pesan yang dianggap \"high-risk\" merupakan revisi yang tidak berguna, menurut para penandatangan, karena mereka berpendapat itu kemungkinan masih \"dengan sembarangan memengaruhi sejumlah besar orang.\" Di sini mereka menunjukkan bahwa hanya fitur standar, seperti berbagi gambar dan obrolan teks, yang diperlukan untuk pertukaran CSAM — fitur-fitur yang didukung oleh banyak penyedia layanan, yang berarti kategorisasi risiko tinggi \"tanpa diragukan lagi akan mempengaruhi banyak layanan.\"
Mereka juga menunjukkan bahwa adopsi E2EE semakin meningkat, yang mereka prediksi akan meningkatkan kemungkinan layanan yang menerapkannya dikategorikan sebagai risiko tinggi. \"Angka ini mungkin semakin meningkat dengan persyaratan interoperabilitas yang diperkenalkan oleh Digital Markets Act yang akan mengakibatkan pesan mengalir antara layanan rendah risiko dan tinggi risiko. Sebagai hasilnya, hampir semua layanan dapat diklasifikasikan sebagai risiko tinggi,\" mereka berpendapat. (NB: Interoperabilitas pesan adalah pilar inti DMA UE.)
Pintu belakang untuk pintu belakang
Sebagai langkah perlindungan enkripsi, surat tersebut mengulang pesan yang telah diulang-ulang diserukan oleh ahli keamanan dan privasi kepada para legislator selama bertahun-tahun ini: \"Deteksi dalam layanan terenkripsi ujung-ke-ujung secara definisi melemahkan perlindungan enkripsi.\"
\"Proposal baru ini memiliki salah satu tujuan untuk 'melindungi keamanan siber dan data yang dienkripsi, sementara menjaga layanan yang menggunakan enkripsi ujung-ke-ujung dalam cakupan perintah deteksi.' Seperti yang sudah kami jelaskan sebelumnya, ini adalah oxymoron,\" mereka menekankan. \"Perlindungan yang diberikan oleh enkripsi ujung ke ujung menyiratkan bahwa tidak seorang pun selain penerima yang dimaksudkan dari komunikasi harus dapat mempelajari informasi apa pun tentang konten komunikasi tersebut. Memungkinkan kemampuan deteksi, baik untuk data terenkripsi maupun data sebelum itu dienkripsi, melanggar definisi kerahasiaan yang diberikan oleh enkripsi ujung-ke-ujung.\"
Beberapa minggu terakhir, para kepala kepolisian di seluruh Eropa telah melakukan pernyataan bersama mereka sendiri — menaikkan kekhawatiran tentang ekspansi E2EE dan menyerukan agar platform merancang sistem keamanan mereka sedemikian rupa sehingga mereka masih dapat mengidentifikasi aktivitas ilegal dan mengirim laporan tentang konten pesan kepada pihak penegak hukum.
Intervensi ini secara luas dianggap sebagai upaya untuk menekan para legislator untuk melewati undang-undang seperti regulasi pemindaian CSAM.
Para kepala kepolisian menyangkal bahwa mereka menyerukan enkripsi untuk dibuka pintu belakang tetapi mereka belum menjelaskan solusi teknis mana yang mereka inginkan platform untuk mengadopsi untuk memungkinkan \"akses yang sah\" yang dicari. Memadukan lingkaran itu memasukkan bola dengan bentuk yang sangat wonky kembali ke pengadilan para legislator.
Jika UE terus melanjutkan jalan saat ini — jadi mengasumsikan bahwa Dewan gagal mengubah langkah, seperti yang diinstruksikan oleh MEP, konsekuensinya akan \"catastrophic,\" para penandatangan surat tersebut melanjutkan dengan memperingatkan. \"Ini merupakan preseden untuk menyaring Internet, dan mencegah orang menggunakan beberapa alat yang sedikit tersedia untuk melindungi hak mereka untuk kehidupan pribadi di ruang digital; ini akan memiliki efek mendinginkan, terutama bagi remaja yang sangat mengandalkan layanan online untuk interaksi mereka. Ini akan mengubah bagaimana layanan digital digunakan di seluruh dunia dan kemungkinan akan berdampak negatif pada demokrasi di seluruh dunia.\"
Sumber UE yang dekat dengan Dewan tidak bisa memberikan wawasan tentang diskusi saat ini antara Negara Anggota tetapi mencatat ada pertemuan kelompok kerja pada 8 Mei di mana mereka mengonfirmasi proposal regulasi untuk melawan penyalahgunaan seksual anak akan dibahas.
Rencana pemindaian CSAM Eropa merupakan titik balik bagi hak-hak demokratis, para ahli memperingatkan
Kepala kepolisian Eropa mengincar E2EE dalam tuntutan terbaru untuk 'akses yang sah'
