Pendekatan Penguat Watchdog Internet Inggris untuk Deepfake Porn

OFCOM, regulator keselamatan internet Inggris, telah menerbitkan panduan rancangan baru karena terus mengimplementasikan Undang-Undang Keselamatan Online (OSA)-serangkaian rekomendasi terbaru bertujuan untuk mendukung perusahaan di ruang lingkup untuk memenuhi kewajiban hukum untuk melindungi perempuan dan anak perempuan dari online Ancaman seperti pelecehan dan intimidasi, kebencian terhadap wanita, dan penyalahgunaan gambar yang intim.

Pemerintah telah mengatakan bahwa melindungi perempuan dan anak perempuan adalah prioritas untuk penerapan OSA. Bentuk -bentuk tertentu dari (terutama) penyalahgunaan misoginis – seperti berbagi gambar intim tanpa persetujuan atau menggunakan alat AI untuk membuat pornografi Deepfake yang menargetkan individu – secara eksplisit ditetapkan dalam hukum sebagai sebagai Prioritas penegakan.

Peraturan Keselamatan Online, yang disetujui oleh Parlemen Inggris September 2023telah menghadapi kritik bahwa itu tidak tergantung pada tugas mereformasi raksasa platform, meskipun mengandung hukuman substansial untuk ketidakpatuhan-hingga 10% dari omset tahunan global.

Para pegiat keselamatan anak juga menyatakan frustrasi atas berapa lama waktu yang dibutuhkan untuk mengimplementasikan hukum, serta meragukan apakah itu akan memiliki efek yang diinginkan.

Dalam sebuah wawancara dengan BBC Pada bulan Januari, bahkan menteri teknologi Peter Kyle – yang mewarisi undang -undang dari pemerintah sebelumnya – menyebutnya “sangat tidak merata” dan “tidak memuaskan.” Tetapi pemerintah tetap berpegang pada pendekatan tersebut. Bagian dari ketidakpuasan di sekitar OSA dapat ditelusuri kembali ke para menteri waktu yang lama diizinkan untuk mengimplementasikan rezim, yang mengharuskan Parlemen untuk menyetujui panduan kepatuhan OFCOM.

Namun, penegakan hukum diharapkan mulai segera menendang sehubungan dengan persyaratan inti tentang mengatasi konten ilegal dan perlindungan anak. Aspek lain dari kepatuhan OSA akan membutuhkan waktu lebih lama untuk diterapkan. Dan Ofcom mengakui paket rekomendasi praktik terbaru ini tidak akan sepenuhnya dapat ditegakkan hingga 2027 atau lebih baru.

Mendekati Line Start Penegakan

“Tugas pertama Undang-Undang Keselamatan Online mulai berlaku bulan depan,” Jessica Smith dari OFCOM, yang memimpin pengembangan bimbingan yang berfokus pada keselamatan perempuan, mengatakan kepada TechCrunch dalam sebuah wawancara. “Jadi kami akan menegakkan beberapa tugas inti dari Undang -Undang Keselamatan Online sebelum panduan ini [itself becoming enforceable]. “

Panduan rancangan baru tentang menjaga wanita dan anak perempuan yang aman secara online dimaksudkan untuk menambah panduan OFCOM yang lebih luas tentang konten ilegal – yang juga, misalnya, memberikan rekomendasi untuk melindungi anak di bawah umur dari melihat konten dewasa secara online.

Pada bulan Desember, regulator menerbitkan panduan final tentang bagaimana platform dan layanan harus menyusut Risiko terkait dengan konten ilegalArea di mana perlindungan anak adalah prioritas yang jelas.

Sebelumnya juga menghasilkan a Kode Keselamatan Anakyang merekomendasikan Layanan Online Memanggil Pemeriksaan Usia dan Penyaringan Konten untuk memastikan anak -anak tidak terpapar konten yang tidak pantas seperti pornografi. Dan karena berhasil menerapkan rezim keselamatan online, itu juga dikembangkan Rekomendasi untuk Teknologi Jaminan Usia untuk Situs Web Konten Dewasadengan tujuan mendorong situs porno untuk mengambil langkah-langkah efektif mencegah anak di bawah umur mengakses konten yang tidak sesuai usia.

Serangkaian bimbingan terbaru dikembangkan dengan bantuan dari para korban, penyintas, kelompok advokasi perempuan dan pakar keselamatan, per OFCOM. Ini mencakup empat bidang utama di mana regulator mengatakan wanita secara tidak proporsional dipengaruhi oleh bahaya online – yaitu: misogini online; tiang pancang dan pelecehan online; penyalahgunaan domestik online; dan penyalahgunaan gambar intim.

Keamanan dengan desain

Rekomendasi top-line Ofcom mendesak layanan dan platform in-scope untuk mengambil pendekatan “keselamatan dengan desain”. Smith memberi tahu kami bahwa regulator ingin mendorong perusahaan teknologi untuk “mengambil langkah mundur” dan “memikirkan pengalaman pengguna mereka di babak.” Sementara dia mengakui beberapa layanan telah memberlakukan beberapa langkah yang membantu dalam menyusut risiko online di bidang ini, dia berpendapat masih ada kurangnya pemikiran holistik ketika datang untuk memprioritaskan keselamatan perempuan dan anak perempuan.

“Apa yang sebenarnya kami minta hanyalah semacam perubahan langkah dalam cara kerja proses desain,” katanya kepada kami, mengatakan tujuannya adalah untuk memastikan bahwa pertimbangan keselamatan dipanggang ke dalam desain produk.

Dia menyoroti kebangkitan layanan yang menghasilkan gambar AI, yang dia catat telah menyebabkan pertumbuhan “besar” dalam penyalahgunaan citra intim Deepfake sebagai contoh di mana para teknolog dapat mengambil langkah -langkah proaktif untuk menggerogoti risiko alat mereka yang dipersenjatai untuk menargetkan wanita dan anak perempuan – belum.

“Kami berpikir bahwa ada hal -hal masuk akal yang dapat dilakukan layanan pada fase desain yang akan membantu mengatasi risiko beberapa bahaya itu,” sarannya.

Contoh Praktik Industri “Baik” Sorotan dalam Bimbingan Termasuk Layanan Online Mengambil Tindakan Seperti:

• Menghapus geolokasi secara default (untuk menyusut risiko privasi/penguntit);
• Melakukan pengujian ‘abusabilitas’ untuk mengidentifikasi bagaimana layanan dapat dipersenjatai/disalahgunakan;
• Mengambil langkah -langkah untuk meningkatkan keamanan akun;
• Merancang dalam petunjuk pengguna yang dimaksudkan untuk membuat poster berpikir dua kali sebelum memposting konten yang kasar;
• Dan menawarkan alat pelaporan yang dapat diakses yang memungkinkan pengguna melaporkan masalah.

Seperti halnya dengan semua panduan OSA Ofcom tidak setiap ukuran akan relevan untuk setiap jenis atau ukuran layanan – karena undang -undang tersebut berlaku untuk layanan online besar dan kecil, dan memotong berbagai arena dari media sosial, kencan online, game, forum dan aplikasi pesan, untuk beberapa nama. Jadi sebagian besar pekerjaan untuk perusahaan dalam lingkup akan memahami apa arti kepatuhan dalam konteks produk mereka.

Ketika ditanya apakah Ofcom telah mengidentifikasi layanan apa pun yang saat ini memenuhi standar panduan, Smith menyarankan mereka tidak. “Masih banyak pekerjaan yang harus dilakukan di seluruh industri,” katanya.

Dia juga secara diam-diam mengakui bahwa mungkin ada tantangan yang berkembang mengingat beberapa langkah retrograde yang diambil vis-à-vis kepercayaan dan keamanan oleh beberapa pemain industri besar. Misalnya, sejak mengambil alih Twitter dan mengubah nama jejaring sosial sebagai X, Elon Musk telah memusnahkan headcount kepercayaan dan keselamatannya – demi mengejar apa yang telah dibingkainya sebagai pendekatan maksimal untuk kebebasan berbicara.

Dalam beberapa bulan terakhir, Meta-yang memiliki Facebook dan Instagram-tampaknya telah mengambil beberapa langkah meniru, dengan mengatakan itu mengakhiri kontrak pengecekan fakta tiga puluh partai yang mendukung sistem “catatan” gaya X-gaya dari label crowdsourced pada sengketa konten, Misalnya.

Transparansi

Smith menyarankan bahwa respons OFCOM terhadap pergeseran tingkat tinggi seperti itu-di mana tindakan operator dapat berisiko melakukan panggilan, daripada meredam, bahaya online-akan fokus pada penggunaan transparansi dan kekuatan pengumpulan informasi yang dimiliki di bawah OSA untuk menggambarkan dampak dan mendorong pengguna kesadaran.

Jadi, singkatnya, taktik di sini tampaknya akan menjadi ‘nama dan malu’ – setidaknya pada contoh pertama.

“Setelah kami menyelesaikan bimbingan, kami akan menghasilkan a [market] Laporkan … tentang siapa yang menggunakan panduan, siapa yang mengikuti langkah apa, hasil seperti apa yang mereka capai untuk pengguna mereka yang perempuan dan perempuan, dan benar -benar menyoroti perlindungan apa yang ada di platform yang berbeda sehingga pengguna dapat dapat Buatlah pilihan berdasarkan informasi tentang di mana mereka menghabiskan waktu online, ”katanya kepada kami.

Smith menyarankan agar perusahaan yang ingin menghindari risiko dipermalukan secara publik atas kinerja yang buruk pada keselamatan wanita akan dapat beralih ke bimbingan Ofcom untuk “langkah -langkah praktis” tentang cara memperbaiki situasi bagi pengguna mereka, dan mengatasi risiko kerusakan reputasi juga .

“Platform yang beroperasi di Inggris harus mematuhi undang-undang Inggris,” tambahnya dalam konteks diskusi tentang platform utama yang menghilangkan kepercayaan dan keselamatan. “Jadi itu berarti mematuhi tugas -tugas kerugian ilegal dan perlindungan tugas anak -anak berdasarkan Undang -Undang Keselamatan Online.”

“Saya pikir di sinilah kekuatan transparansi kami juga masuk – jika industri berubah arah dan bahaya meningkat, di sinilah kami akan dapat menyinari dan berbagi informasi yang relevan dengan pengguna Inggris, dengan media, dengan anggota parlemen.”

Teknologi untuk menangani porno deepfake

Salah satu jenis kerusakan online di mana Ofcom secara eksplisit meningkatkan rekomendasinya bahkan sebelum secara aktif memulai penegakan OSA adalah penyalahgunaan gambar yang intim – karena panduan rancangan terbaru menunjukkan pencocokan penggunaan hash untuk mendeteksi dan menghapus citra pelecehan seperti itu, sedangkan rekomendasi sebelumnya tidak digunakan sejauh itu.

“Kami telah memasukkan langkah -langkah tambahan dalam panduan ini yang melampaui apa yang telah kami tetapkan dalam kode kami,” Smith mencatat, mengkonfirmasi rencana OFCOM untuk memperbarui kode sebelumnya untuk menggabungkan perubahan ini “dalam waktu dekat.”

“Jadi ini adalah cara untuk mengatakan ke platform yang bisa Anda dapatkan di depan dari persyaratan yang dapat ditegakkan dengan mengikuti langkah -langkah yang ditetapkan dalam panduan ini,” tambahnya.

Ofcom merekomendasikan penggunaan teknologi pencocokan hash untuk melawan penyalahgunaan gambar intim karena peningkatan besar dalam risiko ini, per Smith-terutama dalam kaitannya dengan penyalahgunaan gambar Deepfake yang dihasilkan AI.

“Ada lebih banyak penyalahgunaan gambar intim yang dilaporkan pada tahun 2023 daripada di semua tahun sebelumnya gabungan,” katanya, menambahkan bahwa Ofcom juga telah mengumpulkan lebih banyak bukti tentang efektivitas pencocokan hash untuk mengatasi kerugian ini.

Rancangan panduan secara keseluruhan sekarang akan menjalani konsultasi – dengan Ofcom mengundang umpan balik hingga 23 Mei 2025 – setelah itu akan menghasilkan panduan akhir pada akhir tahun ini.

18 bulan penuh setelah itu, Ofcom kemudian akan memproduksi laporan pertama yang meninjau praktik industri di bidang ini.

“Kami memasuki 2027 sebelum kami memproduksi laporan pertama kami tentang siapa yang melakukan apa [to protect women and girls online] – Tapi tidak ada yang bisa menghentikan platform yang bertindak sekarang, ”tambahnya.

Menanggapi kritik bahwa OSA mengambil Ofcom terlalu lama untuk diterapkan, dia mengatakan benar bahwa regulator berkonsultasi dengan langkah -langkah kepatuhan. Namun, dengan ukuran akhir mulai berlaku bulan depan, ia mencatat bahwa Ofcom mengantisipasi pergeseran dalam percakapan seputar masalah ini juga.

“[T]Hat akan benar -benar mulai mengubah percakapan dengan platform, khususnya, ”ia memperkirakan, menambahkan bahwa itu juga akan berada dalam posisi untuk mulai menunjukkan kemajuan dalam memindahkan jarum ketika datang untuk mengurangi bahaya online.