Inggris mencoba memblokir gambar pelecehan seksual terhadap anak-anak AI dengan pengujian yang lebih ketat

Pemerintah Inggris akan mengizinkan perusahaan teknologi dan badan amal perlindungan anak untuk secara proaktif menguji alat kecerdasan buatan untuk memastikan mereka tidak dapat memproduksi gambar pelecehan seksual terhadap anak.

Amandemen terhadap RUU Kejahatan dan Perpolisian yang diumumkan pada hari Rabu akan memungkinkan “penguji resmi” untuk menilai kemampuan model dalam memproduksi materi pelecehan seksual terhadap anak (CSAM) sebelum dirilis.

Menteri Teknologi Liz Kendall mengatakan langkah-langkah tersebut akan “memastikan sistem AI dapat dibuat lebih aman di sumbernya” – meskipun beberapa penggiat berpendapat bahwa masih banyak hal yang perlu dilakukan.

Hal ini terjadi ketika Internet Watch Foundation (IWF) mengatakan jumlah laporan CSAM terkait AI meningkat dua kali lipat sejak tahun lalu.

Badan amal tersebut, salah satu dari sedikit badan amal di dunia yang memiliki izin untuk secara proaktif mendeteksi materi pelecehan anak secara online, mengatakan bahwa mereka telah menghapus 426 materi yang dilaporkan antara Januari dan Oktober 2025.

Jumlahnya 199 dibandingkan periode yang sama tahun 2024.

Kepala eksekutifnya, Kerry Smith, menyambut baik usulan pemerintah tersebut, dengan mengatakan bahwa usulan tersebut akan melanjutkan upaya jangka panjang untuk memerangi CSAM online.

“Alat AI telah memungkinkan para penyintas untuk kembali menjadi korban hanya dengan beberapa klik, memberikan pelaku kemampuan untuk membuat konten pelecehan seksual terhadap anak-anak yang berpotensi canggih dan fotorealistik,” katanya.

“Pengumuman hari ini dapat menjadi langkah penting dalam memastikan produk AI aman sebelum dirilis.”

Rani Govender, manajer kebijakan online untuk perlindungan anak di NSPCC, menyambut baik langkah untuk mendorong perusahaan agar lebih akuntabel dan teliti mengenai model dan perlindungan anak mereka.

“Tetapi untuk membuat perbedaan nyata bagi anak-anak, hal itu tidak bisa dilakukan secara opsional,” katanya.

“Pemerintah harus memastikan adanya kewajiban wajib bagi pengembang AI untuk menggunakan ketentuan ini sehingga perlindungan terhadap pelecehan seksual terhadap anak merupakan bagian penting dari desain produk.”

Pemerintah mengatakan usulan perubahan undang-undang tersebut akan mengharuskan pengembang AI dan badan amal untuk memastikan model AI memiliki perlindungan yang tepat terhadap pornografi ekstrem dan gambar intim non-konsensual.

Pakar dan organisasi perlindungan anak telah sering memperingatkan bahwa alat AI yang sedang dikembangkan, sebagian, menggunakan sejumlah besar konten online yang tersebar luas untuk menggambarkan pelecehan yang sangat realistis terhadap anak-anak atau orang dewasa yang tidak memberikan persetujuan.

Beberapa pihak, termasuk IWF dan badan amal keselamatan anak Thorne, mengatakan bahwa semakin sulit untuk mengidentifikasi apakah konten tersebut nyata atau dihasilkan oleh AI, sehingga membahayakan upaya untuk mengawasi konten tersebut.

Para peneliti berpendapat bahwa ada peningkatan permintaan terhadap gambar-gambar ini secara online, khususnya di web gelap, dan beberapa di antaranya dibuat oleh anak-anak.

Awal tahun ini, Kementerian Dalam Negeri mengatakan Inggris akan menjadi negara pertama di dunia yang melarang kepemilikan, pembuatan, atau distribusi alat AI yang dirancang untuk membuat materi pelecehan seksual terhadap anak (CSAM), dengan ancaman hukuman hingga lima tahun.

Kendall mengatakan pada hari Rabu bahwa “dengan memberdayakan organisasi tepercaya untuk menguji model AI mereka, kami memastikan bahwa keselamatan anak dimasukkan ke dalam sistem AI, bukan sekedar renungan”.

“Kami tidak akan membiarkan kemajuan teknologi melampaui kemampuan kami dalam menjaga keamanan anak-anak,” katanya.

Menteri Keamanan Jess Phillips mengatakan tindakan ini juga berarti “alat AI yang sah tidak dapat dimanipulasi untuk membuat konten berkualitas rendah dan akan mengakibatkan lebih banyak anak terlindungi dari predator”.