Sebuah badan pengawas keamanan telah memperingatkan bahwa gambar pelecehan seksual terhadap anak-anak yang dihasilkan oleh alat kecerdasan buatan akan mencapai “titik kritis” ketika gambar tersebut semakin tersebar luas di web terbuka.
Itu Yayasan Pengawasan Internet Jumlah konten ilegal buatan AI yang terlihat secara online dalam enam bulan terakhir telah melampaui jumlah total pada tahun sebelumnya.
Perusahaan, yang mengoperasikan hotline Inggris tetapi juga memiliki pengiriman uang global, mengatakan hampir semua konten ditemukan di area internet yang tersedia untuk umum dan harus diakses melalui browser khusus, bukan web gelap.
Kepala eksekutif sementara IWF, Derek Ray-Hill, mengatakan tingkat kecanggihan gambar tersebut menunjukkan alat AI yang digunakan dilatih pada gambar dan video korban sebenarnya. “Masalahnya tidak kunjung hilang dalam beberapa bulan terakhir dan justru semakin parah,” ujarnya.
Menurut salah satu analis IWF, situasi dengan konten yang dihasilkan oleh AI dapat mencapai “titik kritis” di mana pengawas keselamatan dan pihak berwenang tidak akan mengetahui apakah seorang anak benar-benar membutuhkan bantuan.
IWF mengambil tindakan terhadap 74 laporan pelecehan seksual terhadap anak (CSAM) yang disebabkan oleh AI – cukup realistis untuk melanggar hukum Inggris – dibandingkan dengan 70 laporan dalam 12 bulan dari September hingga Maret tahun ini. Pernyataan dapat merujuk ke halaman web dengan banyak gambar.
Gambar AI yang menampilkan korban pelecehan di kehidupan nyata Di antara materi yang dilihat oleh IWF adalah video “deepfake”, di mana pornografi dewasa dimanipulasi dengan cara yang mirip dengan CSAM. Dalam laporan sebelumnya, IWF mengatakan AI digunakan untuk membuat gambar selebriti yang “menua”, yang kemudian digambarkan sebagai anak-anak dalam situasi pelecehan seksual. Contoh lain dari CSAM mencakup materi yang menggunakan alat AI untuk “menanggalkan pakaian” gambar anak-anak berpakaian yang ditemukan secara online.
Lebih dari separuh konten buatan AI yang ditandai oleh IWF dalam enam bulan terakhir dihosting di server di Rusia dan Amerika Serikat, dan Jepang dan Belanda juga menyediakan sejumlah besar konten tersebut. Alamat halaman web yang berisi gambar diunggah ke daftar URL IWF yang dibagikan dengan departemen teknis, sehingga diblokir dan tidak dapat diakses.
Delapan dari 10 laporan gambar ilegal yang dihasilkan AI berasal dari masyarakat yang menemukannya di situs publik seperti forum atau galeri AI, kata IWF.
Sementara itu, Instagram telah mengumumkan langkah-langkah baru untuk memerangi pelecehan seksual, di mana pengguna ditipu untuk mengirimkan gambar-gambar intim kepada pelaku, biasanya menyamar sebagai perempuan muda, yang kemudian menjadi sasaran ancaman.
Setelah promosi buletin
Platform ini akan meluncurkan fitur yang memungkinkan pengguna untuk memburamkan gambar telanjang yang dikirim melalui pesan langsung dan mendesak mereka untuk berhati-hati dalam mengirim pesan langsung (DM) yang berisi gambar telanjang. Setelah menerima gambar buram, pengguna dapat memilih untuk melihatnya atau tidak, dan mereka juga akan menerima pesan yang mengingatkan mereka bahwa mereka memiliki opsi untuk memblokir pengirim dan melaporkan obrolan tersebut ke Instagram.
Meskipun gambar yang ditandai oleh fitur “Deteksi di Perangkat” tidak akan dilaporkan secara otomatis ke platform atau pihak berwenang, fitur tersebut akan diaktifkan secara default di akun remaja di seluruh dunia mulai minggu ini.
Ini akan menjadi fitur favorit bagi orang dewasa. Instagram akan melindungi pengikut dan pengikutnya dari calon penipu seks yang mengancam akan mengirimkan foto mesra ke akun tersebut.
