Chatbot AI online memungkinkan pengguna membuat foto telanjang orang sungguhan hanya dengan beberapa klik, sehingga memicu ketakutan di kalangan para ahli tentang “adegan mimpi buruk”.
A Investigasi terbaru oleh kabel Aplikasi perpesanan Telegram telah mengungkap tren yang meresahkan, di mana lusinan chatbot bertenaga AI memungkinkan pengguna membuat foto dan video telanjang palsu dari hampir semua orang. Bot ini, yang dilaporkan digunakan oleh sekitar 4 juta orang per bulan, dapat menghilangkan pakaian dari foto yang disediakan atau bahkan membuat konten eksplisit yang menggambarkan orang-orang yang melakukan aktivitas seksual.
Pakar deepfake Henry Azder, yang pertama kali menemukan dunia bawah tanah chatbot Telegram empat tahun lalu, sangat prihatin dengan peningkatan tajam pengguna yang secara aktif membuat dan berbagi konten jenis ini. “Sangat mengkhawatirkan bahwa alat-alat ini – yang benar-benar menghancurkan kehidupan dan menciptakan skenario mimpi buruk khususnya bagi remaja putri dan perempuan – masih begitu mudah diakses dan ditemukan di permukaan web, salah satu aplikasi terbesar di dunia. dunia,” kata Azder kepada Wired.
Meskipun selebritas seperti Taylor Swift dan Jenna Ortega telah menjadi korban dari maraknya deepfake pornografi, ada juga laporan baru-baru ini mengenai gadis-gadis remaja yang menjadi sasaran, dengan beberapa gambar telanjang deepfake digunakan untuk “pelecehan seksual”. Sebuah survei bahkan mengungkapkan bahwa 40 persen siswa AS melaporkan prevalensi deepfake di sekolah mereka.
Menjamurnya situs-situs deepfake di tengah kemajuan teknologi AI telah mendorong pengawasan ketat dari para anggota parlemen. Pada bulan Agustus, kantor kejaksaan San Francisco menggugat lebih dari selusin situs “bebas pakaian”. Hubungi Dr kabel Mengenai konten chatbot yang tampak di Telegram, perusahaan tidak menanggapi, namun bot dan saluran terkait tiba-tiba menghilang, meskipun pembuatnya berjanji untuk “membangun bot lain” pada hari berikutnya.
Emma Pickering, kepala pelecehan dan pemberdayaan ekonomi yang didukung teknologi di lembaga kekerasan dalam rumah tangga Refuge yang berbasis di Inggris, menekankan kerusakan emosional yang dapat ditimbulkan oleh gambar-gambar palsu ini, yang menyebabkan trauma, penghinaan, ketakutan, rasa malu dan rasa malu. Dia mencatat bahwa meskipun pelecehan seperti itu semakin umum terjadi dalam hubungan intim, pelakunya jarang dimintai pertanggungjawaban.
Baca selengkapnya di kabel Di Sini
Lucas Nolan adalah reporter Breitbart News yang meliput isu kebebasan berpendapat dan sensor online.
