Seiring dengan peningkatan AI text-to-speech, teknologi reproduksi suara juga meningkat. Prospeknya mungkin menjanjikan, namun dalam pandangan FTC, kloning audio juga menimbulkan masalah perlindungan konsumen yang serius. FTC berkomitmen untuk menggunakan berbagai alat untuk mencegah kerugian bagi masyarakat. Itu sebabnya tantangan reproduksi suara baru saja diumumkan.
Meskipun teknologi kloning suara memberikan harapan bagi sebagian orang – misalnya, mereka yang kehilangan suara karena kecelakaan atau sakit – Komisi Perdagangan Federal telah menarik perhatian pada cara para penipu menambahkan kecerdasan buatan ke dalam tipu muslihat mereka. Anda mungkin pernah mendengarnya Penipuan darurat keluarga Dimana seseorang menerima telepon yang diduga dari kerabatnya yang panik yang sedang dipenjara atau dirawat di rumah sakit dan membutuhkan uang segera. Sampai saat ini, penipu harus membuat alasan mengapa hal tersebut mungkin terdengar tidak tepat. Tapi perkenalkan AI dan penipu di sisi lain bisa menggunakannya Teknik kloning suara untuk meniru anggota keluarga.
Ini akan menjadi tantangan kelima yang disponsori oleh FTC berdasarkan Undang-Undang Persaingan Usaha AS, yang memungkinkan lembaga menciptakan tantangan untuk mendorong pengembangan dan inovasi teknologi. Misalnya, tantangan lain telah memotivasi pembuatan alat baru untuk mengurangi robocall ilegal dan mengatasi kerentanan terkait perangkat IoT. Kirim Pendekatan terbaik untuk melindungi orang dari bahaya yang disebabkan oleh penyalahgunaan reproduksi audio yang didukung AI – mulai dari penipuan hingga pembajakan suara seseorang untuk membuat musik. Hadiah utama untuk Tantangan Reproduksi Audio adalah $25.000. Baca halaman Tantangan Kloning Suara FTC untuk informasi lebih lanjut tentang partisipasi.
Kami akan mulai menerima lamaran pada tanggal 2 Januari 2024. Namun sekarang adalah waktu yang tepat untuk mulai mempertimbangkan solusi potensial di berbagai titik intervensi, termasuk:
- Pencegahan atau otentikasi, termasuk membatasi penggunaan perangkat lunak reproduksi audio untuk pengguna yang berwenang;
- Mendeteksi dan memantau untuk mengingatkan konsumen jika suaranya telah dikloning tanpa sepengetahuannya atau jika mereka berbicara dengan suara kloning, dan/atau memblokir panggilan telepon menggunakan suara kloning; Dan
- Sumber daya, sistem, atau alat evaluasi yang membantu konsumen atau bisnis memeriksa apakah klip audio berisi suara yang direproduksi.
Ini hanyalah beberapa kemungkinan, namun seperti kata-kata Thomas Edison, “Ada cara untuk melakukannya dengan lebih baik. Sekarang temukan.”
