Selamat Datang di Didekodekan oleh kecerdasan buatan, Perusahaan yang cepatbuletin mingguan yang meliput berita paling penting di dunia kecerdasan buatan. Anda dapat mendaftar untuk menerima buletin ini setiap minggu Di Sini.

Minggu ini, saya mendedikasikan buletin ini untuk percakapan saya baru-baru ini dengan sang futuris Zach Cass tentang beberapa risiko dan mitos yang akan muncul seiring dengan munculnya kecerdasan buatan dalam bisnis dan masyarakat. Kass, yang merupakan kepala pemasaran di OpenAI, adalah penulis buku yang akan terbit, Renaisans Berikutnya: AI dan Memperluas Potensi Manusia.

Menurut Anda, risiko apa saja yang mungkin kita hadapi akibat kecerdasan buatan pada dekade mendatang?

Saya memberikan persentase yang sangat rendah, namun menurut saya ada kemungkinan yang masuk akal bahwa kita akan benar-benar membangun sistem yang sangat cerdas sehingga kita mulai meremehkan pemikiran kritis dan mengalami penurunan kognitif. Hal ini tampaknya sangat tidak mungkin terjadi karena setiap generasi lebih pintar dari generasi sebelumnya, namun hal ini patut untuk diwaspadai.

Kemungkinan besar, pada suatu saat, persentase penduduk akan lebih tertarik pada realitas virtual dibandingkan realitas fisik, dan persentase tersebut akan bertambah dan menjadi dominan, yang tentunya akan berdampak buruk bagi pertumbuhan populasi dan kualitas hidup. Anda dapat melihat tren ini pada Gen Z, generasi yang cemas – keterikatan pada perangkat, kecanduan usia pada perangkat.

Menurut Anda, apakah kehilangan pekerjaan akibat AI dan otomasi merupakan masalah jangka pendek yang harus diatasi, serta dampaknya terhadap perekonomian?

Inilah yang saya harap orang-orang mau meluangkan lebih banyak waktu untuk membicarakan hal ini: Risiko bukanlah hal yang ekonomis. Saya pikir di dunia di mana kita benar-benar mengotomatiskan seluruh pekerjaan kita, sesuatu yang sangat positif akan terjadi secara ekonomi. Jika Anda benar-benar dapat mengetahui cara mengotomatisasi segalanya dan biaya semuanya turun sejauh ini sehingga Anda dapat hidup bebas, hal ini lebih disebabkan karena orang-orang mungkin tidak tahu apa tujuan mereka di dunia di mana pekerjaan mereka begitu sering dan banyak berubah. Saya rasa masa depan sangatlah opsional dalam segala hal, dan saya sangat berhati-hati karena risiko dari semua ini hanyalah karena manusia tidak memiliki tujuan, setidaknya untuk beberapa generasi.

Generasi kitalah, dan mungkin generasi berikutnya, yang harus memikirkan apa yang kita lakukan di dunia di mana pekerjaan kita begitu dinamis, dan mungkin relatif kurang bermakna karena dunia ini jauh lebih solid. Meskipun demikian, ada juga beberapa peluang baru yang menakjubkan. Untuk setiap pekerjaan yang ada, kemungkinan besar akan ada pekerjaan baru yang diciptakan dengan cara baru yang menarik dan tidak dapat kita bayangkan. Dan saya memperingatkan orang-orang untuk memikirkan bagaimana gambaran perekonomian sebelum adanya internet, atau sebelum adanya listrik. Bagaimana Anda bisa memahami perekonomian pada tahun 1900 atau 1800?

Bagaimana dengan hal lain seperti penggunaan kecerdasan buatan untuk membanjiri ruang informasi dengan misinformasi dan disinformasi?

Saya bahkan tidak menyebutkan hal tersebut sebagai salah satu perhatian utama saya, karena disinformasi adalah salah satu hal yang memiliki penyeimbang yang luar biasa—untuk setiap artikel dan setiap foto yang dihasilkan oleh AI, kita akan memiliki sistem yang benar-benar akan menentukan validitas.

Dan kita akan memiliki pengungkapan kebenaran yang jauh lebih kuat di masa depan. Hal ini memang benar adanya selama ini. Ngomong-ngomong, saya ingat pergi ke toko kelontong bersama ibu saya dan melihat sampul majalah wanita dan ibu saya berkata, “Ya Tuhan, Cindy Crawford cantik sekali,” karena lama sekali mereka mem-photoshop foto-foto itu dan tidak melakukannya. jangan beritahu kami. Sekarang, tentu kita semua tahu bahwa setiap foto adalah hasil photoshop. Kita memiliki lensa yang melaluinya kita melihat dunia. Saya pikir—dan inilah yang saya sampaikan kepada para humas—kita akan kembali ke media tradisional jika kita melakukannya dengan benar. Kita memerlukan institusi untuk memulihkan kepercayaan, jika tidak maka akan sangat sulit bagi orang-orang untuk mengetahui apa yang harus dipercaya karena di dunia di mana orang-orang lebih tertarik pada Reddit dan Quora, hal ini mungkin sedikit aneh. Di dunia di mana masyarakat tidak mempercayai media tradisional—dan memang tidak demikian—institusi tersebut telah kehilangan begitu banyak kepercayaan.

Dan kami benar-benar tidak membutuhkan AI untuk mewujudkannya.

Persis seperti itulah keadaannya. Jadi menurut saya sekarang adalah kesempatan bagi kita untuk menemukan cara, dan ada banyak preseden sejarah. Mesin cetak memperkenalkan berbagai cara luar biasa bagi orang untuk bertindak seperti penipu, dan Anda tidak perlu kembali sejauh itu. Kami mempelajari sekelompok orang yang menjual skema Ponzi awal. Ada begitu banyak penipuan keuangan di akhir abad ke-19/awal abad ke-20. Ada banyak sekali penipuan finansial karena orang hanya bisa mencetak sekuritas palsu dan menjualnya, dan tidak ada cara untuk memverifikasinya. Dan rupanya, sekarang ada cara baru yang menakjubkan agar kita dapat mencapai sesuatu. Pada dasarnya, saya tidak pernah berbicara tentang blockchain, tetapi menurut saya blockchain akan berfungsi sebagai sarana untuk menyimpan catatan resmi tentang banyak hal, tempat yang tidak dapat dirusak.

Apa pendapat Anda mengenai risiko jangka panjang terhadap AI, risiko eksistensial yang dibicarakan oleh orang-orang seperti Jeff Hinton dan Eliezer Yudkowsky?

Risiko eksistensial memiliki dua bagian. Yang pertama adalah, apakah mesin ini tanpa disadari akan melakukan sesuatu yang buruk—apakah kita sedang membangun sesuatu yang akan melakukan sesuatu yang sangat buruk dengan sendirinya? Dan itu menimbulkan masalah keselarasan. Risiko sebenarnya dari semua ini bukanlah suatu mesin terbangun suatu hari dan berkata: Aku akan membunuh mereka semua. Teori masalah kepatuhan pada dasarnya mengatakan bahwa kita harus mengkhawatirkan konsekuensi yang tidak diinginkan karena kita (manusia) mungkin tidak sepenuhnya menghargai apa yang kita lakukan.

Lalu ada aktor jahat. Dan hal ini menurut saya juga disalahpahami karena kekhawatiran sebenarnya tentang aktor jahat menurut saya bukanlah aktor jahat dengan sumber daya yang tinggi. Saya tidak menghabiskan waktu mengkhawatirkan AI Korea Utara. Mereka sudah mempunyai banyak alat untuk menjadi pelaku kejahatan, dan kenyataannya kita semakin baik dalam mengelola pelaku kejahatan dengan sumber daya yang tinggi setiap saat. Masalah dengan aktor jahat yang sumber dayanya rendah adalah risiko. Di dunia di mana kita mendorong semua orang untuk melakukan hal-hal menarik dengan teknologi ini, kita perlu menciptakan banyak tindakan hukuman untuk mengendalikan perilaku buruk dengan teknologi ini. Kita perlu membuat pelaku kejahatan takut menggunakan AI untuk melakukan hal-hal buruk – kejahatan finansial, pemalsuan besar-besaran, dll.

Dan ini adalah sesuatu yang dapat kami lakukan dengan sangat mudah, seperti yang kami lakukan pada pencurian surat. Kita bisa berkata, hei, kita telah membangun sistem yang sangat rapuh, dan jika kita membiarkan orang mencuri surat, perdagangan dalam negeri akan runtuh. Kita harus menjadikannya sebuah kejahatan.

Apa yang perlu dilakukan untuk mengatasi risiko-risiko ini dalam lima tahun ke depan?

Kita perlu mencoba mencari cara untuk menghasilkan standar internasional yang menjadi dasar pengukuran semua model, dan perusahaan yang menggunakan model yang tidak memenuhi ukuran ini akan dikenakan sanksi. Kami hanya perlu memastikan semua orang mematuhi standar kepatuhan.

Yang kedua adalah standar penjelasan. Harapan bahwa suatu model dapat dijelaskan dengan sempurna pada dasarnya berbahaya karena ada banyak hal dalam model yang tidak dapat dijelaskan. Namun kita perlu menetapkan standar dimana tugas-tugas yang memerlukan penjelasan memenuhi standar penjelasan. Misalnya, jika ingin menggunakan model untuk menulis polis asuransi, harus memenuhi standar penjelasan.

Dan hal ketiga adalah akting yang buruk: kita hanya perlu mempersulit aktor yang memiliki sumber daya rendah untuk menggunakan hal-hal ini. Pasar akan memahami dirinya sendiri. Menurut saya, Eropa akan mengalami krisis ekonomi yang sangat serius dalam waktu dekat, karena mereka telah menerapkan serangkaian kebijakan yang sangat aneh sehingga saya tidak tahu apakah kebijakan tersebut sangat melindungi konsumen karena kebijakan tersebut hanya memberikan alasan bagi pembuat kebijakan. mari kita rayakan. Jika kita bisa melakukan hal ini dengan benar, pasar akan berperilaku sesuai dengan kepentingan kita, para konstituen.

Apakah perintah eksekutif Biden mengenai kecerdasan buatan konstruktif?

Itu dibawa pada saat pada dasarnya tidak ada seorang pun yang mengerjakannya tahu banyak tentang apa yang mereka bicarakan. Jadi, hal ini bukanlah sekadar basa-basi, melainkan tidak benar-benar mengubah perilaku. Jadi salah satu penyebabnya adalah, Anda tahu, apakah Anda melakukan ini hanya untuk menenangkan pemilih?

Banyak orang di Kongres memiliki perspektif bahwa “kita ketinggalan dalam hal media sosial dan tentu saja kita tidak ingin ketinggalan lagi dalam hal AI.”

Setiap kemajuan ada harganya. . . biaya media sosial, biaya internet cukup tinggi. Dampak media sosial bagi anak-anak sangatlah buruk. Sekarang ini juga merupakan sesuatu yang kita sebagai individu identifikasi dan kerjakan. Membuat kebijakan mengenai hal-hal ini mempunyai potensi konsekuensi yang sangat berbahaya yang tidak dapat Anda hilangkan – konsekuensi ekonomi, konsekuensi besar terhadap pembelajaran dan pembangunan. Pemerintah bukannya “ketinggalan kebijakan” di media sosial. Mereka hanya tidak memperhatikan. Dan tidak ada seorang pun yang membahas hal ini dengan mata terbuka lebar karena tidak ada seorang pun di Kongres, jika Anda ingat, yang tahu apa pun tentang apa itu Internet. Jadi pada dasarnya Anda membawa Mark Zuckerberg ke atas panggung di depan sekelompok orang yang berkata, “Saya tidak tahu.”

Saya menulis tentang RUU AI California yang diveto oleh gubernur. Apa pendapat Anda tentang pendekatan itu?

Saya mendukung penuh regulasi AI. Saya tidak meminta ini menjadi Wild West. Ini adalah teknologi terpenting yang akan kita bangun dalam hidup kita, mungkin selain teknologi kuantum. Benar-benar menakutkan ketika orang-orang merayakan politik demi politik, terutama jika hal tersebut mengorbankan kemajuan yang bisa memperbaiki masyarakat. Karena Anda mungkin akan menemukan banyak kemajuan di sisi lain dari hal ini. Dan ini tidak panas, karena itulah manfaat teknologi bagi dunia. Orang-orang menghabiskan begitu banyak waktu terpaku pada apa yang akan dilakukan pemerintah untuk menyelesaikan masalah mereka sehingga mereka lupa bahwa teknologi pada dasarnya melakukan semua hal yang dijanjikan kepada kita. Tahukah Anda, utopia yang kita bangun dalam pikiran kita benar-benar bisa menjadi kenyataan. Saya rasa mereka akan melakukan hal tersebut, karena manfaatnya, dan bukan karena intervensi pemerintah, namun karena kemajuan teknologi; karena apa yang dapat dilakukan manusia hari ini tidak ada apa-apanya jika dibandingkan dengan apa yang dapat dilakukan manusia (besok).

Lebih banyak cakupan AI dari Perusahaan Cepat:

Ingin pelaporan eksklusif dan analisis tren tentang teknologi, inovasi bisnis, masa depan dunia kerja, dan desain? Mendaftar untuk Perusahaan yang cepat Premi.

Source link

ARTIKEL TERKAITDARI PENULIS