Menurut Yoshua Bengio, teknologi bisa menjadi lebih pintar dari manusia dan pada akhirnya akan mengambil alih
Perkembangan pesat kecerdasan buatan (AI) dapat menimbulkan risiko serius bagi umat manusia karena semakin sulit dikendalikan, demikian peringatan ilmuwan komputer Yoshua Bengio.
Bengio, seorang profesor di Universitas Montreal dan kepala Institut Algoritma Pembelajaran Montreal, mengatakan kepada CNBC pada hari Kamis bahwa mesin akan segera memiliki sebagian besar kemampuan kognitif manusia.
Ilmuwan tersebut mengacu pada kecerdasan umum buatan (AGI), sejenis teknologi AI yang bertujuan untuk menyamai atau meningkatkan kecerdasan manusia. “Kebijaksanaan memberi kekuatan. Jadi, siapa yang akan mengendalikan kekuatan itu?” kata Benzio.
“Jika kita menciptakan makhluk yang lebih pintar dari kita dan mempunyai tujuan masing-masing, apa artinya bagi umat manusia? Apakah kita dalam bahaya?” dia bertanya.
Ilmuwan komputer menyebutkan ketakutan umum bahwa mesin AI saat ini sedang dilatih “Akan mengarah pada sistem yang merugikan manusia.”
Dia mencatat bahwa sejumlah perusahaan dan pemerintah dapat membangun mesin AI yang kuat dan mahal. Hal ini akan menyebabkan terkonsentrasinya kekuatan ekonomi, politik dan militer, yang pada akhirnya akan mengancam stabilitas geopolitik global, ia memperingatkan.
“Ada orang-orang yang ingin menyalahgunakan kekuasaan tersebut, dan ada orang-orang yang mungkin senang melihat umat manusia digantikan oleh mesin,” Katanya, menyerukan peraturan yang lebih ketat.
Menurut ilmuwan komputer, AI memimpin pengembang dan perusahaan yang bersaing satu sama lain untuk mendominasi teknologi global. “Perlombaan Menuju Bahaya” Dan harus bertanggung jawab atas tindakan mereka.
Bengio terkenal karena karya pionirnya dalam pembelajaran mendalam, yang membuatnya memenangkan Hadiah Turing AM 2018, yang dikenal sebagai ‘Hadiah Nobel Komputasi’, bersama dengan ilmuwan Geoffrey Hinton dan Ian LeCun. Pada tahun 2019, ia dianugerahi Killam Prize dan pada tahun 2022 menjadi ilmuwan komputer dengan pengaruh tertinggi di dunia yang diukur dengan H-Index.
Dalam beberapa tahun terakhir, tokoh-tokoh terkemuka di industri teknologi telah menyatakan keprihatinannya mengenai potensi bahaya dari penerapan teknologi AI yang tidak terkendali.
Hinton, yang dipandang sebagai pelopor AI, telah memperingatkan bahwa dunia bisa menghadapi bencana besar sebelum penggunaan senjata AI diatur dengan benar.
Bengio termasuk di antara tokoh industri terkemuka, termasuk CEO Tesla Elon Musk dan salah satu pendiri Apple Steve Wozniak, yang ikut menandatangani surat tahun lalu yang menyerukan regulasi agresif di sektor AI. Pada bulan Juni, dia menyetujui surat terbuka lainnya tentang teknologi tersebut “Risiko serius.” Surat tersebut ditandatangani oleh karyawan OpenAI, pembuat chatbot AI yang sedang viral, ChatGPT.
Anda dapat membagikan cerita ini di media sosial:
