Baik itu asisten virtual di ponsel kita, chatbot yang menyediakan layanan pelanggan bank Dan toko pakaiansalah satu peralatan Seperti ChatGPT dan Claude, yang membuat beban kerja sedikit lebih ringan, kecerdasan buatan dengan cepat menjadi bagian dari kehidupan kita sehari-hari. Kita cenderung berasumsi bahwa robot kita tidak lebih dari sekedar mesin, bahwa mereka tidak memiliki pemikiran spontan atau orisinal, dan tentunya tidak memiliki perasaan. Tampaknya konyol membayangkan sebaliknya. Namun akhir-akhir ini, itulah yang diminta oleh para pakar AI untuk kita lakukan.
Eleos AI, sebuah organisasi nirlaba yang berdedikasi untuk mengeksplorasi kemungkinan perasaan (atau perasaan) dan kesejahteraan AI, meluncurkan a laporan pada bulan Oktober dalam kemitraan dengan Pusat Pikiran, Etika, dan Kebijakan Universitas New York, yang bertajuk “Menanggapi Kesejahteraan AI dengan Serius.” Di dalamnya, mereka menyatakan bahwa pencapaian kesadaran oleh AI adalah sesuatu yang benar-benar bisa terjadi dalam waktu yang tidak terlalu lama lagi, sekitar satu dekade dari sekarang. Oleh karena itu, menurut mereka, kita mempunyai keharusan moral untuk mulai berpikir serius mengenai kesejahteraan entitas-entitas ini.
Saya setuju dengan mereka. Jelas bagi saya dari laporan tersebut bahwa, tidak seperti batu atau sungai, sistem AI akan segera memiliki karakteristik tertentu yang akan membuat kesadaran di dalamnya lebih mungkin terjadi: kemampuan seperti persepsi, perhatian, pembelajaran, memori, dan perencanaan.
Meski begitu, saya juga mengerti keraguan. Gagasan bahwa setiap entitas non-organik mempunyai pengalaman subyektifnya sendiri adalah hal yang menggelikan bagi banyak orang karena kesadaran diyakini hanya dimiliki oleh makhluk berbasis karbon. Namun seperti yang diungkapkan oleh penulis laporan tersebut, hal ini lebih merupakan sebuah keyakinan daripada fakta yang dapat dibuktikan: hanya sebuah jenis teori kesadaran. Beberapa teori menyiratkan bahwa bahan biologis diperlukan, teori lain menyiratkan bahwa bahan biologis diperlukan, dan saat ini kita tidak memiliki cara untuk mengetahui secara pasti mana yang benar. Kenyataannya adalah munculnya kesadaran dapat bergantung pada struktur dan organisasi suatu sistem, bukan pada komposisi kimia spesifiknya.
Konsep sentral yang ada dalam percakapan tentang perasaan AI adalah konsep klasik di bidang filsafat etika: gagasan “lingkaran moral”, yang menjelaskan jenis-jenis makhluk yang kami pertimbangkan secara etis. Ide tersebut digunakan untuk menggambarkan siapa dan apa yang penting bagi seseorang atau masyarakat, atau, setidaknya, siapa yang harus peduli. Secara historis, hanya manusia yang dimasukkan, namun seiring berjalannya waktu, banyak masyarakat yang memasukkan beberapa hewan ke dalam kelompok, terutama hewan peliharaan seperti anjing dan kucing. Namun, banyak hewan lain, seperti hewan yang dipelihara di industri pertanian seperti ayam, babi, dan sapi, sebagian besar masih dikecualikan.
Banyak filsuf dan organisasi yang berdedikasi pada studi kesadaran AI berasal dari bidang studi hewan dan pada dasarnya berpendapat bahwa pemikiran tersebut harus diperluas ke entitas non-organik, termasuk program komputer. Jika ada kemungkinan realistis bahwa sesuatu dapat menyebabkan seseorang menderita, maka kita akan lalai secara moral jika kita tidak secara serius mempertimbangkan bagaimana kita dapat menghindari penderitaan tersebut.
Lingkaran moral yang meluas memerlukan konsistensi etika dan mempersulit terciptanya pengecualian berdasarkan prasangka budaya atau pribadi. Dan saat ini, hanya prasangka itulah yang memungkinkan kita mengabaikannya kemungkinan AI yang cerdas. Jika kita konsisten secara moral dan peduli untuk meminimalkan penderitaan, maka kepedulian tersebut harus diperluas ke banyak makhluk lain, termasuk serangga, mikroba dan mungkin sesuatu di komputer masa depan kita.
Sekalipun kecil kemungkinan AI dapat mengembangkan kesadaran, ada banyak kemungkinan seperti itu”hewan digital“Harus dikatakan bahwa dampaknya sangat besar. Jika setiap ponsel, laptop, asisten virtual, dll. Jika suatu hari nanti hal tersebut mempunyai pengalaman subyektifnya sendiri, mungkin ada milyaran entitas yang mengalami rasa sakit di tangan manusia, sementara banyak dari kita berasumsi bahwa hal ini tidak mungkin terjadi. Ini bukan pertama kalinya orang menghadapi dilema etika dengan mengatakan pada diri mereka sendiri dan orang lain bahwa mereka adalah korban dari praktik mereka Saya tidak bisa mengalaminya hal-hal sedalam Anda atau saya.
Karena semua alasan ini, para pemimpin di perusahaan teknologi seperti OpenAI dan Google harus mulai memperhatikan potensi kesejahteraan dari kreasi mereka dengan serius. Ini bisa berarti menyewa seorang peneliti kesehatan AI Dan mengembangkan kerangka kerja untuk memperkirakan kemungkinan sensitivitas dalam kreasi mereka. Jika sistem AI berevolusi dan memiliki tingkat kesadaran tertentu, penelitian akan menentukan apakah kebutuhan dan prioritas mereka serupa atau berbeda dengan kebutuhan dan prioritas manusia dan hewan, dan hal ini akan memberikan masukan mengenai pendekatan yang harus kita ambil dalam melindungi mereka.
Mungkin akan tiba saatnya di masa depan ketika kita telah menerima bukti secara luas bahwa robot benar-benar dapat berpikir dan merasakan. Namun jika kita menunggu untuk mempertimbangkan ide tersebut, bayangkan semua penderitaan yang akan terjadi pada saat itu. Saat ini, dengan AI yang berada pada tahap yang menjanjikan namun masih dalam tahap awal, kita memiliki peluang untuk mencegah potensi masalah etika sebelum masalah tersebut berkembang lebih jauh. Mari manfaatkan kesempatan ini untuk membangun hubungan dengan teknologi yang tidak akan kita sesali. Untuk berjaga-jaga.
Brian Kateman adalah salah satu pendiri Reducetarian Foundation, sebuah organisasi nirlaba yang didedikasikan untuk mengurangi konsumsi masyarakat terhadap produk hewani. Buku dan dokumenter terbarunya adalah “Daging bersamaku di tengah jalan.”