Pada hari Minggu, salah satu pendiri dan CEO OpenAI Sam Altman menerbitkan postingan blog berjudul Refleksi tentang kemajuan perusahaannya—dan perkembangan pesatnya—selama sembilan tahun pertama berdirinya. Kata-kata Altman penting karena OpenAI memiliki peluang yang sangat besar untuk mencapai AGI, atau kecerdasan umum buatan (mesin yang umumnya sama pintar atau lebih pintar dari manusia), dan kemudian berkembang ke sistem superintelligent (yang jauh lebih pintar dari manusia). Dan sistem ini, jika diterapkan di dunia nyata, dapat berdampak besar pada kita semua. Namun, komentar Altman mungkin dapat menjelaskan transisi ini dengan konteks tambahan.
Pertama, blog tersebut dipicu oleh wawancara yang dilakukan Altman baru-baru ini Bloomberg. Menurut Bloomberg, tim hubungan masyarakat OpenAI mengusulkan sebuah wawancara di mana Altman akan “merefleksikan dua tahun terakhir, merenungkan beberapa peristiwa dan keputusan, untuk mengklarifikasi beberapa hal.”
Sam Altman mengatakan OpenAI telah beralih ke model “paradigma berikutnya”.
Altman sepertinya mengacu pada model baru o1 dan o3 model, yang menggunakan pendekatan kecerdasan berbeda dari model sebelumnya yang mendukung ChatGPT. Model-model sebelumnya mengandalkan data pelatihan dan daya komputasi dalam jumlah besar selama pra-pelatihan. Namun o1 dan o3 menerapkan lebih banyak daya komputasi pada “waktu penguncian” (atau “waktu pengujian”) maka model tersebut sebenarnya menangani masalah yang kompleks bagi pengguna.
Bagaimana ChatGPT muncul
Sam Altman menjelaskan menjelang peristiwa yang mengubah segalanya untuk OpenAI, di peluncuran publik chatbot ChatGPT pada tanggal 30 November 2022. “Kami menyaksikan orang-orang menggunakan fitur taman bermain di API kami dan mengetahui bahwa pengembang sangat senang berbicara dengan model tersebut,” tulis Altman. “Kami pikir membuat demo berdasarkan pengalaman itu akan menunjukkan kepada orang-orang sesuatu yang penting untuk masa depan dan membantu kami membuat model kami lebih baik dan lebih aman.” Fitur taman bermain yang dia maksud pada saat itu disebut “Percakapan GPT-3.5”. Dia memberitahu BloombergJosh Tyrangiel dalam sebuah wawancara baru mengatakan “seluruh perusahaan berpikir, ‘Mengapa Anda memaksa kami meluncurkan ini?’ Itu keputusan yang buruk. Ini belum siap.’ “Saya tidak banyak mengambil keputusan ‘kita akan melakukan ini’, tapi ini adalah salah satunya.”
Altman melihat dunia melalui sudut pandang seorang wirausaha
Menariknya, efek pertama dari ledakan ChatGPT yang disebutkan Altman adalah pada pertumbuhan dan imbalan finansial. “Peluncuran ChatGPT telah memulai kurva pertumbuhan yang belum pernah kita lihat sebelumnya. . . Kami akhirnya melihat beberapa keuntungan besar. . .” mempelajari ilmu komputer– termasuk kecerdasan buatan – sebagai seorang sarjana, tetapi dia bukan peneliti AI. Beliau menghabiskan sebagian besar karirnya sebagai ahli di bidang pembiayaan dan pengembangan startup teknologi. Dia adalah presiden Y Combinator, akselerator startup bergengsi, dari tahun 2014 hingga 2019.
Altman memberikan beberapa konteks seputar pemecatannya pada November 2023
Setelah Altman penembakan tiba-tibaDewan direksi OpenAI menyebutkan masalah kepercayaan dan kekhawatiran tentang cara CEO menangani langkah-langkah keamanan AI. Anggota dewan Helen Toner (seorang pakar keamanan AI) mengatakan bahwa Altman memberikan informasi yang salah tentang proses keamanan dan tidak memberi tahu dewan sebelum memulai ChatGPT. (Karyawan dan VC yang memiliki kepentingan finansial di perusahaan memberontak, dan Altman dengan cepat diangkat kembali sebagai CEO.) Altman mengatakan kekacauan tersebut sebagian disebabkan oleh perubahan cepat yang terjadi di perusahaan pada saat itu. “Kami harus membangun keseluruhan perusahaan hampir dari awal (di sekitar ChatGPT). . .” dia menulis. “Bergerak dengan kecepatan di perairan yang belum dipetakan adalah pengalaman yang luar biasa, namun juga sangat menegangkan bagi semua pemain. . . banyak konflik dan kesalahpahaman. . . Ia menambahkan bahwa dua tahun terakhir telah menjadi “tahun paling tidak menyenangkan dalam hidup saya sejauh ini.”
Altman mengatakan dewan lama dan dirinya sendiri yang harus disalahkan
Altman menyebut mantan anggota dewan, termasuk pendiri OpenAI dan dalang AI Ilya Sutskever, mempunyai niat baik, dan bertanggung jawab atas ledakan November 2023. Namun dia juga menyiratkan bahwa mantan dewan direksi tidak memiliki perspektif untuk mengelola perusahaan dengan teknologi, tantangan, dan tujuan OpenAI yang unik. “Dalam pandangan saya, keseluruhan peristiwa ini merupakan kegagalan besar dalam tata kelola pemerintahan yang dilakukan oleh orang-orang yang mempunyai niat baik, termasuk saya sendiri. . . Saya juga belajar pentingnya dewan dengan beragam sudut pandang dan pengalaman luas dalam mengelola tantangan yang kompleks. . .”
Warna baru kembalinya Altman sebagai CEO
Bagian terpanjang dari blog ini adalah catatan kaki tentang investor legendaris Ron Conway dan pendiri AirBnB Brian Chesky, keduanya merupakan teman lama Altman. Kisah lengkap tentang apa yang terjadi di balik layar setelah Altman dipecat tidak pernah dipublikasikan secara detail. Namun Altman berpendapat bahwa Conway dan Chesky mungkin telah melakukan lebih dari sekadar “mendukung dan memberi nasihat”.
“Saya cukup yakin bahwa OpenAI akan runtuh tanpa bantuan mereka.” . .” “Mereka menggunakan jaringan mereka yang luas untuk apa pun yang diperlukan dan mampu menavigasi situasi yang sangat kompleks.” Conway dan Chesky mungkin berperan dalam mengumpulkan karyawan dan investor OpenAI di sekitar Altman dan melawan dewan yang memecatnya.
Sam Altman mencoba menjelaskan “brain drain” di OpenAI
Ini mungkin pertanyaan besar kedua yang diharapkan dapat dipecahkan oleh OpenAI Bloomberg wawancara – semakin banyak orang pintar yang meninggalkan OpenAI selama setahun terakhir, termasuk CTO Mira Murati dan salah satu pendiri Ilya Sutzkever. “Tim cenderung berpindah seiring dengan skalanya, dan OpenAI berkembang sangat cepat. . . “Di OpenAI, jumlahnya meningkat berkali-kali lipat setiap beberapa bulan,” tulis Altman. “Ketika sebuah perusahaan tumbuh dan berkembang begitu cepat, kepentingan secara alami berbeda.” Altman menyarankan bahwa para peneliti secara alami akan keluar seiring dengan perubahan prioritas penelitian perusahaan. Ada benarnya hal itu. Dan prioritas penelitian OpenAI mengalami perubahan besar pada tahun 2024 dengan model o1.
Mengapa produk dan pertumbuhan baru sangat penting bagi OpenAI
Ketika tujuan utama penelitian AI adalah untuk mencari tahu caranya menerapkan lebih banyak daya komputasi bagi model AI, menjadi startup AI adalah bisnis yang sangat padat modal. Para pendiri OpenAI tidak menyangka hal itu akan terjadi, kata Altman. OpenAI dan investornya telah menghabiskan miliaran daya komputasi untuk melatih dan mengoperasikan model AI terdepan. Mereka menghabiskan lebih banyak uang untuk memperoleh data pelatihan baru. Di masa depan, upaya OpenAI untuk mencapai superintelligence akan memerlukan kelompok server yang jauh lebih besar dan belanja modal yang lebih besar untuk mencari dan membeli listrik yang diperlukan untuk menggerakkan server tersebut. “Ada hal-hal baru yang perlu kita bangun sekarang yang tidak kita pahami beberapa tahun lalu, dan akan ada hal-hal baru di masa depan yang hampir tidak dapat kita bayangkan sekarang,” tulis Altman.
OpenAI yakin mereka tahu cara membangun AGI
Altman berpendapat bahwa perusahaannya telah mengembangkan sistem yang dapat disebut sebagai AGI, atau sistem tersebut sepenuhnya berada dalam lingkupnya. Dia mengacu pada sistem “agen” yang dapat melakukan penalaran melalui tugas-tugas kompleks dan mengendalikan sistem eksternal. Namun, penting untuk dicatat bahwa OpenAI mengubah definisi AGI pada tahun 2018. Awalnya, perusahaan mendefinisikannya sebagai sistem dengan kekuatan untuk belajar dan berpikir tentang pikiran manusia. Sekarang piagam mendefinisikan AGI sebagai “sistem yang sangat otonom yang mengungguli manusia dalam pekerjaan yang paling bernilai ekonomi…”
Keunggulan OpenAI berikutnya adalah kecerdasan super
“Superintelligence” berarti sistem yang memiliki kecerdasan jauh lebih besar daripada manusia dalam berbagai bidang. Meskipun AGI dapat membuat perbedaan besar dalam hal produktivitas manusia, kecerdasan super dapat memberikan jawaban terhadap permasalahan yang saat ini tidak dapat dipecahkan oleh manusia (misalnya pengobatan kanker). “Peralatan super cerdas dapat mempercepat penemuan dan inovasi ilmiah jauh melampaui kemampuan kita sendiri, dan pada gilirannya secara besar-besaran meningkatkan kelimpahan dan kemakmuran,” tulis Altman. Namun hal ini juga berarti awal dari sebuah era di mana manusia tidak lagi menjadi entitas terpintar di lingkungan kita.
