Selama makan malam baru-baru ini dengan pemimpin bisnis di San Francisco, komentar yang saya buat membuat suasana ruangan menjadi dingin. Saya tidak mengajukan pertanyaan kepada teman makan saya yang saya anggap sangat tabu: apakah mereka berpikir AI saat ini suatu hari nanti bisa mencapai kecerdasan mirip manusia (yaitu AGI) atau lebih lagi.
Ini adalah topik yang lebih kontroversial daripada yang Anda kira.
Pada tahun 2025, tidak ada kekurangan CEO teknologi yang menawarkan argumen positif tentang bagaimana model bahasa besar (LLMs), yang menggerakkan chatbot seperti ChatGPT dan Gemini, bisa mencapai kecerdasan tingkat manusia atau bahkan super manusia dalam waktu dekat. Para eksekutif ini berpendapat bahwa AI yang sangat mampu akan membawa manfaat masyarakat yang luas - dan didistribusikan secara luas.
Sebagai contoh, CEO Anthropic, Dario Amodei, menulis dalam sebuah esai bahwa AI yang sangat kuat bisa muncul secepat tahun 2026 dan menjadi "lebih cerdas dari pemenang Nobel di sebagian besar bidang relevan." Sementara itu, CEO OpenAI Sam Altman baru-baru ini mengklaim bahwa perusahaannya tahu cara membangun AI "super cerdas," dan memprediksi bahwa hal itu dapat "mempercepat penemuan ilmiah secara masif."
Namun, tidak semua orang yakin dengan klaim optimis ini.
Pemimpin AI lainnya skeptis bahwa LLMs saat ini dapat mencapai AGI - apalagi superkecerdasan - kecuali adanya inovasi baru. Pemimpin-pemimpin ini sejarang mulai angkat bicara.
Dalam sebuah artikel bulan ini, Thomas Wolf, pendiri bersama dan kepala ilmuwan Hugging Face, menyebut beberapa bagian visi Amodei sebagai "berkhayal yang terbaik." Terinformasi oleh penelitiannya di bidang fisika statistik dan kuantum, Wolf berpendapat bahwa terobosan tingkat Nobel bukan berasal dari menjawab pertanyaan yang sudah diketahui - sesuatu yang AI sangat kuasai - tetapi dari bertanya pertanyaan yang tidak ada yang berpikir untuk ditanyakan.
Menurut pendapat Wolf, LLMs saat ini tidak cukup untuk tugas tersebut.
"Saya sangat ingin melihat 'model Einstein' ini ada, tetapi kita perlu mempelajari detail bagaimana mendapatkannya," kata Wolf kepada TechCrunch dalam sebuah wawancara. "Sekarang itulah yang mulai menarik."
Wolf mengatakan bahwa ia menulis artikel tersebut karena merasa terlalu banyak hype tentang AGI, dan tidak cukup evaluasi serius tentang bagaimana benar-benar mencapainya. Dia berpikir, sebagaimana keadaannya saat ini, ada kemungkinan nyata bahwa AI akan mengubah dunia dalam waktu dekat, tetapi tidak mencapai kecerdasan tingkat manusia atau superkecerdasan.
Banyak dunia AI telah terpesona oleh janji AGI. Mereka yang tidak percaya itu mungkin dikatakan sebagai "anti-teknologi," atau dalam kebencian dan kurang informasi.
Beberapa mungkin menilai Wolf sebagai pesimis atas pandangan ini, tetapi Wolf menganggap dirinya sebagai "optimis yang terinformasi" - seseorang yang ingin mendorong AI maju tanpa kehilangan pegangan pada kenyataan. Tentu saja, dia bukan pemimpin AI tunggal yang memiliki prediksi yang lebih konservatif tentang teknologi.
CEO Google DeepMind Demis Hassabis reportedly memberitahu stafnya bahwa, menurut pendapatnya, industri ini bisa sampai satu dekade lagi untuk mengembangkan AGI - mencatat ada banyak tugas yang tidak dapat dilakukan AI hari ini. Meta Chief AI Scientist Yann LeCun juga menyatakan keraguan tentang potensi LLMs. Berbicara di Nvidia GTC pada hari Selasa, LeCun mengatakan gagasan bahwa LLMs bisa mencapai AGI adalah "omong kosong," dan meminta arsitektur baru sepenuhnya untuk menjadi dasar bagi superkecerdasan.
Kenneth Stanley, peneliti utama OpenAI yang sekarang sudah mulai mencari detail tentang cara membangun AI canggih dengan model-model saat ini. Sekarang dia menjadi eksekutif di Lila Sciences, startup baru yang mengumpulkan $200 juta dalam modal ventura untuk membuka inovasi ilmiah melalui laboratorium-laboratorium otomatis.
Stanley menghabiskan waktunya mencoba mengekstrak ide-ide orisinal dan kreatif dari model-model AI, sebuah subbidang penelitian AI yang disebut sebagai keluwesan terbuka. Lila Sciences bertujuan menciptakan model-model AI yang bisa mengotomatisasi seluruh proses ilmiah, termasuk langkah pertama sekali - sampai pada pertanyaan dan hipotesis yang sangat baik yang pada akhirnya akan membawa terobosan.
"Saya agak ingin saya yang menulis [esai Wolf], karena itu benar-benar mencerminkan perasaan saya," kata Stanley dalam wawancara dengan TechCrunch. "Apa yang [dia] perhatikan adalah bahwa menjadi sangat berpengetahuan dan terampil tidak selalu mengarah pada memiliki ide yang benar-benar orisinal."
Stanley percaya bahwa kreativitas adalah langkah kunci dalam perjalanan menuju AGI, namun mencatat bahwa membangun model AI yang "kreatif" lebih mudah dikatakan daripada dilakukan.
Orang optimis seperti Amodei menunjuk ke metode seperti model "pemikiran" AI, yang menggunakan lebih banyak kekuatan komputasi untuk memeriksa kebenaran pekerjaan mereka dan menjawab pertanyaan tertentu lebih konsisten, sebagai bukti bahwa AGI tidak terlalu jauh. Namun, menciptakan ide-ide dan pertanyaan orisinal mungkin memerlukan jenis kecerdasan yang berbeda, kata Stanley.
"Jika Anda memikirkannya, berpikir hampir bertentangan dengan [kreativitas]," tambahnya. "Model pemikiran mengatakan, 'Inilah tujuan masalah, mari kita langsung menuju tujuan itu,' yang pada dasarnya menghentikan Anda dari opportunis dan melihat hal-hal di luar tujuan itu, sehingga Anda dapat kemudian bercabang dan memiliki banyak ide kreatif."
Untuk merancang model AI yang benar-benar cerdas, Stanley menyarankan kita perlu mereplikasi secara algoritmik selera subjektif manusia untuk ide-ide baru yang menjanjikan. Model-model AI saat ini tampil cukup baik di domain akademis dengan jawaban-jawaban yang jelas, seperti matematika dan pemrograman. Namun, Stanley menunjukkan bahwa jauh lebih sulit untuk merancang model AI untuk tugas-tugas yang lebih subjektif yang membutuhkan kreativitas, yang tidak selalu memiliki jawaban yang "benar".
"Orang menarik diri dari [subjektivitas] dalam ilmu pengetahuan - kata tersebut hampir beracun," kata Stanley. "Namun tidak ada yang mencegah kita untuk berurusan dengan subjektivitas [secara algoritmik]. Itu hanya bagian dari aliran data."
Stanley mengatakan dia senang bahwa bidang keluwesan terbuka mendapat lebih perhatian sekarang, dengan laboratorium penelitian khusus di Lila Sciences, Google DeepMind, dan startup AI Sakana sekarang bekerja pada masalah tersebut. Dia mulai melihat lebih banyak orang membicarakan kreativitas dalam AI, katanya - tetapi dia berpikir bahwa ada banyak pekerjaan yang harus dilakukan.
Wolf dan LeCun mungkin setuju. Panggil mereka realis AI, jika Anda mau: pemimpin AI yang mendekati AGI dan superkecerdasan dengan pertanyaan serius dan berlandaskan pada kemungkinannya. Tujuan mereka bukan untuk meremehkan kemajuan di bidang AI. Sebaliknya, tujuan mereka adalah untuk memulai percakapan besar-besaran tentang apa yang memisahkan model AI saat ini dengan AGI - dan superkecerdasan - dan untuk mengejar penghalang-penghalang tersebut.
