Pendiri perusahaan kecerdasan buatan memiliki reputasi untuk membuat klaim berani tentang potensi teknologi untuk merombak bidang-bidang tertentu, khususnya dalam ilmu pengetahuan. Namun, Thomas Wolf, salah satu pendiri dan kepala ilmuwan Hugging Face, memiliki pandangan yang lebih terukur.
Dalam sebuah esai yang diterbitkan di X pada hari Kamis, Wolf mengungkapkan ketakutannya bahwa AI menjadi 'pendukung' di server tanpa adanya terobosan dalam penelitian AI. Dia menjelaskan bahwa paradigma pengembangan AI saat ini tidak akan menghasilkan AI yang mampu berpikir kreatif di luar kebiasaan - jenis pemecahan masalah yang memenangkan Nobel.
'Kesalahan utama yang biasanya dilakukan orang adalah berpikir bahwa Newton atau Einstein hanyalah mahasiswa yang sangat baik jika diperbesar, bahwa seorang jenius lahir saat Anda memperkirakan top 10% mahasiswa,' tulis Wolf. 'Untuk menciptakan seorang Einstein di pusat data, kita tidak hanya membutuhkan sistem yang tahu semua jawaban, tetapi yang bisa bertanya pertanyaan yang belum pernah dipikirkan oleh orang lain atau yang belum pernah berani untuk ditanya.'
Klaim Wolf berbeda dengan pandangan CEO OpenAI Sam Altman, yang dalam sebuah esai tahun ini mengatakan bahwa AI 'superinteligensia' bisa 'mempercepat penemuan ilmiah secara besar-besaran.' Demikian pula, CEO Anthropic Dario Amodei telah meramalkan bahwa AI bisa membantu merumuskan obat untuk sebagian besar jenis kanker.
Permasalahan Wolf dengan AI saat ini - dan ke mana ia berpikir teknologi tersebut akan menuju - adalah bahwa AI tidak menghasilkan pengetahuan baru dengan menghubungkan fakta-fakta yang sebelumnya tidak terkait. Meskipun memiliki sebagian besar internet, AI sebagaimana kita pahami saat ini sebagian besar hanya mengisi celah antara apa yang sudah diketahui manusia, kata Wolf.
Beberapa ahli AI, termasuk mantan insinyur Google François Chollet, telah mengungkapkan pandangan yang serupa, berpendapat bahwa meskipun AI mungkin mampu mengingat pola penalaran, kemungkinan besar tidak dapat menghasilkan 'penalaran baru' berdasarkan situasi-situasi baru.
Wolf berpikir bahwa laboratorium AI saat ini membangun apa yang pada dasarnya adalah 'siswa yang sangat patuh' - bukan revolusioner ilmiah dalam arti apa pun. Saat ini, AI tidak diincentivasi untuk bertanya dan mengusulkan ide-ide yang mungkin bertentangan dengan data latihannya, kata Wolf, membatasinya hanya pada menjawab pertanyaan yang sudah dikenal.
'Untuk menciptakan seorang Einstein di pusat data, kita tidak hanya membutuhkan sistem yang tahu semua jawaban, tetapi yang bisa bertanya pertanyaan yang belum pernah dipikirkan oleh orang lain atau yang belum pernah berani untuk ditanya,' kata Wolf. 'Satu yang menulis 'Bagaimana jika semua orang salah tentang ini?' ketika semua buku teks, ahli, dan pengetahuan umum menyarankan sebaliknya.'
Wolf berpendapat bahwa 'krisis evaluasi' dalam AI sebagian bertanggung jawab atas keadaan yang disenangkan ini. Ia menunjuk pada benchmark yang umum digunakan untuk mengukur peningkatan sistem AI, yang sebagian besar terdiri dari pertanyaan-pertanyaan yang memiliki jawaban yang jelas, jelas, dan 'berakhir tertutup.'
Sebagai solusi, Wolf menyarankan agar industri AI 'beralih ke ukuran pengetahuan dan penalaran' yang mampu menjelaskan apakah AI dapat mengambil pendekatan kontrafaktual yang berani, membuat proposal umum berdasarkan 'petunjuk kecil', dan bertanya pertanyaan-pertanyaan 'tidak jelas' yang mengarah pada 'jalur riset baru.'
Trikknya adalah mencari tahu seperti apa ukuran ini, mengakui Wolf. Tetapi dia berpikir bahwa ini bisa menjadi usaha yang sangat berharga.
'[Y]ang paling penting dari ilmu pengetahuan [adalah] keterampilan untuk bertanya pertanyaan yang tepat dan menantang bahkan apa yang telah dipelajari orang,' kata Wolf. 'Kita tidak memerlukan siswa AI A+ yang bisa menjawab setiap pertanyaan dengan pengetahuan umum. Kita memerlukan siswa B yang melihat dan mempertanyakan apa yang dilewati oleh semua orang lain.'
