Mengapa kemajuan AI tidak merata? Pendiri a16z dan Replit: Verifiabilitas adalah perbedaan kunci

Pendiri perusahaan ventura terkenal a16z, Marc Andreessen, dan pendiri Replit, Amjad Masad, mengadakan diskusi pada 10/25, berfokus pada perkembangan AI saat ini. Andreessen menunjukkan bahwa kemajuan AI dalam pengkodean, menghitung, dan mensimulasikan fenomena fisik sangat mengagumkan, tetapi ada stagnasi di bidang medis dan hukum. Masad menjawab bahwa kuncinya bukan pada kesulitan, melainkan pada verifikasi. Dengan kata lain, tugas yang dapat dinilai secara objektif kemajuannya paling cepat, sedangkan bidang yang semakin kabur semakin sulit untuk ditembus.

AI memiliki dua kecepatan: yang dapat diverifikasi lebih cepat daripada siapa pun.

Masad kembali melihat cara pelatihan model, model bahasa awal hanya melihat teks dan kemudian menebak karakter berikutnya, meskipun dapat berbicara, tetapi tidak benar-benar melakukan penalaran. Sampai diperkenalkannya pembelajaran penguatan (Reinforcement Learning, RL), AI baru mulai belajar di lingkungan yang dapat diverifikasi. Dia menjelaskan:

“Seperti bug pemrograman, memiliki unit test, atau masalah yang dapat menghasilkan hasil yang jelas, AI dapat langsung mengetahui apakah dirinya benar atau salah.”

Metode pelatihan umpan balik instan ini memungkinkan AI untuk dengan cepat meningkatkan kemampuan pemecahan masalah.

Mengapa bidang medis dan hukum tidak dapat mengejar?

Andreessen bertanya: “Lalu bagaimana dengan bidang medis dan hukum? Mengapa tampak kemajuannya begitu lambat dan ada fenomena stagnasi?” Masad menjawab:

“Karena mereka, tidak ada jawaban yang tunggal.”

Sebagai contoh, diagnosis medis mungkin memiliki banyak penyebab dan variasi dalam perjalanan penyakit, dan keputusan hukum juga berbeda karena perbedaan hakim dan kasus, yaitu terlalu fleksibel, tanpa jawaban standar yang jelas. Hal ini membuat model sulit untuk memverifikasi dirinya sendiri dan tidak dapat membangun siklus penguatan.

Meskipun, model dapat dibantu melalui pembelajaran penguatan umpan balik manusia (RLHF), itu masih merupakan penilaian subjektif, tidak sejelas matematika atau program.

(Catatan: Pembelajaran penguatan berbasis umpan balik manusia (RLHF) adalah suatu teknik pembelajaran mesin (ML), yang menggunakan umpan balik manusia untuk menyempurnakan model ML, guna meningkatkan efisiensi pembelajaran mandiri.

Kunci sebenarnya bukanlah “kesulitan” tetapi “keterverifikasian”

Andreessen mengamati dan mengatakan: “Jadi intinya bukan pada seberapa sulit masalahnya, tetapi apakah kita bisa mengonfirmasi jawaban yang benar?” Masad menyatakan:

“Ya, ledakan AI dalam pemrograman dan matematika bukan karena itu lebih sederhana, tetapi karena bisa memverifikasi hasil.”

Misalnya, saat menulis program, selama program dapat dikompilasi dan pengujian dapat lulus, AI dapat segera mendapatkan umpan balik “jawaban benar”, yang memungkinkan model untuk secara otomatis menjalankan ribuan latihan setiap hari dan berkembang dengan cepat.

Bidang apa lagi yang memiliki verifikasi?

Dua orang mencantumkan beberapa bidang di mana AI berkembang paling cepat:

Matematika dan Fisika: Ada persamaan yang jelas dan hasil simulasi.

Kimia dan biologi: seperti lipatan protein, urutan gen, dapat divalidasi melalui percobaan atau simulasi.

Robot: Keberhasilan atau kegagalan misi dapat diukur secara langsung.

Ini semua termasuk dalam bidang “dapat diverifikasi secara objektif”, sehingga menjadi tempat kurva pembelajaran paling curam bagi AI saat ini.

AI untuk pemrograman akan segera melesat, sementara hukum medis masih dalam perjalanan.

Masad menyatakan saat merangkum pandangan:

“AI yang menulis program akan terbang tinggi terlebih dahulu, diikuti dengan matematika, fisika, dan kimia. Namun, untuk bidang yang lebih abstrak seperti kesehatan dan hukum, itu masih perlu dikejar perlahan.”

Andreessen juga menyetujui:

“Ini adalah fenomena alam. AI akan meledak terlebih dahulu di tempat-tempat yang dapat diukur, dan akan sedikit terlambat di bidang-bidang di mana penilaian manusia tidak jelas.”

Mengapa kemajuan AI tidak merata? a16z, pendiri Replit: Verifiabilitas adalah perbedaan kunci. Pertama kali muncul di Chain News ABMedia.