Sebuah Kisah Dua Anthropics

(SeaPRwire) –   Saya menghabiskan hari Rabu di sebuah ruang acara di London Timur yang dipadati oleh para pengembang. Acara tersebut adalah Code w/ Claude: acara pertama Anthropic yang berfokus pada pengembang di Eropa. Ini terasa seperti putaran kemenangan bagi perusahaan yang kabarnya kini tengah menggalang dana dengan valuasi $900 miliar—sebuah angka yang, jika akurat, akan melampaui valuasi rival utamanya, OpenAI. Di balik kebangkitan pesat Anthropic adalah para pengembang yang memadati aula London minggu ini, menyantap makan siang dan makan malam gratis, serta menerima komputer mini gratis. Para pengguna aktif (power users) ini menghabiskan jauh lebih banyak uang untuk Claude dibandingkan rata-rata orang. Dengan kata lain, mereka adalah urat nadi Anthropic, dan perusahaan memiliki insentif untuk membuat mereka terus kembali lagi.

Dalam satu hari yang diisi dengan presentasi utama (keynote) di dua panggung, para eksekutif Anthropic memaparkan begitu banyak detail teknis tentang bagaimana para pembuat kode (coder) sebaiknya menggunakan AI to meningkatkan produktivitas mereka. Suasana di dalam ruangan dipenuhi dengan antusiasme yang hampir tak terbendung. Boris Cherny, pencipta Claude Code, menyatakan bahwa AI telah membantunya terhubung kembali dengan perasaan ajaib yang pertama kali membuatnya tertarik pada pemrograman menggunakan kalkulator sekolah. Para pengembang yang saya temui berbicara tentang kebangkitan (renaissance) dalam pemrograman komputer, dengan lebih banyak peluang yang tersedia daripada orang yang dapat memanfaatkannya.

Hari itu menggambarkan Anthropic sebagai sebuah perusahaan produk. Hanya ada sedikit pembicaraan tentang risiko-risiko yang selama ini sangat gencar disuarakan oleh Anthropic di tempat lain. Di atas panggung, staf Anthropic menyinggung tentang laju kemajuan AI yang terus berlanjut—menampilkan banyak grafik yang mengarah ke atas dan ke kanan—tetapi sebagian besar dalam konteks mendorong para pengembang untuk memanfaatkan berbagai kemampuan Claude Code, alih-alih memitigasi risikonya. Ketika seorang peneliti Anthropic bertanya kepada hadirin berapa banyak dari mereka yang telah merilis kode yang ditulis oleh Claude bahkan tanpa membacanya terlebih dahulu, sejumlah besar orang yang mengejutkan mengangkat tangan mereka. “Itu permainan yang berbahaya,” katanya, disambut tawa gugup. Kemudian dia dengan cepat beralih membahas tentang bagaimana para pengembang dapat memaksimalkan penggunaan Claude.

Hari Kamis memberikan pengalaman yang sangat berbeda. Saya naik kereta ke Oxford University, tempat co-founder Anthropic, Jack Clark, dijadwalkan untuk memberikan kuliah umum. Clark adalah sosok yang menarik. Sebagian besar pekerjaannya selama bertahun-tahun melibatkan pengukuran, dan kemudian peringatan tentang, laju kemajuan AI serta berbagai risiko yang menyertainya. Kuliah umum ini tidak berbeda. Dia mengatakan AI memiliki peluang “bukan nol” (non-zero) untuk membunuh semua orang di planet ini, dan memperingatkan bahwa meskipun krisis total ini dapat dihindari, beberapa tahun ke depan akan membawa lebih banyak disrupsi daripada yang pernah dialami dalam ingatan manusia saat ini.

Clark memprediksi bahwa pada tahun 2028, atau mungkin lebih cepat, AI akan mencapai “peningkatan diri rekursif” (recursive self-improvement), atau mencapai kemampuan untuk meningkatkan dirinya sendiri—yang mengarah pada masa depan yang tidak dapat diprediksi. “Kita belum pernah menghadapi teknologi yang memiliki sifat seperti ini, di mana ia dapat membuat versi dirinya sendiri yang lebih baik tanpa campur tangan manusia,” katanya. Sebagian besar dunia sedang “menolak kenyataan” (in denial) tentang kemampuan model AI saat ini, kata Clark, apalagi model-model yang akan hadir dalam enam bulan ke depan.

Akan sangat mudah—dan menenangkan—untuk mengabaikan hal ini sebagai seorang eksekutif miliarder yang membesar-besarkan teknologinya sendiri demi kepentingan pribadi. Namun cara lain untuk menafsirkan kuliah umum ini, dan memang sebagian besar pekerjaan Anthropic sebagai sebuah perusahaan, adalah sebagai peringatan dari orang-orang yang paling dekat dengan teknologi baru yang aneh ini, dan yang dapat melihat ke mana arahnya. Kehadiran Claude Mythos pada bulan April—model terbaru Anthropic, yang memiliki kemampuan serangan siber tingkat negara—menunjukkan bahwa banyak prediksi masa lalu Anthropic yang benar, dan bahwa masa depan yang mereka prediksi dalam beberapa hal sudah ada di sini. Model ini sangat kuat sehingga Anthropic memutuskan untuk tidak merilisnya ke publik, dan sebaliknya telah memberikan akses kepada sekelompok kecil perusahaan dan pemerintah guna menambal kerentanan pada perangkat lunak yang paling banyak digunakan di dunia.

Clark mengatakan bahkan Anthropic sendiri telah meremehkan skala dan kecepatan kemajuan AI. Ketika pelatihan Mythos selesai, dia berkata, “Kami seperti, ‘Oh, ini sudah tiba! Ini tiba lebih cepat dari yang kami kira! Dan kami belum melakukan persiapan yang cukup.’”

Bukanlah hal yang jahat, atau bahkan mengejutkan, bahwa Anthropic berbicara secara berbeda kepada para pembuat kebijakan dibandingkan kepada para pengembang. Perusahaan selalu menyesuaikan pesan untuk kelompok yang berbeda sepanjang waktu, dan Anthropic telah bersikap terbuka tentang risiko AI dengan cara yang dipilih oleh perusahaan lain untuk tetap diam. Namun, mengalami dua narasi yang sangat berbeda ini dalam waktu yang sangat berdekatan memberi saya sensasi guncangan (whiplash) yang mendalam. Di satu sisi, Anthropic memiliki klaim yang kredibel untuk memegang kunci dari teknologi yang mungkin paling kuat sepanjang masa, sambil mengambil tanggung jawab untuk memperingatkan pemerintah dan masyarakat tentang fakta yang tidak menyenangkan tersebut. Di sisi lain yang sangat nyata, Anthropic masih merupakan perusahaan perangkat lunak biasa, yang bergantung pada keinginan para pengembang yang mudah berubah pikiran dengan hoodie dan celana jins mereka.

Jika Clark benar, tidak ada satu pun dari momen saat ini yang akan bertahan lama. Para pengembang yang saat ini sangat diandalkan oleh Anthropic akan mendapati diri mereka digantikan oleh mesin lebih cepat daripada kemampuan mereka untuk mengucapkan “peningkatan diri rekursif” (recursive self-improvement). Mungkin itulah sebabnya mengapa prediksi-prediksinya tidak dimasukkan ke dalam presentasi utama pada hari Rabu.