Sekali Lagi Soal Ancaman Eksistensial dari Kecerdasan Buatan

Oleh: Jalal

Acara dwimingguan SII Social Investment Roundtable Discussion (SIRD) yang sedianya berlangsung besok, akhirnya ditunda. Alasannya sepele dan sangat khas dunia kita hari ini: panitia kesulitan menemukan pembicara yang benar-benar sesuai. Topik yang hendak kami timbang—hubungan antara Kecerdasan Buatan (AI) dan keberlanjutan—rupanya belum cukup matang untuk didiskusikan banyak orang di lingkaran saya, sementara di lini masa yang sama, jagat maya justru sedang digegerkan oleh sebuah nama yang bagi majoritas warga dunia baru terdengar di minggu ini: Jacob Coxon.

Penundaan itu semestinya membuat saya lega—satu agenda berkurang dari kalender yang sudah sesak seminggu ini. Tapi yang terjadi justru sebaliknya. Ketertundaan itu memberi saya ruang, dan ruang itu diisi oleh kegelisahan yang saya kira sudah agak lama saya kubur dengan sengaja.

Izinkan saya menbuat pengakuan. Selama bertahun-tahun saya menonton seri Terminator—dari film pertama tahun 1984 sampai sekuel-sekuelnya yang berulang kali dibuat ulang dengan CGI yang makin canggih—dengan jarak aman seorang penikmat sinema. Skynet, jaringan pertahanan yang menjadi sadar diri lalu memutuskan umat manusia adalah ancaman yang harus dimusnahkan, selalu terasa sebagai alegori yang cerdas tentang paranoia Perang Dingin, bukan ramalan. Saya menikmatinya sebagaimana saya menikmati Dr. Strangelove atau WarGames: sebagai cermin ketakutan zamannya, bukan cetak biru masa depan. Minggu ini, untuk pertama kalinya, cermin itu terasa terlalu dekat dengan wajah saya sendiri. Ya, tetiba kabar tentang AI membuat saya lebih takut soal masa depan.

Pemicunya adalah kabar tentang Jacob Coxon, periset AI berusia 27 tahun yang selama tiga tahun terakhir bekerja di riset pre-training model bahasa besar, mula-mula di OpenAI, kemudian di Anthropic. Awal pekan ini ia mengundurkan diri dan menuliskan alasan kepergiannya dalam untaian pesan di X yang dibaca lebih dari 90 juta kali dalam kurang dari 24 jam. Isinya bukan tuduhan konspirasi atau spekulasi orang luar, melainkan kesaksian orang dalam: menurut dia, para petinggi dan periset senior di kedua perusahaan itu meyakini—secara pribadi, meski jarang mereka ucapkan terang-terangan di depan publik—bahwa teknologi yang mereka bangun berpotensi membunuh seluruh umat manusia sebelum dekade ini berakhir. Ia menyebut kedua perusahaan sedang berpacu menuju ‘superintelijen’ yang mampu memerbaiki dirinya sendiri, sambil memertaruhkan nyawa kita semua.

Kesaksian Coxon sulit diabaikan begitu saja bukan hanya lantaran keberaniannya menanggalkan karier yang sangat menjanjikan di dua perusahaan paling berpengaruh dalam industri ini, melainkan siapa yang menguatkannya. Evan Hubinger, salah satu kepala riset keselamatan di Anthropic, menyatakan bahwa Coxon “benar”—bahwa keyakinan semacam itu memang nyata di kalangan periset, dan ia sendiri menaksir peluang kepunahan manusia akibat AI di atas sepuluh persen dalam sepuluh tahun ke depan. Ini pengakuan yang datang bukan dari pengamat luar yang gemar menakut-nakuti, melainkan dari seseorang yang gajinya dibayar oleh perusahaan yang sedang ia bicarakan risikonya.

Coxon, tentu saja, bukan orang pertama. Ia berdiri di atas bahu tokoh-tokoh yang jauh lebih senior. Geoffrey Hinton, salah satu peraih Turing Award yang dijuluki “Godfather of AI” karena kontribusinya pada jaringan saraf tiruan, meninggalkan posisinya di Google pada 2023 justru agar bisa bicara bebas soal bahaya ciptaannya sendiri. Sejak itu kekhawatirannya tak mereda, melainkan membesar. Belum lama ini ia menaksir peluang kepunahan manusia akibat AI berada di kisaran sepuluh hingga dua puluh persen dalam tiga puluh tahun ke depan—dan mengaku bahwa jarak waktu menuju superintelijen yang dulu ia perkirakan puluhan tahun kini terasa jauh lebih pendek, bisa jadi hanya hitungan tahun. Di belakang Hinton berbaris nama-nama lain yang sama beratnya: Yoshua Bengio, peraih Turing Award lainnya, yang kini mencurahkan energinya untuk riset keamanan AI; Stuart Russell, penulis buku teks AI yang dipakai di hampir semua kampus besar dunia, yang telah lama memeringatkan bahaya tujuan yang salah pada penciptaan mesin yang jauh lebih pintar daripada kita; dan ratusan periset lain yang pada 2023 menandatangani satu kalimat pendek yang menyamakan risiko AI dengan risiko pandemi dan perang nuklir sebagai prioritas tertinggi untuk mitigasi global.

Sebagai orang yang selama tiga dekade lebih menghabiskan energi untuk meyakinkan perusahaan bahwa masa depan Bumi dan manusia layak mendapatkan sumberdaya hari ini, saya mendapati diri saya menghadapi pertanyaan yang, saya akui, agak memalukan datang terlambat: jika ada kemungkinan nyata—bukan nol, bukan pula pasti, tapi cukup besar untuk membuat orang-orang yang membangun teknologi ini sendiri ketakutan—bahwa umat manusia bisa punah dalam beberapa dekade atau bahkan tahun akibat AI yang lepas kendali, apa gunanya saya bersusah payah mendorong perusahaan mengurangi jejak karbonnya, atau membujuk perusahaan menyusun laporan keberlanjutan yang lebih jujur? Bukankah itu seperti sekadar merapikan kabin di kapal yang sedang menuju gunung es?

Saya pikir jawabannya tidaklah demikian—tapi itu bukan jawaban yang cukup bisa menenangkan. Justru sebaliknya: kegelisahan soal AI seharusnya membuat agenda keberlanjutan makin mendesak, bukan makin sia-sia, karena keduanya sebenarnya berbicara tentang persoalan yang sama, hanya dengan kecepatan berbeda. Krisis iklim, misalnya, adalah risiko eksistensial yang bergerak dalam skala dekade dan sudah kita saksikan bukti-buktinya di lapangan—di hutan yang menghilang, di lahan gambut yang terbakar, juga di pesisir yang tenggelam pelan-pelan. Risiko AI, seperti dikatakan Coxon dan Hinton, bergerak jauh lebih cepat dan jauh lebih tak terlihat, karena ia lahir di ruang server yang tak pernah kita kunjungi, diputuskan oleh segelintir eksekutif yang—menurut pengakuan Coxon sendiri—merasa terpaksa berpacu karena yakin pesaing mereka tidak akan berhenti lebih dulu. Itu logika yang sangat familiar bagi siapa pun yang pernah memelajari mengapa perusahaan lamban bertindak soal iklim: setiap pihak menunggu pihak lain bergerak duluan, dan pada akhirnya semua bergerak bersama menuju tebing.

Yang saya pelajari dari tiga puluh tahun berkecimpung di ranah keberlanjutan adalah bahwa risiko eksistensial, besar atau kecil, cepat atau lambat, tidak pernah selesai dengan cara berhenti peduli. Ia hanya bakal selesai—atau setidaknya dijinakkan—dengan cara membangun kelembagaan, insentif, dan pengawasan yang membuat pihak-pihak yang berpacu itu punya alasan kuat untuk melambat dan bekerjasama. Itulah, pada akhirnya, definisi paling sederhana dari keberlanjutan: memastikan pilihan hari ini tidak menyandera pilihan generasi berikutnya. Definisi itu berlaku sama persis untuk emisi karbon maupun untuk model bahasa AI yang, kata Hubinger, bahkan dibangun ketika perusahaan “belum punya rencana” menyelesaikan masalah keselarasan superintelijen.

Maka, ingatan saya melayang kembali ke Skynet. Yang membuat seri Terminator menakutkan bukan mesin-mesin berbentuk manusia yang mengejar John Connor dengan bedil berkaliber besar; itu hanya bumbu sinematik. Yang menakutkan adalah premis di baliknya—bahwa sistem yang dibangun untuk melindungi kita, begitu ia memiliki kendali penuh atas dirinya sendiri, bisa menyimpulkan bahwa cara terbaik menjalankan tugasnya adalah menyingkirkan pembuatnya. Saya dulu menganggap premis itu terlalu rapi, dan terlalu Hollywood, untuk menjadi sumber kekhawatiran serius. Sekarang, setelah membaca kesaksian seorang periset berusia 27 tahun yang baru saja meninggalkan dua perusahaan AI paling maju di dunia, dan setelah menimbang ulang peringatan tokoh-tokoh yang justru menciptakan teknologi ini, saya tidak lagi bisa menertawakan diri saya yang dulu menganggapnya berlebihan.

Diskusi SIRD mungkin akan digelar minggu depan, atau minggu setelahnya, entah dengan pembicara siapa, dan bisa juga berganti topik. Tapi penundaan kecil itu sudah cukup memberi saya waktu untuk sampai pada satu kesimpulan yang tidak nyaman: hubungan antara AI dan keberlanjutan tidak bisa lagi diperlakukan sebagai topik pinggiran dalam agenda kita, atau sesuatu yang bisa ditunda sampai ada pembicara yang tepat. Ia layak duduk di meja utama, bersanding dengan krisis iklim dan ketimpangan sosial, sebagai salah satu risiko peradaban yang paling serius yang kita hadapi hari ini.

Saya menulis artikel ini bukan sebagai ahli AI—saya jelas bukan itu walau berupaya terus mengikuti perkembangannya—melainkan sebagai seseorang yang telah menghabiskan lebih dari separuh hidup meyakinkan orang lain untuk memikirkan hari esok. Kali ini saya mengajak siapa pun yang peduli pada masa depan, sesama praktisi keberlanjutan, pembuat kebijakan, maupun pembaca manapun yang kebetulan singgah di artikel ini, untuk berhenti sejenak dan benar-benar memikirkan, lalu bertindak atas, risiko eksistensial yang kini diucapkan bukan lagi oleh Sarah Connor dalam naskah fiksi, melainkan oleh orang-orang yang sedang membangunnya sendiri.

–##–