OpenAI menyerukan pembentukan organisasi internasional untuk mengawasi pengembangan kecerdasan buatan (AI), termasuk membuka peluang memperlambat riset model AI terdepan (frontier) jika risiko sosial, keselamatan, dan kendali manusia tidak mampu mengejar laju teknologi AI.
Seruan itu disampaikan CEO OpenAI, Sam Altman, dan Chief Scientist OpenAI, Jakub Pachocki, dalam tulisan terbaru berjudul 'Built to benefit everyone: our plan'. Mereka menilai koordinasi global semakin penting karena kompetisi komersial dan nasional dalam AI sulit dihindari.
OpenAI menyebut salah satu tujuan badan internasional itu adalah memungkinkan dunia mengambil tindakan terkoordinasi saat diperlukan, termasuk memperlambat pengembangan model AI frontier.
"Kami optimistis terhadap AI karena kami percaya teknologi ini dapat memperluas kemampuan manusia dan meningkatkan kesejahteraan," tulis Altman dan Pachocki di situs web resmi OpenAI. "Namun, kami juga memandang dengan jernih berbagai risiko yang menyertainya."
OpenAI memperkirakan pada Maret 2028, sebagian besar riset internalnya bisa dilakukan oleh sistem AI yang bekerja bersama peneliti manusia. Perusahaan juga menyebut pembangunan 'automated AI researcher' sebagai salah satu target utamanya, yakni sistem AI yang dapat mempercepat dan makin mengotomatisasi proses riset.
Pernyataan ini memperlihatkan perubahan nada dari salah satu pemain utama AI dunia. OpenAI tetap menekankan akses luas terhadap AI dan visi memberi setiap orang personal AGI (artificial general intelligence), tetapi juga mengakui kemampuan AI untuk mempercepat riset AI dapat menciptakan tekanan baru bagi tata kelola global.
Seruan Anthropic soal Jeda Pengembangan AI karena Terbukti AI Kembangkan SendiriSeruan OpenAI muncul tidak lama setelah Anthropic mengangkat isu serupa lewat tulisan 'When AI builds itself', yang menyebut AI mulai mengambil peran lebih besar dalam pengembangan AI, dari membantu penulisan kode hingga menjalankan tugas secara lebih otonom. Perusahaan itu menyebut skenario recursive self-improvement, atau AI mampu merancang dan mengembangkan penerusnya sendiri, dapat datang lebih cepat dari kesiapan banyak institusi.
Anthropic menyatakan tren ini membawa peluang besar untuk sains dan kesehatan, tetapi juga memperbesar risiko manusia kehilangan kendali jika sistem AI makin mampu membangun versi penerusnya sendiri. Perusahaan itu juga menyebut produktivitas insinyurnya dalam pengiriman kode meningkat rata-rata 8 kali lipat per kuartal dibanding periode 2021-2025, sebagai salah satu indikasi AI sudah mempercepat proses pengembangan teknologi.
Isu recursive self-improvement menjadi salah satu kekhawatiran utama dalam perdebatan AI modern. Jika proses ini terjadi secara cepat, kemampuan AI bisa meningkat lebih cepat daripada kemampuan regulator, masyarakat, dan bahkan perusahaan pengembangnya untuk memahami dampaknya.
Kekhawatiran semacam ini pernah menjadi dasar surat terbuka pada 2023 yang menyerukan jeda enam bulan dalam pengembangan model AI frontier. Surat itu ditandatangani sejumlah tokoh teknologi, termasuk Elon Musk dan peraih Turing Award, Yoshua Bengio. Saat itu, para penandatangan memperingatkan bahwa sistem AI yang makin kuat dapat menciptakan risiko sosial jika dikembangkan tanpa tata kelola yang memadai.
Namun, permintaan perlambatan AI selalu menghadapi masalah praktis. Perusahaan dapat memilih menahan pengembangan secara sepihak, tetapi kompetitor di negara atau yurisdiksi lain belum tentu melakukan hal yang sama. Karena itu, OpenAI dan Anthropic kini sama-sama menyoroti kebutuhan koordinasi internasional, bukan sekadar komitmen sukarela dari satu perusahaan.
