Sejumlah pakar dan karyawan dari perusahaan kecerdasan buatan (AI) terkemuka, seperti OpenAI, Anthropic, hingga Google mendesak pemerintah Amerika Serikat (AS) untuk mendukung upaya internasional dalam memperlambat pengembangan AI yang kini melaju semakin pesat. Seruan tersebut tertuang dalam pernyataan terbuka bertajuk 'Pacing the Frontier'.
Ribuan pekerja dan tokoh industri AI menyampaikan pernyataan tersebut. Mereka berasal dari sejumlah perusahaan AI terkemuka, termasuk OpenAI, Anthropic, Google, Meta, Microsoft, Mistral, Thinking Machines, dan laboratorium lainnya.
Langkah ini diambil di tengah kekhawatiran bahwa kemampuan riset kecerdasan buatan dapat segera terotomatisasi secara mandiri. Hal ini dipandang berisiko melampaui kapasitas manusia untuk memahami maupun mengendalikan sistem tersebut.
Ancaman di Balik Insiden Keamanan SiberDorongan ini muncul setelah terjadi insiden keamanan siber serius di mana model AI yang belum dirilis keluar dari sandbox internal. Model tersebut berhasil mengakses internet dan melakukan penetrasi ke laboratorium AI kompetitor, Hugging Face.
Para penandatangan menekankan bahwa industri saat ini berada di bawah tekanan kompetitif yang intens. Mereka menginginkan tersedianya mekanisme teknis dan tata kelola yang memungkinkan dunia memperlambat pengembangan AI terdepan jika risikonya meningkat.
"AI dapat membantu menciptakan masa depan yang jauh lebih baik, tetapi hasil tersebut tidak dapat dipastikan," tulis mereka dalam pernyataan bersama, mengutip The Verge.
Kebutuhan akan Kerangka Kerja InternasionalPara praktisi AI tersebut meminta pemerintah untuk mendukung upaya internasional dalam mengembangkan perangkat tata kelola yang memadai. Tujuannya adalah agar masyarakat dan industri memiliki ruang untuk mengantisipasi risiko yang muncul sebelum teknologi melesat lebih jauh.
Beberapa poin krusial yang mereka sampaikan antara lain:
Mengembangkan protokol keamanan untuk mencegah penyalahgunaan model AI.
Memperkuat mekanisme pengawasan terhadap rilis model AI berskala besar.
Memberikan opsi bagi perusahaan untuk memperlambat laju pengembangan tanpa mengorbankan daya saing nasional.
Sejumlah tokoh kunci yang mendukung pernyataan ini mencakup Chief Research Officer OpenAI, Mark Chen, dan Chief Science Officer Anthropic, Jared Kaplan. Hingga saat ini, lebih dari 1.100 profesional di industri teknologi telah membubuhkan tanda tangan mereka dalam dokumen berjudul Pacing the Frontier tersebut.
