Jakarta (ANTARA) - Perusahaan teknologi Anthropic menyarankan perlambatan atau jeda sementara pengembangan kecerdasan buatan (Artificial Intelligence/AI) untuk memungkinkan struktur masyarakat dan penelitian melakukan penyelarasan dengan kemajuan teknologi.
Sebagaimana dikutip dalam siaran Engadget pada Jumat (5/6), Anthropic dalam sebuah postingan blog menyampaikan bahwa AI berkembang sangat cepat dan trennya mengarah pada sistem yang mampu mengembangkan penerusnya sendiri.
Anthropic menyatakan bahwa AI yang dapat membangun dirinya sendiri dapat "membawa kebaikan yang sangat besar bagi dunia" tetapi juga dapat "meningkatkan risiko manusia kehilangan kendali atas sistem AI."
Oleh karena itu, perusahaan menyarankan perlambatan atau jeda sementara secara global dalam pengembangan AI.
Usul itu disampaikan berdasarkan temuan Anthropic Institute, divisi riset yang didirikan oleh perusahaan pada Maret lalu.
Saat mengumumkan pembentukan lembaga tersebut, Anthropic menyampaikan bahwa misinya adalah "memberi tahu dunia" mengenai berbagai tantangan yang muncul seiring dengan pengembangan sistem AI yang lebih canggih.
Bersama para kolaborator, institut meneliti apa saja yang diperlukan untuk membangun sistem yang memungkinkan perlambatan atau penghentian sementara pengembangan AI.
Baca juga: Anthropic siapkan model AI untuk tangkal serangan siber
Jika perusahaan-perusahaan AI sepakat untuk memperlambat pengembangan teknologi ini, maka harus ada mekanisme verifikasi yang memastikan semua pihak benar-benar mematuhi kesepakatan.
Tanpa pengawasan, ada risiko sebagian perusahaan diam-diam tetap mengembangkan AI dan akhirnya melampaui kompetitor lainnya.
"Perlambatan atau penghentian bermakna akan membutuhkan beberapa laboratorium AI besar yang berada di garis depan pengembangan teknologi di berbagai negara untuk sepakat berhenti dalam kondisi yang sama," tulis Anthropic.
Saran tersebut hanya dapat dijalankan kalau semua perusahaan AI di seluruh dunia dapat berkumpul dan berjanji untuk menghentikan sementara upaya pengembangan AI.
Menurut Anthropic, itu bukan hal yang tidak mungkin. Perusahaan berencana mengadakan pembicaraan dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya mengenai masalah ini dalam beberapa bulan mendatang.
Sebagaimana dikutip oleh The Wall Street Journal, para kritikus menilai peringatan Anthropic tentang pengembangan teknologi AI hanya taktik pemasaran, mungkin dalam upaya untuk membuatnya tampak sebagai perusahaan AI yang paling tidak bermasalah atau untuk membuat produknya tampak sebagai yang terbaik.
Baca juga: Meta dikabarkan kembangkan liontin berbasis AI
Baca juga: Google izinkan situs web tolak kontennya tampil di hasil pencarian AI
Sebagaimana dikutip dalam siaran Engadget pada Jumat (5/6), Anthropic dalam sebuah postingan blog menyampaikan bahwa AI berkembang sangat cepat dan trennya mengarah pada sistem yang mampu mengembangkan penerusnya sendiri.
Anthropic menyatakan bahwa AI yang dapat membangun dirinya sendiri dapat "membawa kebaikan yang sangat besar bagi dunia" tetapi juga dapat "meningkatkan risiko manusia kehilangan kendali atas sistem AI."
Oleh karena itu, perusahaan menyarankan perlambatan atau jeda sementara secara global dalam pengembangan AI.
Usul itu disampaikan berdasarkan temuan Anthropic Institute, divisi riset yang didirikan oleh perusahaan pada Maret lalu.
Saat mengumumkan pembentukan lembaga tersebut, Anthropic menyampaikan bahwa misinya adalah "memberi tahu dunia" mengenai berbagai tantangan yang muncul seiring dengan pengembangan sistem AI yang lebih canggih.
Bersama para kolaborator, institut meneliti apa saja yang diperlukan untuk membangun sistem yang memungkinkan perlambatan atau penghentian sementara pengembangan AI.
Baca juga: Anthropic siapkan model AI untuk tangkal serangan siber
Jika perusahaan-perusahaan AI sepakat untuk memperlambat pengembangan teknologi ini, maka harus ada mekanisme verifikasi yang memastikan semua pihak benar-benar mematuhi kesepakatan.
Tanpa pengawasan, ada risiko sebagian perusahaan diam-diam tetap mengembangkan AI dan akhirnya melampaui kompetitor lainnya.
"Perlambatan atau penghentian bermakna akan membutuhkan beberapa laboratorium AI besar yang berada di garis depan pengembangan teknologi di berbagai negara untuk sepakat berhenti dalam kondisi yang sama," tulis Anthropic.
Saran tersebut hanya dapat dijalankan kalau semua perusahaan AI di seluruh dunia dapat berkumpul dan berjanji untuk menghentikan sementara upaya pengembangan AI.
Menurut Anthropic, itu bukan hal yang tidak mungkin. Perusahaan berencana mengadakan pembicaraan dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya mengenai masalah ini dalam beberapa bulan mendatang.
Sebagaimana dikutip oleh The Wall Street Journal, para kritikus menilai peringatan Anthropic tentang pengembangan teknologi AI hanya taktik pemasaran, mungkin dalam upaya untuk membuatnya tampak sebagai perusahaan AI yang paling tidak bermasalah atau untuk membuat produknya tampak sebagai yang terbaik.
Baca juga: Meta dikabarkan kembangkan liontin berbasis AI
Baca juga: Google izinkan situs web tolak kontennya tampil di hasil pencarian AI
