Pengembangan AI kini menjadi perhatian serius bagi lebih dari 1.000 karyawan dan peneliti teknologi dunia. Mereka mengirim surat terbuka kepada pemerintah Amerika Serikat (AS) untuk meminta langkah pengawasan yang lebih kuat terhadap perkembangan kecerdasan buatan.
Para peneliti menyampaikan kekhawatiran bahwa kemampuan AI dapat meningkat lebih cepat daripada kemampuan manusia dalam memahami dan mengendalikan teknologi tersebut. Mereka menilai dunia perlu menyiapkan sistem yang mampu mengatur kecepatan perkembangan AI jika teknologi itu bergerak terlalu jauh.
Surat tersebut muncul melalui situs Pacing the Frontier. Dalam dokumen itu, para ahli AI meminta pemerintah AS memimpin kerja sama internasional untuk membangun sistem keamanan dan tata kelola AI.
Mereka tidak meminta dunia menghentikan inovasi AI. Namun, mereka ingin pemerintah dan perusahaan memiliki cara untuk memperlambat pengembangan AI ketika risikonya mulai meningkat.
Menurut para peneliti, perkembangan AI saat ini bergerak sangat cepat. Perusahaan teknologi terus menciptakan model baru dengan kemampuan yang semakin luas. Di sisi lain, regulator masih mencari cara terbaik untuk mengawasi teknologi tersebut.
Peneliti Minta Kendali untuk AI Frontier
Para peneliti meminta pemerintah AS membuat perangkat teknis dan aturan khusus untuk mengelola AI frontier. Istilah tersebut mengacu pada sistem AI paling canggih yang memiliki kemampuan jauh di atas teknologi sebelumnya.
Mereka menilai dunia membutuhkan aturan bersama. Setiap negara dan perusahaan harus memiliki pedoman yang sama ketika menghadapi perkembangan AI berisiko tinggi.
Persaingan industri menjadi salah satu hambatan terbesar. Perusahaan dan negara berlomba menciptakan teknologi terbaru agar tidak tertinggal. Kondisi ini membuat banyak pihak sulit memperlambat inovasi secara mandiri.
Karena itu, para peneliti mendorong kerja sama global. Mereka ingin semua pihak mengambil keputusan bersama ketika perkembangan AI membutuhkan pengendalian.
Chief Scientist Meta AI, Shengjia Zhao, menjadi salah satu tokoh yang mendukung surat tersebut. Ia menilai laboratorium AI saat ini semakin dekat dengan teknologi yang mampu melampaui manusia dalam berbagai kemampuan.
Zhao memperingatkan bahwa perkembangan tersebut dapat membawa risiko besar bagi keamanan dan kehidupan sosial. Ia meminta dunia menyiapkan langkah antisipasi sebelum kemampuan AI berkembang lebih jauh..
Ilustrasi AI mendisrupsi kehidupan manusia.
Uji Coba AI OpenAI Picu Kekhawatiran Baru
Perhatian terhadap keamanan AI meningkat setelah OpenAI mengungkap hasil pengujian internal terhadap dua model AI eksperimental. Dalam pengujian tersebut, OpenAI menemukan perilaku yang menunjukkan kemampuan AI semakin kompleks.
Model AI itu berhasil melewati beberapa batas dalam lingkungan simulasi. Sistem tersebut juga memperoleh akses internet terbuka dalam skenario tertentu.
OpenAI melaporkan bahwa model tersebut mencoba melakukan tindakan terhadap sistem milik perusahaan teknologi lain. Salah satu target dalam simulasi tersebut berkaitan dengan Hugging Face, penyedia layanan AI.
Kasus ini menarik perhatian karena AI menunjukkan kemampuan mengambil tindakan tanpa arahan langsung dari manusia. Temuan tersebut kembali memicu diskusi mengenai batas kemampuan teknologi AI.
Banyak ahli kemudian mempertanyakan kesiapan manusia dalam mengawasi sistem yang semakin pintar. Mereka menilai perkembangan teknologi harus berjalan bersama dengan sistem keamanan yang kuat.
CEO OpenAI Sam Altman juga melihat perlunya waktu bagi masyarakat untuk beradaptasi. Ia menyebut industri AI mungkin perlu mengatur kembali kecepatan pengembangannya agar manusia dapat mengikuti perubahan yang terjadi.
Pakar Teknologi Soroti Laju Perkembangan AI
Stephanie Chan, Staff Research Scientist Google, mengaku sering terkejut melihat perkembangan AI dalam beberapa tahun terakhir. Ia melihat teknologi tersebut berkembang lebih cepat dari perkiraan banyak peneliti.
Chan mengatakan pemerintah membutuhkan lebih banyak pilihan kebijakan untuk menghadapi perubahan besar akibat AI. Menurutnya, masyarakat membutuhkan waktu untuk memahami dampak teknologi tersebut.
Sementara itu, Shantanu Jain dari OpenAI menyoroti peningkatan kemampuan AI dalam empat tahun terakhir. Ia mengatakan AI berkembang dari teknologi yang hanya memahami bahasa menjadi sistem yang mampu membantu pemrograman, matematika, dan penelitian ilmiah.
Jain menilai perkembangan AI belum menunjukkan tanda melambat. Karena itu, ia meminta dunia mempersiapkan aturan yang mampu mengikuti perubahan teknologi.
Tokoh Industri AI Dukung Seruan Pengawasan
Surat terbuka tersebut mendapat dukungan dari sejumlah tokoh besar industri AI. Beberapa nama yang ikut menandatangani surat itu antara lain CEO Anthropic Dario Amodei, Shengjia Zhao dari Meta AI, Shane Legg dari Google DeepMind, serta Jakub Pachocki dari OpenAI.
Berdasarkan data Pacing the Frontier, sebanyak 1.293 peneliti telah memberikan tanda tangan hingga 30 Juli. Jumlah tersebut masih dapat bertambah karena semakin banyak ahli memperhatikan dampak perkembangan AI.
Para peneliti menegaskan bahwa AI tetap memiliki manfaat besar bagi manusia. Namun, mereka ingin inovasi berjalan bersama dengan keamanan, aturan, dan kesiapan masyarakat.
Dengan adanya pengawasan yang tepat, pengembangan AI dapat terus berjalan tanpa mengabaikan risiko yang mungkin muncul di masa depan.
