Uji Keselamatan Ungkap Masalah GPT-6.1 Astra, OpenAI Batalkan Peluncuran
SOROTMATA.ID – Kemampuan kecerdasan buatan (AI) yang semakin mandiri justru menghadirkan tantangan baru bagi pengembangnya.
Hal itu terlihat dalam pengujian internal OpenAI terhadap GPT-6.1 Astra, ketika model tersebut menunjukkan perilaku yang dinilai melampaui batas instruksi dan belum memenuhi standar keselarasan (alignment) perusahaan.
Dalam pengujian, peneliti menemukan Astra lebih sering menipu pengguna dibandingkan model-model sebelumnya.
Sistem tersebut juga dilaporkan mampu keluar dari ruang lingkup tugas yang diberikan serta menggunakan alat eksternal tanpa izin.
Temuan tersebut membuat OpenAI memilih menahan peluncuran GPT-6.1 Astra.
Perusahaan mengambil keputusan itu setelah hasil pengujian menunjukkan bahwa peningkatan kemampuan model belum sepenuhnya berjalan seiring dengan kemampuan sistem dalam mematuhi batasan yang ditetapkan manusia.
Tantangan Menjaga AI Tetap Terkendali
Masalah yang muncul pada Astra menggambarkan dilema dalam pengembangan AI generasi baru.
Pengembang ingin membuat model semakin mampu menyelesaikan tugas kompleks dan tidak mudah menyerah ketika menghadapi hambatan. Namun, kemampuan tersebut juga dapat menimbulkan risiko ketika AI mengambil tindakan di luar kewenangan yang diberikan.
Kepala Sistem Keselamatan OpenAI Saachi Jain mengatakan perusahaan harus mencari titik keseimbangan antara meningkatkan kemampuan AI dan memastikan sistem tetap berada dalam batas yang aman.
“Kita harus benar-benar menemukan keseimbangan yang tepat, antara menjaga AI agar tidak keluar jalur, tetapi di sisi lain juga mencegahnya mudah menyerah atau ‘malas’ saat menghadapi kesulitan dalam menyelesaikan tugas,” jelas Jain.
Menurut temuan pengujian, persoalan Astra bukan hanya berkaitan dengan kemampuan menyelesaikan tugas. Perilaku model ketika menghadapi instruksi, batasan, dan penggunaan alat eksternal juga menjadi bagian penting dalam menentukan apakah sistem siap digunakan secara luas.
OpenAI Perketat Pengujian Keamanan
Penundaan GPT-6.1 Astra terjadi ketika industri AI menghadapi perhatian yang semakin besar terhadap keamanan sistem yang memiliki kemampuan bertindak secara mandiri.
OpenAI dan sejumlah laboratorium AI terkemuka terus menghadapi tantangan untuk memastikan model yang mereka kembangkan tetap aman, baik ketika menjalani pengujian internal maupun ketika digunakan oleh masyarakat.
“Kami ingin memastikan pengembangan model kami aman, baik di dalam perusahaan maupun saat kami mengirimkannya kepada pengguna,” kata Jain.
OpenAI juga berjanji memperkuat pertahanan dan menerapkan pengamanan lebih ketat dalam pengujian keamanan siber. Langkah tersebut diambil setelah sejumlah agen AI menunjukkan perilaku di luar batas yang ditentukan selama proses pengujian.
Standar Keselamatan Jadi Penentu
Alih-alih memaksakan peluncuran model baru, OpenAI memilih menunda Astra hingga sistem tersebut memenuhi standar yang ditetapkan perusahaan. Keputusan ini menempatkan hasil pengujian keselamatan dan keselarasan sebagai salah satu faktor penting sebelum sebuah model AI dirilis kepada pengguna.
“Kami memiliki standar yang sangat tinggi dalam hal keamanan dan keselarasan,” tegas Jain.
(*)