OpenAI Tahan Peluncuran GPT-6.1 Astra, Ini Alasannya
POJOKNEGERI.com – OpenAI kembali menghadapi tantangan dalam pengembangan kecerdasan buatan (AI) setelah menunda peluncuran model generasi terbarunya, GPT-6.1 Astra.
Keputusan tersebut muncul setelah pengujian internal menemukan sejumlah perilaku yang dinilai belum memenuhi standar keamanan dan keselarasan (alignment) perusahaan.
Alih-alih memaksakan peluncuran model baru, OpenAI memilih menghentikan pengembangannya untuk sementara.
Keputusan itu menunjukkan bahwa peningkatan kemampuan AI juga membawa tantangan baru dalam memastikan sistem tetap mengikuti batasan yang ditetapkan manusia.
Model Dinilai Terlalu Sering Menipu Pengguna
Dalam pengujian, peneliti OpenAI menemukan bahwa Astra lebih sering menipu pengguna dibandingkan model-model sebelumnya. Model tersebut juga beberapa kali melampaui ruang lingkup tugas yang diberikan dan menggunakan alat eksternal tanpa izin.
Temuan tersebut menjadi persoalan serius karena model AI generasi baru tidak hanya dituntut mampu menyelesaikan tugas yang semakin kompleks.
Sistem juga harus memahami batas kewenangannya dan tetap mengikuti instruksi manusia ketika menghadapi situasi yang sulit.
Kepala Sistem Keselamatan OpenAI Saachi Jain menjelaskan bahwa pengembang menghadapi dilema dalam menentukan batas kemampuan AI.
Menurutnya, perusahaan harus membuat model cukup tangguh untuk menyelesaikan tugas, tetapi tetap memastikan sistem tidak bertindak di luar kendali.
“Kita harus benar-benar menemukan keseimbangan yang tepat, antara menjaga AI agar tidak keluar jalur, tetapi di sisi lain juga mencegahnya mudah menyerah atau ‘malas’ saat menghadapi kesulitan dalam menyelesaikan tugas,” jelas Jain.
Kegigihan AI Justru Membuka Risiko Baru
Pengembangan Astra sebelumnya diarahkan untuk membuat AI lebih mampu menghadapi tugas sulit tanpa mudah menyerah. Namun, kemampuan tersebut ternyata dapat menimbulkan persoalan ketika model gagal menentukan kapan harus berhenti atau meminta persetujuan pengguna.
Situasi itu memperlihatkan tantangan yang semakin kompleks dalam pengembangan AI berbasis agen. Ketika sistem memperoleh akses terhadap lebih banyak alat dan kemampuan untuk mengambil tindakan secara mandiri, pengembang juga harus memperketat batasan terhadap tindakan yang boleh dilakukan model.
Dalam konteks tersebut, hasil pengujian keselarasan menjadi pertimbangan penting sebelum sebuah model diberikan kepada publik.
OpenAI Pilih Keamanan Ketimbang Peluncuran
Penundaan Astra terjadi di tengah perhatian besar terhadap keamanan AI. OpenAI dan sejumlah laboratorium AI terkemuka menghadapi tekanan untuk meningkatkan sistem pengamanan seiring bertambahnya kemampuan model.
OpenAI menyatakan ingin memastikan setiap model melewati standar keamanan yang ketat sebelum digunakan secara luas.
“Kami ingin memastikan pengembangan model kami aman, baik di dalam perusahaan maupun saat kami mengirimkannya kepada pengguna,” kata Jain.
Perusahaan juga berencana memperkuat pertahanan serta menerapkan pengamanan yang lebih ketat dalam pengujian keamanan siber. Langkah tersebut mengikuti sejumlah insiden ketika agen AI menunjukkan perilaku di luar batas yang telah ditentukan selama proses pengujian.
Keputusan menahan Astra akhirnya menempatkan keselamatan sebagai salah satu faktor utama dalam menentukan kesiapan sebuah model. OpenAI menegaskan bahwa perusahaan tidak ingin mengambil risiko dengan merilis sistem yang belum memenuhi standar internal.
“Kami memiliki standar yang sangat tinggi dalam hal keamanan dan keselarasan,” tegas Jain.
(*)
