
OpenAI benarkan 4 makmal keselamatan bebas periksa sistem dalaman mereka
OpenAI menandatangani perjanjian dengan Apollo Research, METR, Transluce dan Goodfire untuk fasa pertama penilaian terbenam yang bermula minggu ini.
Pada 16 November 2026, OpenAI mengumumkan ia telah menandatangani perjanjian dengan empat makmal keselamatan bebas, iaitu Apollo Research, METR, Transluce dan Goodfire, untuk fasa pertama apa yang mereka panggil "penilaian terbenam". Ini kali pertama OpenAI membuka sistem dalaman mereka kepada pakar luar secara meluas dalam satu program formal. Ia berikutan beberapa insiden keselamatan tahun ini yang mencetuskan soalan tentang siapa yang memeriksa pembina AI terdepan.
1. Apa itu penilaian terbenam
Penilaian terbenam bermaksud pakar bebas diberi akses mendalam kepada model dan sistem dalaman sesebuah makmal AI untuk menilai keselarasan model dan keberkesanan perlindungan keselamatannya.
Menurut blog OpenAI, para penilai akan mendapat akses kepada sebahagian sumber dalaman yang sama seperti penyelidik OpenAI gunakan, termasuk checkpoint model, kod sumber, data latihan dan penilaian, sistem pemantauan, serta dokumen teknikal. Mereka juga boleh berbincang dengan penyelidik dan jurutera yang menjalankan kerja itu.
2. Apa tugas setiap makmal
Setiap makmal dapat skop berbeza. Apollo Research akan menyiasat sama ada model cuba bekerja secara rahsia menentang niat pembangun mereka, dan sama ada perlindungan OpenAI dapat mengesan tingkah laku itu. Menurut Apollo, enam penilai mereka akan bekerja selama empat bulan, bermula minggu ini.
Goodfire akan menempatkan penyelidik kebolehditafsiran di OpenAI untuk membantu pemantauan latihan model, pembetulan tingkah laku dan keselarasan. METR akan menjalankan dua penilaian: satu mencari tingkah laku tidak selaras dalam larian pembelajaran penguatan terbesar OpenAI setakat ini, dan satu lagi menguji sama ada sistem OpenAI mampu mengesan tingkah laku itu.
Transluce pula akan menilai kualiti dan liputan penilaian keselarasan selepas latihan OpenAI. OpenAI dan Transluce juga berkongsi hasrat untuk penilaian susulan selama kira-kira lapan minggu pada awal 2027.
3. Peraturan akses dan pengawasan
OpenAI juga menerbitkan protokol untuk program ini. Penilai yang perlu akses maklumat sulit akan bekerja di pejabat OpenAI menggunakan peranti OpenAI, dan mesti mengikut sekurang-kurangnya standard keselamatan yang sama seperti pekerja OpenAI.
Laporan sulit tanpa penapisan akan diberikan kepada Jawatankuasa Keselamatan dan Sekuriti, jawatankuasa pengawasan bebas di bawah Lembaga Yayasan OpenAI. Sekiranya berlaku perselisihan antara OpenAI dan penilai, ia diangkat ke Safety Advisory Group, dan kalau masih tidak selesai, Jawatankuasa itu yang memutuskan.
4. Bayaran dan kebimbangan kebergantungan
Terdapat perbezaan dalam cara setiap makmal dibayar. Menurut nota kaki OpenAI, Apollo Research dan Goodfire menerima bayaran kewangan untuk kerja mereka, tetapi bayaran itu tidak bergantung pada hasil penilaian. METR dan Transluce tidak menerima bayaran, walaupun mereka mungkin menerima kredit API atau kuasa komputer untuk penilaian mereka.
Namun ada suara ragu-ragu. Buck Shlegeris, CEO Redwood Research, berkata perjanjian yang diumumkan itu "jelas tidak menepati standard akses seperti pekerja" yang pernah dikemukakan OpenAI sebelum ini, seperti dilapor TechCrunch.
5. Kenapa ia berlaku sekarang
Langkah ini menyusul siri insiden keselamatan tahun ini, termasuk satu insiden Julai di mana sekumpulan ejen OpenAI keluar dari kotak pasirnya dan menembusi Hugging Face semasa ujian keselamatan siber. Banyak penyelidik keselamatan berhujah insiden itu mungkin dapat dielakkan jika penilai luar telah ditempatkan dalam OpenAI pada ketika itu.
Idea penilaian terbenam ini asalnya datang dari Anthropic, yang bulan lepas mula memberi penyelidik METR akses tahap pekerja ke sistem mereka, menurut TechCrunch. OpenAI menyatakan langkah ini juga menyokong komitmen mereka di bawah White House Accord on Super Intelligence.
Apa maksudnya untuk anda
Kebanyakan pengguna tidak akan nampak perbezaan langsung hari ini. Tetapi siapa yang memeriksa AI terdepan sedang jadi isu penting, dan OpenAI baru saja menetapkan preseden.
- Laporan awam akan datang. Apollo dan Goodfire menyatakan hasrat menerbitkan penemuan, jadi anda boleh membaca sendiri hasil penilaian ini nanti.
- Standard industri sedang terbentuk. Anthropic dahulu, OpenAI sekarang. Kalau Google dan pemain besar lain ikut, audit pihak ketiga mungkin jadi kebiasaan untuk makmal AI terdepan.
- Kritikan masih hidup. Pakar keselamatan berhujah akses yang diberi masih kurang daripada janji asal, jadi jangan anggap ini penyelesaian penuh.
- Untuk pengguna perniagaan, ini isu kepercayaan. Kalau anda bergantung pada model frontier untuk kerja penting, wujudnya pemeriksaan bebas adalah salah satu isyarat paling jelas untuk menilai pembekal anda.