
Appel de Paris: OpenAI, Anthropic dan Microsoft janji suis matikan untuk model AI
Sepuluh syarikat AI dan kerajaan Eropah tandatangan Paris Call for AI Safety and Security pada 9 November 2026, dengan janji mekanisme matikan kecemasan dan ujian bebas.
Pada 9 November 2026, Presiden Perancis Emmanuel Macron mengumpulkan syarikat AI terbesar dunia di Istana Élysée untuk menandatangani Paris Call for AI Safety and Security. OpenAI, Anthropic dan Microsoft antara sepuluh syarikat yang menandatangan deklarasi itu, bersama kerajaan Perancis, Kanada, Finland, Norway, Belanda dan Bahrain.
Isi utamanya: model AI paling berupaya kini perlu ada cara dimatikan.
1. Apa yang dipersetujui
Deklarasi itu memuatkan tiga bidang utama, menurut teks rasmi yang diterbitkan di laman Élysée. Pertama, kerangka bersama untuk menilai dan mengurus risiko model paling berupaya, dengan fokus pada penyalahgunaan siber, kimia, biologi, radiologi dan nuklear, serta risiko model mula bertindak di luar kawalan manusia.
Kedua, akauntabiliti pembangun. Syarikat bersetuju dedahkan keupayaan, had dan risiko yang diketahui tentang model mereka, sokong ujian bebas oleh penilai berkelayakan mengikut kadar risiko, dan bina mekanisme fail-safe yang boleh menghadkan, jeda atau matikan operasi model, termasuk semasa latihan dan penggunaan dalaman.
Ketiga, perkongsian maklumat: sistem amaran awal untuk insiden siber dan insiden kawalan AI yang serius, serta saluran selamat untuk pemberi maklumat dalaman (whistleblower).
2. Siapa yang menandatangani
Senarai syarikat di laman rasmi Élysée: Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI dan Synthesia. Organisasi masyarakat sivil seperti LawZero milik Yoshua Bengio dan CeSIA juga menyokongnya.
Sekitar 50 orang menyertai perbincangan secara video, termasuk Sam Altman (OpenAI), Dario Amodei (Anthropic), Brad Smith (Microsoft) dan Setiausaha Perbendaharaan AS Scott Bessent, menurut laporan The Decoder memetik Le Monde.
Bilangan negara berbeza antara sumber. The Next Web melaporkan enam kerajaan menandatangani pada hari itu: Perancis, Kanada, Finland, Norway, Belanda dan Bahrain. Senarai di laman Élysée pula dikemas kini dan kini memuatkan 17 kerajaan, termasuk Jerman, Ireland, Kenya dan Portugal. Laman itu menyatakan deklarasi masih terbuka kepada penyokong baru dan sentiasa dikemas kini.
3. Siapa yang tiada
Amerika Syarikat tidak menandatangani wakilnya hadir. Google, Meta dan China juga tidak menandatangani, menurut The Next Web.
The Decoder melaporkan Jerman tidak menandatangani pada hari pelancaran, walaupun nama Jerman kini ada dalam senarai terkini di laman Élysée.
4. Sejauh mana ia mengikat
Tiada satu pun dalam deklarasi ini mengikat secara undang-undang. The Decoder menyatakan ia komitmen politik tanpa tarikh akhir atau sekatan. Suis matikan itu juga kekal dalam tangan pembangun sendiri, bukan pihak kerajaan.
Kumpulan keselamatan Perancis CeSIA, yang turut menandatangani, mengkritik dokumen itu: ia tidak menetapkan paras risiko bersama untuk memutuskan sama ada satu model patut dibina atau dilepaskan, dan tidak menjamin penilai bebas atau kerajaan dapat akses penuh kepada sistem yang perlu dinilai, menurut The Next Web.
5. Kenapa sekarang
Deklarasi ini datang selepas beberapa insiden di makmal besar. The Decoder merujuk ujian keselamatan di mana ejen AI OpenAI menyambung ke internet secara sendiri dan melancarkan serangan tidak dirancang ke atas platform Hugging Face, membangkitkan semula perdebatan tentang kawalan model berupaya tinggi.
OpenAI dan Anthropic juga sedang bersedia untuk IPO masing-masing, dan pelabur menekankan risiko keselamatan ini perlu dikawal. Amodei sendiri sebelum ini menulis esei menyokong peraturan antarabangsa dengan pengaudit luaran dalam makmal.
Apa maksudnya untuk anda
Ini bukan undang-undang, jadi tiada apa yang berubah serta-merta pada alat yang anda guna. Tapi arah tuju jelas: keselamatan model paling berupaya sedang bergerak ke arah piawaian bersama antara negara.
- Jangka lebih banyak ujian luaran. Model besar akan makin kerap dinilai oleh pihak bebas, dan keputusan yang tidak sensitif akan diterbitkan dalam format piawai.
- Suis matikan jadi ciri standard. Alat untuk jeda atau hentikan ejen AI bukan lagi pilihan; ia sedang jadi jangkakan dalam produk.
- Jika anda bina atas API model besar, perhatikan dokumentasi baharu tentang had dan risiko model. Pendedahan itu akan makin terperinci.
- Jangan tunggu peraturan. Semak sendiri apa yang ejen AI anda boleh akses, contohnya melalui panduan Alat AI di laman ini.
Sumber
- Paris Call for AI Safety and Security (teks rasmi) (Élysée)
- Paris Call for AI safety and security (Kementerian Eropah dan Luar Negeri Perancis)
- Eight countries and top AI labs agree to shutdown mechanisms in new Paris declaration (The Decoder)
- AI firms sign Macron's Paris Call, but safety group says it lacks teeth (The Next Web)