[{"data":1,"prerenderedAt":14},["ShallowReactive",2],{"artikel-ms-berita-cloudflare-glm-53-bocor-cache-kv-26-oktober-2026":3},{"slug":4,"lang":5,"title":6,"description":7,"date":8,"updated":9,"topic":10,"product":9,"cover":11,"readMin":12,"html":13},"berita-cloudflare-glm-53-bocor-cache-kv-26-oktober-2026","ms","Cloudflare dedah bocor cache KV pada model GLM 5.3","Cloudflare akui 155 respons model GLM 5.3 di Workers AI mengandungi data permintaan pengguna lain antara 27 Ogos dan 9 September 2026.","2026-10-27",null,"berita","\u002Fimages\u002Fartikel\u002Fberita-cloudflare-glm-53-bocor-cache-kv-26-oktober-2026.webp",4,"\u003Cp>Cloudflare mengeluarkan laporan insiden pada 26 Oktober 2026 tentang masalah keselamatan pada model GLM 5.3 di platform Workers AI. Antara 27 Ogos dan 9 September 2026, sebanyak 155 respons daripada model itu mengandungi data daripada permintaan pelanggan lain yang dibuat tidak lama sebelumnya. Model ini sudah dibaiki pada 9 September, tetapi laporan penuh baru diterbitkan sekarang bersama pasukan SGLang.\u003C\u002Fp>\n\u003Ch2>1. Apa yang berlaku\u003C\u002Fh2>\n\u003Cp>GLM 5.3 ialah model penjanaan teks dari Z.ai yang dibina untuk aliran kerja pengaturcaraan dengan ejen AI. Ia ditawarkan di Workers AI, platform yang membolehkan pembangun jalankan model AI di infrastruktur Cloudflare.\u003C\u002Fp>\n\u003Cp>Pada 8 September 2026, penyelidik keselamatan Gadi Evron dari syarikat Knostic melaporkan melalui program HackerOne bahawa arahan (prompt) yang sangat panjang kadangkala memulangkan teks milik sesi pengguna lain. Cloudflare mengesahkan laporan itu dan menarik model itu luar talian pada 9 September, sebelum memulihkannya hari yang sama selepas konfigurasi dibaiki.\u003C\u002Fp>\n\u003Ch2>2. Punca pertama: salah konfigurasi\u003C\u002Fh2>\n\u003Cp>Model GLM 5.3 dipasarkan dengan tetingkap konteks 1,048,576 token. Tetapi kolam cache KV pada GPU pra-isi (prefill) Cloudflare hanya muat 681,280 token. Cloudflare sendiri mengaku ia sedar tentang ketidakpadanan ini sebelum pelancaran.\u003C\u002Fp>\n\u003Cp>Syarikat itu menyangka enjin inferens akan pulangkan ralat untuk sebarang arahan yang terlalu panjang. Ujian pra-pelancaran hanya menyemak kod respons HTTP dan prestasi, bukan ketekalan output. Jadi arahan panjang melepasi ujian walaupun enjin sebenarnya tidak dapat memprosesnya dengan betul.\u003C\u002Fp>\n\u003Ch2>3. Punca kedua: pepijat SGLang\u003C\u002Fh2>\n\u003Cp>Cloudflare menjalankan GLM 5.3 dengan enjin sumber terbuka SGLang dalam mod teragih (disaggregated), di mana GPU pra-isi menghasilkan cache KV dan menghantarnya kepada GPU nyahkod (decode) yang menjana jawapan.\u003C\u002Fp>\n\u003Cp>Apabila arahan melebihi saiz kolam, SGLang menolaknya secara dalaman dan menggantikannya dengan pemegang tempat satu token. Dalam mod teragih, baris giliran hanya menyemak sama ada permintaan sudah selesai, bukan sama ada ia ditolak. Jadi permintaan yang ditolak terus diproses: pra-isi menghantar satu halaman cache sahaja, tetapi nyahkod menyangka seluruh cache telah ditulis. Ia kemudian menjana jawapan sambil membaca halaman cache lama yang masih menyimpan data pengguna terdahulu.\u003C\u002Fp>\n\u003Cp>Hasilnya, pelanggan menerima respons HTTP 200 yang kelihatan normal, tetapi mengandungi serpihan sesi orang lain. Semua 155 respons yang terjejas datang daripada arahan melebihi 681,280 token.\u003C\u002Fp>\n\u003Ch2>4. Tiada bukti eksploitasi sengaja\u003C\u002Fh2>\n\u003Cp>Cloudflare menyatakan tiada bukti eksploitasi berulang ditemui. Selepas mengecualikan ujian syarikat sendiri dan permintaan penyelidik, corak permintaan yang dikenal pasti konsisten dengan penggunaan konteks panjang yang biasa.\u003C\u002Fp>\n\u003Cp>Syarikat itu juga mengesahkan tiada model lain di Workers AI terjejas. Setiap pelaksanaan teragih yang lain mempunyai kolam cache KV lebih besar daripada panjang konteksnya, jadi permintaan sah tidak pernah sampai ke laluan penolakan.\u003C\u002Fp>\n\u003Ch2>5. Bagaimana ia dibaiki\u003C\u002Fh2>\n\u003Cp>Dua langkah diambil. Pertama, konfigurasi diselaraskan supaya kolam cache pra-isi kini memegang kira-kira 2.04 juta token, lebih kurang dua kali panjang konteks model. Kedua, enjin SGLang dipatch supaya permintaan yang membawa penolakan dibersihkan di baris giliran kemasukan sebelum sebarang pemindahan cache berlaku.\u003C\u002Fp>\n\u003Cp>Pembaikan ini dicadangkan ke projek SGLang secara terbuka. Pasukan SGLang mengeluarkan pembaikan dalam v0.5.21 dan v0.5.22 (19 Oktober), dan Cloudflare menasihati semua pengendali SGLang menaik taraf kepada v0.5.22 atau lebih baru. Laporan SGLang menyatakan kesan pen perlindungan ini terhadap kelajuan berada dalam julat lebih kurang dua peratus.\u003C\u002Fp>\n\u003Ch2>Apa maksudnya untuk anda\u003C\u002Fh2>\n\u003Cp>Kes ini menunjukkan risiko keselamatan boleh berada di lapisan infrastruktur, bukan pada model itu sendiri. Kunci API dan kuota berfungsi seperti biasa, tetapi memori GPU berkongsi masih bocor. Jika anda guna perkhidmatan AI terhos, lapisan perkhidmatan itu turut perlu dinilai.\u003C\u002Fp>\n\u003Col>\n\u003Cli>\u003Cstrong>Konteks panjang berisiko lebih tinggi.\u003C\u002Fstrong> Hanya arahan melebihi 681,280 token yang mencetuskan pepijat ini, dan output yang bocor kelihatan ketekalan.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Kod respons bukan bukti selamat.\u003C\u002Fstrong> Respons HTTP 200 boleh menyembunyikan kegagalan dalaman. Ujian perlu semak kualiti output juga.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Guna pengendali yang lapor insiden.\u003C\u002Fstrong> Cloudflare terbit laporan penuh dan pembaikan dalam masa sehari. Itu standard yang patut anda tuntut daripada pembekal AI.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Jalankan enjin sendiri? Kemas kini sekarang.\u003C\u002Fstrong> Jika anda jalankan SGLang dalam mod teragih, naik taraf kepada v0.5.22 dan pastikan saiz kolam cache KV melebihi panjang konteks model anda.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Kesan pada pengguna biasa adalah kecil.\u003C\u002Fstrong> 155 respons terjejas dalam tempoh 13 hari, dan tiada bukti eksploitasi sengaja. Tetapi ia peringatan bahawa pengasingan data perlu diuji di setiap lapisan.\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch2>Sumber\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"https:\u002F\u002Fblog.cloudflare.com\u002Fkv-cache-exposure-remediation\u002F\" target=\"_blank\" rel=\"noopener\">Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLang\u003C\u002Fa> (Cloudflare Blog)\u003C\u002Fli>\n\u003Cli>\u003Ca href=\"https:\u002F\u002Fwww.unite.ai\u002Fcloudflare-says-glm-5-3-bug-leaked-155-responses-across-tenant-sessions\u002F\" target=\"_blank\" rel=\"noopener\">Cloudflare Says GLM-5.3 Bug Leaked 155 Responses Across Tenant Sessions\u003C\u002Fa> (Unite.AI)\u003C\u002Fli>\n\u003Cli>\u003Ca href=\"https:\u002F\u002Fautomater.ai\u002Fnews\u002Fcloudflare-glm-5-3-kv-cache-cross-tenant-exposure\u002F\" target=\"_blank\" rel=\"noopener\">Cloudflare's GLM-5.3 KV Cache Exposure: 155 Cross-Tenant Responses and the SGLang Fix\u003C\u002Fa> (Automater News)\u003C\u002Fli>\n\u003Cli>\u003Ca href=\"https:\u002F\u002Faiweekly.co\u002Falerts\u002Fcloudflare-says-kv-cache-bug-leaked-155-glm-53-responses\" target=\"_blank\" rel=\"noopener\">Cloudflare Says KV Cache Bug Leaked 155 GLM-5.3 Responses\u003C\u002Fa> (AI Weekly)\u003C\u002Fli>\n\u003C\u002Ful>\n",1793543302846]