Seorang pengguna Vercel melaporkan masalah yang terdengar sangat menakutkan. Basis kode GitHub OSS yang tidak dikenal sedang disebarkan ke tim mereka. Kami, tentu saja, menanggapi laporan itu dengan sangat serius dan memulai penyelidikan. Keamanan dan rekayasa infra terlibat. Ternyata Opus 4.6 *berhalusinasi ID repositori publik* dan menggunakan API kami untuk menerapkannya. Beruntung bagi pengguna ini, repositori tidak berbahaya dan acak. Payload JSON terlihat seperti ini: "gitSource": { "type": "github", "repoId": "913939401", // ⚠️ berhalusinasi "ref": "utama" } Ketika pengguna meminta agen untuk menjelaskan kegagalan, ia mengaku: Agen tidak pernah mencari ID repositori GitHub melalui API GitHub. Tidak ada panggilan API GitHub dalam sesi sebelum penyebaran nakal pertama. Nomor 913939401 muncul untuk pertama kalinya di baris 877 - agen itu membuatnya sepenuhnya. Agen mengetahui ID proyek (prj_▒▒▒▒▒▒) dan nama proyek (▒▒▒▒▒▒) yang benar tetapi menemukan ID repositori numerik yang tampak masuk akal daripada mencarinya. Beberapa takeaways: ▪️ Bahkan model terpintar pun memiliki mode kegagalan aneh yang sangat berbeda dari kami. Manusia membuat banyak kesalahan, tetapi tentu saja tidak membuat id repo acak. ▪️ API yang kuat menciptakan risiko tambahan bagi agen. API ada untuk mengimpor dan menyebarkan kode yang sah, tetapi tidak jika agen memutuskan untuk berhalusinasi kode apa yang akan disebarkan! ▪️ Dengan demikian, kemungkinan agen akan mendapatkan hasil yang lebih baik jika tidak memutuskan untuk menggunakan API dan terjebak dengan CLI atau MCP. Hal ini memperkuat komitmen kami untuk menjadikan Vercel platform paling aman untuk rekayasa agen. Melalui integrasi yang lebih dalam dengan alat seperti Claude Code dan pagar pembatas tambahan, kami yakin keamanan dan privasi akan ditegakkan. Catatan: id repo di atas diacak karena alasan privasi.

Beberapa catatan tambahan: ▪️ Pengguna menyebarkan dengan OpenClaw + Opus 4.6, tetapi saya tidak berpikir OpenClaw harus disalahkan di sini sendiri. Itu hanya agen dengan akses ke alat dan kunci. ▪️ ID repo *sepenuhnya* berhalusinasi. Ini bukan kesalahan off-by-one. Benar-benar mati.