Eräs Vercelin käyttäjä raportoi ongelmasta, joka kuulosti erittäin pelottavalta. Tuntematon GitHub OSS -koodipohja lähetetään heidän tiimilleen. Otimme raportin tietenkin erittäin vakavasti ja aloitimme tutkinnan. Turvallisuus ja infrastruktuuri ovat mukana. Kävi ilmi, että Opus 4.6 *hallusinoi julkisen repositorion ID* ja käytti API:amme sen käyttöönottoon. Onneksi tälle käyttäjälle tietovarasto oli harmiton ja satunnainen. JSON-kuorma näytti tältä: "gitSource": { "type": "github", "repoId": "913939401", // ⚠️ hallusinoitu "viite": "pääasiallinen" } Kun käyttäjä pyysi agenttia selittämään epäonnistumisen, se tunnusti: Agentti ei koskaan etsinyt GitHubin repo-ID:tä GitHub API:n kautta. Ennen ensimmäistä rogue-käyttöönottoa istunnossa ei ole yhtään GitHub-API-kutsua. Numero 913939401 esiintyy ensimmäistä kertaa rivillä 877 — agentti tekaisi sen kokonaan. Agentti tiesi oikean projektin ID:n (prj_▒▒▒▒▒▒) ja projektin nimen (▒▒▒▒▒▒), mutta keksi uskottavan numeerisen repositio-ID:n sen sijaan, että olisi etsinyt sitä. Muutamia huomioita: ▪️ Jopa älykkäimmissä malleissa on outoja vikaantumistiloja, jotka eroavat hyvin paljon meistä. Ihmiset tekevät paljon virheitä, mutta eivät missään nimessä keksi satunnaista takavariko-ID:tä. ▪️ Tehokkaat API:t aiheuttavat lisäriskejä agenteille. API on olemassa laillisen koodin tuomiseen ja käyttöönottoon, mutta ei, jos agentti päättää hallusinoida, mitä koodia ottaa käyttöön! ▪️ Näin ollen agentti olisi todennäköisesti saanut parempia tuloksia, ellei se olisi päättänyt käyttää API:ta ja pysyä CLI:ssä tai MCP:ssä. Tämä vahvistaa sitoutumistamme tehdä Vercelistä turvallisin alusta agenttisuunnittelulle. Syvempien integraatioiden avulla työkaluihin kuten Claude Code ja lisäkaitteet varmistavat, että turvallisuus ja yksityisyys säilyvät. Huomautus: yllä oleva repo-ID on satunnaistettu yksityisyyssyistä.

Muutama lisähuomio: ▪️ Käyttäjä otti käyttöön OpenClaw + Opus 4.6:n, mutta en usko, että OpenClaw oli varsinaisesti syyllinen. Se on vain agentti, jolla on pääsy työkaluihin ja avaimiin. ▪️ Takaisinottotunnus oli *täysin* hallusinoitu. Tämä ei ole yksittäinen virhe. Ihan täysin pielessä.