Tämä hallusinaatiotapaus on vähän klassikko, ja olen törmännyt siihen monta kertaa, mutta en luota tällaiseen tekoälyyn tuotantoympäristössä... 😂 Tämä Vercel-käyttäjä käyttää 🦞OpenClaw'ta kehitysprosessin loppuunsaattamiseen, ja malli käyttää Opus 4.6:ta. Käyttäjä löysi yhtäkkiä tuntemattoman GitHubin avoimen lähdekoodin tietovaraston, joka oli otettu käyttöön hänen projektiinsa. Tutkinnassa selvisi, että Opus 4.6 hallusinoi julkisen arkiston ID:n ja kutsui sitten Verceliin liittyvää API:ta sen käyttöönottoa varten... Onneksi se ei aiheuttanut mitään huonoja seurauksia. Tämä tapaus on hyvin klassinen, ja aion lisätä seuraavan punaisen viivan OpenClaw Minimalist Security Practice Guideen: Mikä tahansa API-kutsu, joka sisältää ulkoisen resurssi-ID:n, täytyy ensin varmistaa ID:n olemassaolo ja attribuutio kyseisen alustan kyselyrajapinnan kautta.