Denne hallusinasjonssaken er litt klassisk, og jeg har støtt på den mange ganger, men jeg stoler ikke på AI slik i et produksjonsmiljø... 😂 Denne Vercel-brukeren bruker 🦞OpenClaw for å fullføre utviklingsprosessen, og modellen bruker Opus 4.6. Brukeren oppdaget plutselig et ukjent GitHub-arkiv for åpen kildekode, som var distribuert til prosjektet deres. Undersøkelsen fant at Opus 4.6 hallusinerte en offentlig repository-ID, og deretter kalte Vercel-relaterte API-et for å distribuere det... Heldigvis førte det ikke til noen dårlige konsekvenser. Dette tilfellet er veldig klassisk, og jeg planlegger å legge til en rød linje som følger i OpenClaw Minimalist Security Practice Guide: Ethvert API-kall som involverer en ekstern ressurs-ID må først verifisere eksistensen og attribusjonen av ID-en gjennom den tilsvarende plattformens spørrings-API.