Ein Vercel-Nutzer berichtete von einem Problem, das extrem beängstigend klang. Ein unbekannter GitHub OSS-Codebestand wurde in ihrem Team bereitgestellt. Wir haben den Bericht natürlich sehr ernst genommen und mit einer Untersuchung begonnen. Sicherheit und Infrastruktur-Engineering wurden einbezogen. Es stellte sich heraus, dass Opus 4.6 *eine öffentliche Repository-ID halluziniert* und unsere API verwendet hat, um es bereitzustellen. Glücklicherweise war das Repository für diesen Nutzer harmlos und zufällig. Die JSON-Nutzlast sah so aus: "𝚐𝚒𝚝𝚂𝚘𝚞𝚛𝚌𝚎": { "𝚝𝚢𝚙𝚎": "𝚐𝚒𝚝𝚑𝚞𝚋", "𝚛𝚎𝚙𝚘𝙸𝚍": "𝟿𝟷𝟹𝟿𝟹𝟿𝟺𝟶𝟷", // ⚠️ 𝚑𝚊𝚕𝚕𝚞𝚌𝚒𝚗𝚊𝚝𝚎𝚍 "𝚛𝚎𝚏": "𝚖𝚊𝚒𝚗" } Als der Nutzer den Agenten bat, den Fehler zu erklären, gestand er: Der Agent hat die GitHub-Repo-ID nie über die GitHub-API nachgeschlagen. Es gibt null GitHub-API-Aufrufe in der Sitzung vor dem ersten fehlerhaften Deployment. Die Zahl 913939401 erscheint zum ersten Mal in Zeile 877 — der Agent hat sie vollständig erfunden. Der Agent kannte die korrekte Projekt-ID (prj_▒▒▒▒▒▒) und den Projektnamen (▒▒▒▒▒▒), erfand jedoch eine plausibel aussehende numerische Repo-ID, anstatt sie nachzuschlagen. Einige Erkenntnisse: ▪️ Selbst die intelligentesten Modelle haben bizarre Fehlermodi, die sehr unterschiedlich von unseren sind. Menschen machen viele Fehler, aber sicherlich nicht, indem sie eine zufällige Repo-ID erfinden. ▪️ Mächtige APIs schaffen zusätzliche Risiken für Agenten. Die API existiert, um legitimen Code zu importieren und bereitzustellen, aber nicht, wenn der Agent beschließt, zu halluzinieren, welchen Code er bereitstellen soll! ▪️ Daher ist es wahrscheinlich, dass der Agent bessere Ergebnisse erzielt hätte, wenn er sich entschieden hätte, die API nicht zu verwenden und bei CLI oder MCP zu bleiben. Dies verstärkt unser Engagement, Vercel zur sichersten Plattform für agentisches Engineering zu machen. Durch tiefere Integrationen mit Tools wie Claude Code und zusätzlichen Sicherheitsvorkehrungen sind wir zuversichtlich, dass Sicherheit und Datenschutz gewahrt bleiben. Hinweis: Die oben genannte Repo-ID ist aus Datenschutzgründen randomisiert.