Vercelのユーザーが非常に怖い問題を報告しました。未知のGitHub OSSコードベースが彼らのチームにデプロイされている。 もちろん、私たちはこの報告を非常に真剣に受け止め、調査を開始しました。セキュリティとインフラエンジニアリングが行われました。 実はOpus 4.6が*publicリポジトリのIDを幻覚*で見つけ、私たちのAPIを使ってそれをデプロイしたのです。幸いにもこのユーザーにとっては、リポジトリは無害でランダムでした。JSONのペイロードは以下の通りでした: 「gitSource」: { "type": "GitHub", 「repoId」:「913939401」、// ⚠️ 幻覚 「レフェリー」:「メイン」 } ユーザーがエージェントに故障の説明を求めたところ、エージェントは次のように告白しました。 エージェントはGitHub APIを通じてGitHubリポジトリIDを調べていません。最初のローグデプロイメント前のセッションではGitHub API呼び出しが一切ありません。 番号913939401が初めて877行目に現れますが、エージェントが完全に捏造したものです。 エージェントは正しいプロジェクトID(prj_▒▒▒▒▒▒)とプロジェクト名(▒▒▒▒▒▒)を知っていましたが、検索せずにもっともらしい数字のリポジトリIDを作ってしまいました。 いくつかのポイント: ▪️ 最も賢いモデルでさえ、私たちのものとは大きく異なる奇妙な故障モードがあります。人間は多くのミスをしますが、ランダムなリポジトリIDを作ることは絶対にありません。 ▪️ 強力なAPIはエージェントに追加のリスクをもたらします。APIは正当なコードをインポートしてデプロイするために存在しますが、エージェントがどのコードをデプロイすべきかを幻覚で見抜けてしまえば、それはできません! ▪️ したがって、エージェントはAPIを使わずにCLIやMCPを使い続けていた方が良い結果を得ていた可能性が高いです。 これにより、Vercelをエージェントエンジニアリングの最も安全なプラットフォームにするという私たちのコミットメントが強化されます。Claude Codeのようなツールや追加のガードレールとのより深い統合を通じて、セキュリティとプライバシーが守られると確信しています。 注意:上記のリポジトリIDはプライバシーのためランダム化されています。

追加の注意点: ▪️ ユーザーはOpenClaw + Opus 4.6で展開していましたが、OpenClaw自体が原因だとは思いません。単にツールや鍵にアクセスできるエージェントに過ぎません。 ▪️ リポジトリIDは*完全に*幻覚でした。これは単なる誤差ではありません。完全におかしいです。