3月5日、単一のAIコーディングツールがAmazonの北米マーケットプレイス全体の注文を99%減少させ、1日で630万件の注文を一掃しました。 ツールはわずかな変更を求められ、その過程で環境全体を破壊し、13時間の復旧を引き起こしました。 1秒あたり約4,000ドルの売上を処理している企業にとって、それは非常に具体的な金額が付随します。 アマゾンは現在、この件について全員の必須のエンジニアリングミーティングを開催し、「ルーチン」と呼んでいます。 しかし、内部のブリーフィングノートは異なる内容を伝えています。AI支援による障害のパターンと広範な被害、そしてそれを防ぐための確立された対策が存在しないという。 しかし、なぜこれがAmazon以外で重要なのでしょうか? 現在、すべての大手企業は、本来設計されていないシステムにAIツールを導入しています。ほとんどの企業は、リスクが管理可能だと仮定して急速に動いていますが、3月5日のような日がそれを否定するまでは。 Amazonの規模でこれを誤るのは収益の問題であり、運営上の問題であり、最終的にはリーダーシップの責任の問題です。 では、Amazonは実際に何をしているのでしょうか? シニアバイシスタント社長のデイブ・トレッドウェルは、335の重要な顧客対応システム全体で90日間のオーバーホールを文書化し、スタッフに書面で発表しました。 • コード変更が有効になる前に、同僚2名の承認が必要です ・配備前に信頼性ルールを強制する自動チェック ・正式な変革管理ツールは現在、全体的に必須となっています ・すべてのディレクターおよびVPレベルのリーダーは、組織内のすべての本番コード変更を監査しなければなりません 90日間を超えて、Amazonは自社のAIツールに対して明確な境界線を築いています。 なぜなら、ミスが本当にお金を失う場合、ガードレールは必須ではないからです。