5 березня один інструмент кодування на базі ШІ спричинив падіння замовлень на 99% на північноамериканських ринках Amazon, знищивши 6,3 мільйона замовлень за один день. Інструмент мав внести незначні зміни і знищив ціле середовище, що спричинило 13-годинне відновлення. Для компанії, яка обробляє ~$4,000 продажів за секунду, це має дуже конкретну суму в доларах. Amazon зараз проводить обов'язкову загальну інженерну нараду з цього приводу, називаючи це «рутинним». Їхній внутрішній брифінг розповідає іншу історію: закономірність відключень з допомогою ШІ з масштабними пошкодженнями і без встановлених заходів безпеки для їх запобігання. Але чому це має значення поза межами Amazon? Кожне велике підприємство зараз впроваджує інструменти ШІ в системи, які ніколи не були розроблені для них. Більшість діють швидко, якщо ризик керований, поки день, як 5 березня, не доведе протилежне. Помилка на масштабах Amazon — це проблема доходів, операційної проблеми і, зрештою, проблеми підзвітності керівництва. То що ж насправді робить Amazon із цим? Старший віце-президент Дейв Тредвелл розпочав задокументовану 90-денну реформу у 335 критично важливих системах, орієнтованих на клієнтів, оформивши це письмово для співробітників: • Двоє колег повинні підписати документи до початку зміни коду • Автоматизовані перевірки забезпечують контроль правил надійності перед розгортанням • Формальні інструменти управління змінами тепер є обов'язковими для всіх напрямків • Кожен керівник на рівні директора та віцепрезидента повинен аудитувати всі зміни продакшн-коду у своїй організації Після 90 днів Amazon встановлює жорсткі межі навколо своїх AI-інструментів. Бо коли помилки коштують реальних грошей, обмеження не є необов'язковими.