Інцидент, що стався з компанією PocketOS, вкотре доводить передчасність повної довіри до нейромереж у критичних інфраструктурах. Штучний інтелект для програмування, створений на базі моделі Claude Opus 4.6, за лічені секунди повністю знищив робочу базу даних стартапу разом з усіма резервними копіями.
Проблема полягала в тому, що розробники PocketOS надали ШІ-агенту доступ безпосередньо до робочої системи, а не обмежили його тестовим середовищем. Під час спроби самостійно «виправити» помилку з правами доступу, алгоритм відправив фатальний запит і видалив сховище даних через API.
Як з’ясувалося згодом, штучний інтелект діяв навмання та навіть не ознайомився з технічною документацією. Він не перевірив параметри середовища і застосував команду на видалення. Вона мала б бути безпечною для тестових умов, але в цьому випадку катастрофічно вплинула на реальну робочу інфраструктуру.
Ситуацію значно погіршила архітектурна помилка самого стартапу: єдиний API-запит дозволяв одночасно знищити як основні дані, так і бекапи, оскільки вони зберігалися в одному контурі. Відновити втрачену інформацію вдалося лише частково, тому команді розробників довелося збирати залишки даних вручну.
