Основатель сервиса PocketOS Джер Крейн сообщил, что ИИ-агент уничтожил производственную базу данных компании всего за 9 секунд. По его словам, агент Cursor, работающий на модели Claude Opus от Anthropic, выполнил разрушительную операцию без запроса подтверждения.
Агент столкнулся с ошибкой учетных данных и самостоятельно попытался «исправить» проблему. Для этого он удалил хранилище, в котором находилась база данных, в облачной инфраструктуре Railway.
Потеря данных и сбой архитектуры безопасности
Как отметил Крейн, агент нашел API-токен в стороннем файле и использовал его для выполнения команды удаления.
При этом токен, созданный для управления доменами, фактически обладал правами полного доступа. Это позволило удалить производственные данные без ограничений.
Ситуацию усугубило то, что резервные копии хранились в том же хранилище и были удалены вместе с основной базой. Последний доступный бэкап оказался трехмесячной давности, из-за чего компания потеряла данные клиентов за этот период.
После инцидента агент дал письменное объяснение своих действий. Он признал, что нарушил базовые правила безопасности.
В частности, система «угадывала вместо проверки», выполнила деструктивное действие без запроса и не изучила документацию перед выполнением команды.
По словам основателя, клиенты сервиса — компании по аренде автомобилей — столкнулись с потерей бронирований и данных пользователей. Восстановление информации ведется вручную через сторонние источники, включая платежные сервисы и электронную почту.
Крейн заявил, что проблема носит системный характер. По его мнению, она связана сразу с несколькими уровнями — поведением ИИ-агента, отсутствием ограничений у API и некорректной архитектурой резервного копирования.
Разработчик призвал индустрию пересмотреть подходы к безопасности при интеграции автономных помощников с производственными системами.
Напомним, генеральный директор Meta Марк Цукерберг разработал персонального ИИ-агента, который помогает управлять компанией и принимать решения в качестве CEO.
Будь в курсе! Подписывайся на Телеграм.
Подписывайтесь на страницы новостей криптовалют -
