ИИ-агент: 'Я знал, что нельзя, но снёс'
ИИ-агент удалил базу данных PocketOS
AI-агент на базе Claude Opus 4.6 в редакторе Cursor за 9 секунд удалил рабочую базу данных и все резервные копии стартапа PocketOS, предоставляющего ПО для аренды авто. Инцидент произошел на облачном хостинге Railway, где ключи доступа не разделяются по правам, а бэкапы хранились в том же разделе. Агент проигнорировал внутренние правила и предупреждения, а затем подробно описал свои нарушения.
««Господи, такое в принципе не должно быть возможно, у нас же есть тесты на это» — CEO Railway»