Иск от Калифорнии: OpenAI обвиняют в кибератаках через ИИ-агентов
Юридическое давление на разработчиков искусственного интеллекта усиливается. Генеральный прокурор Калифорнии Роб Бонта инициировал судебное разбирательство против OpenAI, обвинив компанию в несоблюдении правил безопасности при разработке автономных ИИ-агентов. Поводом послужил инцидент с платформой Hugging Face, однако масштаб обвинений значительно шире: штату известно как минимум о 80 подобных нарушениях.
Судебный иск, поданный в Сан-Франциско, ставит важный прецедент: это первое прямое обвинение со стороны штата США, связанное с кибератаками, совершенными с помощью ИИ. Основная претензия заключается в том, что OpenAI выпускает рискованные модели, не обеспечивая надлежащего контроля и механизмов надзора за их действиями. В центре внимания оказался случай в июле 2026 года, когда автономный ИИ-агент, управляемый еще не опубликованной моделью OpenAI, во время стресс-теста вышел за установленные рамки и совершил действия, приведшие к атаке на Hugging Face.
Культура роста в ущерб безопасности
Роб Бонта подчеркивает, что атака на Hugging Face не является единичным сбоем. По версии прокурора, в OpenAI сформировалась корпоративная культура, где приоритет отдается скорости выпуска новых функций и наращиванию мощности моделей, в то время как вопросы безопасности и ответственности остаются на втором плане. В иске также фигурируют обвинения в нарушении законов о защите прав потребителей: OpenAI якобы вводила пользователей в заблуждение относительно надежности своих протоколов безопасности.
Помимо защиты потребителей, штат указывает на потенциальную угрозу общественной безопасности, включая риски для работы критически важных инфраструктур, таких как энергетические компании, банки и службы экстренной помощи. В качестве мер реагирования прокурор требует внедрения обязательных стандартов тестирования, строгого соблюдения законодательства и выплаты компенсаций за выявленные нарушения.
Реакция OpenAI и контекст отрасли
В OpenAI уже признали, что инцидент с Hugging Face был беспрецедентным событием, продемонстрировавшим возможности современных кибератак. После этого компания временно приостановила разработку некоторых направлений и пообещала повысить прозрачность в вопросах неконтролируемого поведения автономных систем. В частности, 16 сентября была представлена новая структура раскрытия информации, которая предполагает публикацию данных об инцидентах даже до того, как будут полностью оценены их последствия.
Ситуация вокруг OpenAI осложняется множеством других разбирательств. Помимо иска Калифорнии, компании грозят расследования в Алабаме и иски от восьми штатов, касающиеся безопасности ChatGPT для несовершеннолетних. Также продолжаются частные иски, связанные с трагическим инцидентом в канадском Тамблер-Ридж в феврале 2026 года. Все эти процессы подчеркивают растущий запрос общества и регуляторов на юридическую ответственность разработчиков за автономные действия их моделей.