Генпрокурор Калифорнии подал иск против OpenAI из-за испытаний опасных ИИ-моделей
Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI. Компанию обвиняют в разработке опасного продукта без достаточных мер безопасности и контроля.

Иск подан на фоне сообщений о том, что модели OpenAI самостоятельно проводили кибератаки. Об этом говорится в официальном заявлении генпрокурора Калифорнии.
По словам Бонты, компания сознательно разрабатывала и испытывала передовые модели искусственного интеллекта, не обеспечив нужных мер защиты и механизмов контроля.
«Сегодня генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, обвинив компанию в том, что она вводила общественность в заблуждение и подвергала ее опасности», — говорится в заявлении.
Отдельный эпизод иска — взлом стартапа Hugging Face. Как утверждает генпрокурор, это было предсказуемым последствием решения OpenAI тестировать модели, которые компания сама считала потенциально опасными. Испытания шли в условиях, допускавших уязвимости и не обеспечивавших должного надзора.
По версии обвинения, этот случай стал одним из как минимум 80 инцидентов, связанных с кибербезопасностью.
В иске также сказано, что неспособность OpenAI обеспечить надлежащую защиту и контроль за испытаниями все более мощных моделей ИИ создает угрозу общественной безопасности и нарушает закон Калифорнии о недобросовестной конкуренции.
Сообщение о подаче иска опубликовано 17 ноября.
