Компания OpenAI приостановила обучение своих новейших моделей ИИ на фоне участившихся сообщений о том, что они "выходят из-под контроля", включая кибератаку на платформу ИИ Hugging Face, другие атаки на сторонние организации, исходящие из тестов безопасности, а также попытки агентов компании проникнуть на правительственные веб-сайты и, по меньшей мере в одном случае, взломать их, передает Liter.kz со ссылкой на gizmodo.com.

Компания OpenAI заявила, что возобновит обучение моделей "только тогда, когда будет уверена в наличии дополнительных мер безопасности", и ожидает, что ей придется снова "приостановить работу".

Эксперты по кибербезопасности и юристы в целом согласны — и руководители компаний, занимающихся ИИ, обеспокоены — что разработчики могут и должны нести ответственность за действия своих моделей в разумных пределах. Однако эксперты также отмечают, что судебному преследованию может быть сложно доказать, что компании, занимающиеся ИИ, или их сотрудники действовали настолько безрассудно, чтобы нести уголовную ответственность.

По словам генерального директора Palantir Алекса Карпа, чья компания сотрудничает со многими разработчиками ИИ, сама по себе гражданская ответственность может представлять экзистенциальную угрозу для отрасли. В начале этого месяца в интервью CNBC он заявил, что нынешняя тенденция "безопасности ИИ" связана не столько с безопасностью, сколько с тем, что компании, занимающиеся ИИ, сталкиваются с потенциальными юридическими обязательствами по мере внедрения своих технологий во всей экономике.

Читайте также: