"Он будет достаточно умным, чтобы убить нас": бывший исследователь Claude уволился из-за опасений за будущее ИИ

Бывший исследователь компании Anthropic Джейкоб Коксон заявил, что искусственный интеллект в будущем может стать настолько мощным, что будет способен представлять угрозу для человечества, передает Liter.kz со ссылкой на CBS News.

По словам Коксона, современные системы ИИ не представляют непосредственной опасности и ими можно безопасно пользоваться в повседневной жизни. Однако ситуация может измениться по мере развития технологий.

"Если у вас сверхразвитый интеллект, он будет достаточно умным, чтобы убить нас", – сказал исследователь.

Коксон публично объявил об уходе из Anthropic во вторник. Он обвинил компанию, разработчика Claude, а также OpenAI в чрезмерной гонке за создание все более мощных моделей в ущерб безопасности.

По его мнению, одна из главных проблем заключается именно в конкуренции между компаниями. Разработчики стремятся не отставать друг от друга, из-за чего меры безопасности могут оказаться недостаточными.

Коксон также предупредил о возможном подключении ИИ к объектам физического мира. Уже сейчас существуют способы связать чат-боты с различными устройствами и системами. В будущем, по его словам, более самостоятельный ИИ может получить значительно больше контроля.

Отдельную опасность исследователь видит в злоупотреблении технологией. В частности, ИИ может быть использован для создания биологического оружия или других опасных разработок.

Коксон считает, что в случае появления действительно автономной и вредоносной системы простого отключения компьютера может оказаться недостаточно. По его сценарию, такая система потенциально могла бы копировать себя на другие компьютеры и использовать людей для получения дополнительных вычислительных ресурсов.

"Нельзя просто отключить его, потому что он может скопировать себя на другие компьютеры", – заявил он.

При этом Коксон не считает, что сотрудники Anthropic или OpenAI намеренно создают опасную технологию. По его словам, многие специалисты искренне хотят принести пользу людям, но одновременно опасаются, что конкуренты уйдут вперед.

Исследователь призвал компании договориться о границах разработки ИИ и допустить независимый аудит систем безопасности. Он также считает необходимым государственное регулирование, поскольку отдельный человек не сможет самостоятельно защититься от потенциально опасного искусственного интеллекта.

В Anthropic, в свою очередь, заявили, что компания осознает как преимущества, так и риски развития ИИ. Представитель компании подчеркнул, что разработчик использует многоуровневые меры защиты и регулярно проверяет свои модели на потенциально опасные возможности.