Токаев поддержал инициативу Трампа по регулированию суперинтеллекта – мнение эксперта

Предложение президента Казахстана Касым-Жомарта Токаева рассмотреть Соглашение о суперинтеллекте в качестве возможной модели международного регулирования искусственного интеллекта может стать основой для обсуждения вопросов ответственности разработчиков передовых AI-систем. Об этом заявил руководитель отдела азиатских исследований Айдар Курмашев в ходе международного форума AI & Digital Bridge 2026, передает Liter.kz со ссылкой на КИСИ.

По словам эксперта, в своем выступлении на форуме Токаев отдельно отметил инициативу президента США Дональда Трампа по регулированию суперинтеллекта (SI).

“Предложение Касым-Жомарта Токаева рассмотреть Соглашение о суперинтеллекте как возможную модель для глобального применения затрагивает вопрос распределения ответственности за развитие искусственного интеллекта. Президент обозначил условие такого перехода – тщательное обсуждение заинтересованными странами. Считаю этот подход обоснованным. Когда технологические решения одной компании используются в разных государствах, последствия ошибок выходят за пределы ее отношений с отдельным потребителем. Возникает потребность согласовать, кто оценивает риски, какие сведения должны предоставлять разработчики и как действовать при обнаружении угроз. Практическое значение инициативы Дональда Трампа состоит в согласовании принципов безопасности с компаниями, которые непосредственно создают передовые системы ИИ. Соглашение предусматривает четыре уровня контроля: (1) внутренние процедуры наблюдения за моделями, (2) отдельную команду для проверки этих процедур, (3) независимую внешнюю оценку и (4) надзор со стороны комитета совета директоров. Документ также предполагает регулярные встречи участников для выработки стандартов безопасности. Такая конструкция позволяет поставить вопрос об ответственности внутри самой компании: обнаруженная проблема должна пройти путь от технического специалиста до руководства, способного принять решение о ее устранении”, – отметил Айдар Курмашев.

По его словам, участие разработчиков имеет самостоятельное значение. Они располагают информацией об обучении моделей, результатах испытаний и выявленных ограничениях.

“Государственным органам трудно оценивать безопасность сложной системы без доступа к этим сведениям. Внешняя проверка может частично сократить этот разрыв в знаниях. Для этого аудиторам потребуются достаточные полномочия и возможность оценивать реальные процедуры компании. Смысл проверки заключается в том, чтобы установить, выполняются ли заявленные требования на практике и позволяют ли они своевременно обнаруживать опасное поведение системы. Согласование подходов между конкурирующими компаниями также может повлиять на стимулы самой отрасли. Если разработчик предполагает, что дополнительные испытания задержат выпуск продукта, а конкурент выйдет на рынок раньше, возникает давление в пользу ускорения. Общие требования к проверкам способны уменьшить такое давление. Безопасность становится заранее известным условием разработки. Для этого участники должны сопоставимо исполнять обязательства: выборочное соблюдение правил будет сохранять преимущество у тех, кто экономит на проверках. При этом соглашение носит добровольный характер. Его подписание фиксирует согласие относительно принципов, а результат будет определяться последующим исполнением. Потребуется понять, как обеспечивается независимость аудиторов, кому доступны их выводы и что происходит при выявлении существенных нарушений. Эти вопросы должны стать частью дальнейшего обсуждения. Доверие к такому механизму будет формироваться по мере появления проверяемых свидетельств того, что компании устраняют обнаруженные проблемы и корректируют свои решения”, – добавил он.

По мнению Курмашева, для государств, которые используют зарубежные технологии, важно иметь возможность участвовать в формировании требований к безопасности AI-систем. Возможными направлениями международного обсуждения эксперт называет сопоставимые методы оценки рисков и согласованные процедуры уведомления о серьезных инцидентах. При этом международные правила должны учитывать вопросы технологической конкуренции, защиты чувствительной информации, коммерческой тайны и национальных требований. Для Казахстана эта дискуссия имеет практическое значение в связи с внедрением искусственного интеллекта в экономику и государственное управление.

“При выборе ИИ-систем заказчику необходимо понимать, какие испытания она прошла, где находятся пределы ее надежности и кто обязан реагировать на сбои. Согласованные требования могли бы облегчить сравнение поставщиков и сделать условия закупок более определенными. Отечественные разработчики, в свою очередь, получили бы более понятные ориентиры для подготовки продуктов к выходу на зарубежные рынки. Одновременно Казахстану потребуется развивать собственную способность оценивать применяемые технологии. Международный аудит дает полезную информацию, однако пригодность системы для конкретной задачи необходимо проверять с учетом местных условий, языка и характера обрабатываемых данных. По мере внедрения ИИ в решения, затрагивающие права граждан, значение такой экспертизы будет возрастать. Участие в формировании международных подходов и подготовка собственных специалистов здесь непосредственно связаны: квалифицированные эксперты позволяют стране предметно обсуждать правила и затем применять их в национальной практике”, – подчеркнул эксперт.