Дипфейки знаменитостей агитируют инвестировать в фейковые проекты: блокировать мошенников предложил депутат

Выявлять и блокировать дипфейки в казахстанском интернет-пространстве предложил депутат Мажилиса, член фракции партии AMANAT Сергей Пономарев, передает Liter.kz.

В ходе пленарного заседания в Мажилисе депутат озвучил запрос на имя министра искусственного интеллекта и цифрового развития РК Жаслана Мадиева и главы МВД Ержана Саденова.

Сергей Пономарев выразил обеспокоенность стремительным развитием технологии дипфейков – это создание при помощи искусственного интеллекта поддельных изображений, аудио- и видеоматериалов с участием реальных людей. Мошенники используют дипфейки, чтобы от лица известных людей вовлекать простых сограждан в мошеннические схемы.

Мажилисмен рассказал, что сам стал жертвой такой технологии. Его изображение и голос были полностью подделаны, использованы в ролике, где от имени Пономарева просили деньги.

“Мы уже видели дипфейки с участием зарубежных политиков и даже с использованием образа президента нашей страны. Качество подделок растет и с ним растут риски манипуляции общественным мнением, дискредитации государственных органов и дестабилизации общественно-политической ситуации. Если будет создан и распространен дипфейк с участием руководителя государства или публичного лица, с ложными призывами или фальшивыми заявлениями, последствия могут быть катастрофическими. Это уже угроза национальной безопасности”, – заявил Сергей Пономарев.

По словам депутата, в США еще в 2020 году включили положения о дипфейках в Закон об оборонном бюджете, определив их как фактор информационной безопасности.

Республика Корея перед парламентскими выборами 2024 года ввела запрет на использование дипфейков в агитации за 90 дней до голосования, нарушение которого влечет штраф или лишение свободы. В целом в ряде стран внедряются технологии автоматического выявления подделок, а также механизмы цифровой маркировки оригинального контента.

С учетом стремительного роста социальной инженерии и распространения технологий искусственного интеллекта депутат потребовал от Министерства искусственного интеллекта и Министерства внутренних дел действовать на опережение и принять комплекс мер, а именно:

1. Вменить в обязанности центра мониторинга и экспертизы цифрового контента – обеспечение и оперативное выявление дипфейков и их блокировку.
2. Разработать систему подтверждения подлинности цифровых изображений и видеоматериалов, особенно
   в государственных информационных системах и официальных медиа. Этот инструмент должен быть доступен не только судам, но и каждому гражданину, который захочет проверить изображение на подлинность.
3. Провести широкую информационную кампанию по обучению граждан методам распознавания дипфейков и защите от цифрового мошенничества.