В Курултае озвучили предложение запретить использование социальных сетей детьми до 16 лет. С инициативой выступил депутат, член фракции партии “Әділет” Жанарбек Ашимжанов. По словам депутата, социальные сети сегодня стали не просто способом проведения свободного времени, но и фактором, влияющим на психологическое состояние, здоровье, поведение и образование детей.

Как технически можно ограничить доступ несовершеннолетних к социальным сетям, проверить возраст пользователей и защитить ребенка от опасного контента, рассказал Liter.kz эксперт в сфере мониторинга информационного пространства, директор отдела корпоративных связей АО Kcell Байрам Азизов.

По словам эксперта, определить реальный возраст пользователя только со слов самого человека достаточно сложно. Одним из вариантов он называет подтверждение через eGov или eGov Mobile.

“Просто попросить человека указать дату рождения недостаточно – ребенок может написать любой возраст. Проверка может учитывать несколько факторов, но наиболее понятный вариант для Казахстана, как мне кажется, подтверждение через eGov или eGov Mobile”, – сказал Байрам Азизов.

Процесс, по его словам, может выглядеть следующим образом: при регистрации социальная сеть просит подтвердить, что пользователю исполнилось 16 лет. После этого человек переходит в eGov Mobile и дает согласие только на проверку возраста. Государственная система проверяет дату рождения и через защищенный технический канал возвращает платформе одноразовый ответ: “16 лет исполнилось” или “не исполнилось”.

“Это как оплата в интернет-магазине: магазин не получает доступ к банковскому счету покупателя, а банк только сообщает, прошла операция или нет”, – пояснил эксперт.

При этом система должна обеспечивать защиту персональных данных.

“Нужны минимальный объем передаваемых данных, ограниченный срок действия подтверждения, защита от повторного использования, независимый аудит безопасности и возможность исправить ошибку. Главный принцип: подтверждается возраст, но не раскрывается личность”, – отметил он.

Однако даже при наличии такой системы полностью исключить обход ограничений, по словам Байрама Азизова, практически невозможно. Дети могут использовать чужие аккаунты, браузеры, VPN и небольшие зарубежные площадки.

“Платформы могут выявлять повторные регистрации с одного устройства, связанные аккаунты и другие подозрительные действия, но стопроцентной защиты не существует”, – сказал он.

Сложнее всего, по его оценке, контролировать сервисы с анонимной регистрацией, прямыми эфирами, исчезающим контентом, доступом через браузер и отсутствием представительства в Казахстане.

“У крупных платформ огромный объем информации, но одновременно есть технические ресурсы для ее модерации. У небольших сервисов таких возможностей и заинтересованности может не быть”, – отметил Байрам Азизов.

При этом чрезмерно жесткие ограничения могут привести к тому, что дети будут переходить из крупных платформ в менее прозрачные и хуже модерируемые сообщества.

“Технические меры должны сочетаться с родительским контролем, цифровой грамотностью и безопасными настройками детских аккаунтов”, – подчеркнул эксперт.

Отдельный вопрос – как контролировать опасный контент, с которым дети могут столкнуться в социальных сетях. По словам Азизова, технически создать систему мониторинга возможно. Она может анализировать публичные публикации и прямые эфиры, распознавать речь, текст и изображение, а также обращать внимание на признаки насилия, угроз, опасных действий или резкий рост жалоб зрителей. Однако такая система не сможет видеть весь контент TikTok, Instagram и YouTube без сотрудничества с самими платформами. Закрытые аккаунты, ограничения доступа к данным и скорость прямых эфиров не позволяют получить полную картину.

Фото из личного архива Байрама Азизова

Кроме того, одной из проблем остается правильное понимание смысла публикации.

“Собрать информацию значительно легче, чем правильно понять ее смысл. Даже обычные системы мониторинга часто ошибаются при определении тональности, не распознают иронию, цитаты и контекст. При анализе казахстанского сегмента добавляется смешение русского и казахского языков, местный сленг и постоянно меняющиеся выражения”, – рассказал эксперт.

Поэтому искусственный интеллект, считает он, должен использоваться как первый фильтр.

“ИИ должен быть первым фильтром: обнаруживать подозрительный фрагмент и передавать его на проверку человеку. Автоматически признавать публикацию противоправной только по отдельным словам или изображениям рискованно”, – отметил Азизов.

Крупные платформы уже используют автоматическое распознавание нарушений, пользовательские жалобы, команды модераторов, возрастные ограничения, предупреждения, отключение прямых эфиров, снижение охватов и ограничение монетизации. Очевидное нарушение, которое обнаружила сама система, может быть остановлено достаточно быстро. Рассмотрение обычной жалобы иногда занимает часы или дни. Единого срока реакции нет: он зависит от характера контента, количества жалоб и возможностей конкретной платформы.

По словам эксперта, эффективность такой работы нужно оценивать не только по количеству удаленных публикаций.

“Важнее понимать, сколько опасных эфиров было остановлено до массового распространения, сколько нарушений система пропустила и сколько материалов заблокировала ошибочно”, – сказал он.

При этом решение о правовой ответственности и блокировке может приниматься на разных уровнях.

“Обычно платформа оперативно ограничивает контент в соответствии со своими правилами. А правовую оценку и возможную ответственность определяют уполномоченные органы в рамках законодательства. При этом пользователю должен быть понятен порядок обжалования ошибочной блокировки”, – отметил Байрам Азизов.

Ранее Касым-Жомарт Токаев отметил, что одним из дополнительных инструментов защиты детей может стать масштабирование обязательных детских SIM-карт. По замыслу такая мера должна помочь ограничить доступ несовершеннолетних к нежелательному контенту и создать своеобразный “информационный иммунитет”.