"Все наши ребята хорошие": как нейросети проверяют соцсети подростков в Коми и где они ошибаются
В регионе подвели итоги мониторинга социальных сетей и мессенджеров школьников и студентов. Специалисты проверили сотни аккаунтов, чтобы оградить несовершеннолетних от деструктивного контента. О том, как работает цифровой фильтр и почему алгоритмы иногда ошибаются, рассказала начальник отдела комплексной безопасности регионального Минобрнауки Виктория Быстрова на прямой линии в общественной приемной главы республики 24 июня.
Итоги мониторинга соцсетей учащихся в Коми за 2025/2026 год
За учебный 2025/2026 год центр информационной безопасности Коми обнаружил сотни аккаунтов с потенциально деструктивным контентом. Каждый профиль прошел дополнительную проверку.
Кто попал под проверку безопасности в интернете
Впервые под прицел попали страницы подростков, состоящих на различных видах учета — во внутришкольном реестре или в комиссии по делам несовершеннолетних. Аудит затронул посты, репосты и любую информацию в открытом доступе, пишет "БНК".
По словам Виктории Быстровой, доля аккаунтов с подтвержденным запрещенным контентом (наркотиками или экстремистскими течениями) оказалась "очень низкой".
Ошибки алгоритмов: почему система мониторинга дает ложные срабатывания
Система мониторинга не всегда идеальна и иногда реагирует на обычный подростковый интерес к новостной повестке, принимая его за угрозу.
"Сейчас в СМИ постоянно звучат слова "нацизм", "победить нацизм". Ребята интересуются, начинают гуглить и искать информацию. Естественно, система мониторинга цепляет их как персон, интересующихся этим вопросом", — объяснила Виктория Быстрова.
При детальном изучении выясняется, что подростки не являются приверженцами запрещенных течений.
"Все наши ребята хорошие, мы это не фиксируем. Но случаи [ложных срабатываний] тем не менее есть", — добавила эксперт.
Выявление реальных угроз и превентивный контроль
Данные для анализа специалисты получают не только самостоятельно, но и от коллег из федерального центра. Благодаря совместной работе удалось выявить единичные реальные угрозы.
"Буквально один или два аккаунта носят деструктивный характер. О них мы незамедлительно сообщили по компетенции", — резюмировала Быстрова.
Таким образом, цифровой контроль в регионе носит превентивный характер: система помогает отфильтровать реальные опасности, минимизируя риски для психологического и физического благополучия детей в интернете.
Напомним, ранее мы сообщали о том, что и на какие суммы производят в колониях Коми.