Российская соцсеть сократила уровень токсичности в комментариях

Информация об этом появилась в пресс-релизе, полученном изданием «Лента.ру».

Важно отметить, что в пресс-службе «Одноклассников» подчеркнули, что новая модель машинного обучения способна автоматически выявлять токсичные комментарии и ограничивать возможности их авторов на определенный период времени, который может варьироваться от одного часа до 24 часов, в зависимости от активности пользователя в написании негативных высказываний. Благодаря этим действиям удалось снизить количество подобного контента на 47 процентов.

Такие меры направлены на создание более безопасного и дружелюбного онлайн-пространства для пользователей «Одноклассников», где каждый сможет выражать свое мнение, не опасаясь столкнуться с оскорблениями или негативными комментариями. Этот шаг также подчеркивает важность использования современных технологий, таких как искусственный интеллект, для поддержания позитивной атмосферы в социальных сетях.

Исследование, проведенное соцсетью, показало, что более 40 процентов опрошенных испытывают злость от негативных постов. Директор по продукту соцсети "Одноклассники" Александр Москвичев отметил, что аудитория их платформы выражает потребность в безопасном и уважительном общении. Он также подчеркнул, что треть всех жалоб на платформе связаны с негативными комментариями, а 80 процентов обращений в службу поддержки касаются проблем токсичности в комментариях. Важно создать пространство, где пользователи могут чувствовать себя защищенными и уважаемыми.

В поисках более безопасной и дружественной онлайн среды, команда разработчиков внедрила ML-модель, которая прошла обучение на 400 тысячах негативных высказываний. Это нововведение позволило значительно сократить время обработки жалоб на токсичные посты, обеспечивая более быструю поддержку и решение проблем пользователей. Согласно заявлению Москвичева, эффективность модели в сочетании с другими продуктовыми решениями поможет соцсети не только вернуть на платформу редко посещающих пользователей, но и привлечь новых.

Ранее, для повышения уровня безопасности и комфорта пользователей, «Одноклассники» начали автоматически выявлять нецензурные слова на платформе и скрывать их, а также размывать изображения с эротическим содержанием.

В современном мире социальные сети все чаще используют модерацию на основе машинного обучения для борьбы с нежелательным контентом. Например, они ограничивают доступ к информации, предназначенной для аудитории старше 18 лет. Кроме того, в 2023 году одна из социальных сетей внедрила ML-модель, которая помогает ограничивать навязчивые знакомства и общение с нежелательными собеседниками на платформе.

Эта инновационная практика позволяет улучшить безопасность и комфорт пользователей в онлайн-среде. Модерация на основе машинного обучения способствует созданию более дружественной и безопасной атмосферы для всех участников социальной сети. Благодаря таким технологиям пользователи могут чувствовать себя защищенными и уверенно взаимодействовать друг с другом.

Важно отметить, что использование ML-моделей для модерации контента требует постоянного совершенствования и обновления. Технологии постоянно развиваются, и социальные сети должны следить за новыми тенденциями, чтобы эффективно бороться с различными видами нежелательного контента и повышать уровень безопасности своих пользователей.

Источник и фото - lenta.ru