Соцсеть «ВКонтакте» научилась распознавать «группы смерти» и порнографию

После анализа изображения метод присваивает изображениям специальный рейтинг. Метод умело распознает разные объекты.

Нейросеть способна анализировать текстовые надписи на изображениях и распознавать символы, например, «групп смерти».

По разработанному алгоритму нейросеть может распознавать на изображениях, расположенных пользователями, разнообразные объекты, в том числе людей, предметы одежды, растения и животных.

Кроме того, создатели проинформировали, что алгоритм способен выявлять, как предметы одежды, так и символы «групп смерти». Если метод считает фото опасным, он отправляет его модераторам для проверки.

Когда нежелательный контент обнаруживается, метод отправляет его на проверку модераторам либо убирает из новостных лент и поисковой выдачи. Если же фото просто вызывает сомнение, оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Механизм направлен на борьбу со спамом, мошенничеством, детской порнографией, преступными услугами и другой противоправной деятельностью, докладывают Известия. При всем этом специальный сценарий работает для борьбы с «группами смерти». Записи и фотографии на эту тему будут удалять автоматом, их создателей - перекрыть.

Напомним, что игра «Синий кит» (альтернативные наименования море китов, тихий дом) запрещена Роскомнадзором как пропагандирующая суицид. После недавних сбоев во «Вконтакте» и в связи с большой активностью «групп смерти» и сообществ с похожей темой нейросеть выступит в роли модератора.