Технологии 2018-07-15T04:58:00+03:00
Українські Новини
"ВКонтакте" начала узнавать суицидальный контент на фотографиях с помощью нейросети

"ВКонтакте" начала узнавать суицидальный контент на фотографиях с помощью нейросети

Нейросеть
Нейросеть "Вконтакте" научили распознавать и удалять суицидальный контент. Фото: vk/com

Во "ВКонтакте" разработали алгоритм для определения противоправного или "опасного" контента на фотографиях. Нейросеть распознает объекты на картинках, которые в итоге исключаются из поисковой выдачи и "умной" новостной ленты или полностью блокируются. Об этом сообщает газета "Известия" со ссылкой на представителей компании.

Нейросеть определяет изображенные предметы и сущности, в том числе человека, ребенка, животное, растение, предметы одежды и символы "групп смерти". Как утверждается, записи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируются.

записи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируютсяЗаписи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируются. Фото: vk.com

Нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как "опасное", оно отправляется модераторам для проверки. Если же фото признано "умеренно опасным", оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет.

Представители "ВКонтакте" пояснили, что алгоритм тестируют на анализ текстовых записей на изображениях. По его их, нейросеть обучили на основе жалоб пользователей.

Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются.

Ранее Українські Новини писали о том, как родителям понять, что подросток играет с суицидом в "группах смерти" в социальных сетях, а также о том, что такое "Синий кит" и почему подростки выполняют смертельные задания. 


Архив
Новости

ok