Технологии 2017-08-13T05:19:29+03:00
Українські Новини
"ВКонтакте" начала узнавать суицидальный контент на фотографиях с помощью нейросети

"ВКонтакте" начала узнавать суицидальный контент на фотографиях с помощью нейросети

Нейросеть
Нейросеть "Вконтакте" научили распознавать и удалять суицидальный контент. Фото: vk/com

Во "ВКонтакте" разработали алгоритм для определения противоправного или "опасного" контента на фотографиях. Нейросеть распознает объекты на картинках, которые в итоге исключаются из поисковой выдачи и "умной" новостной ленты или полностью блокируются. Об этом сообщает газета "Известия" со ссылкой на представителей компании.

Нейросеть определяет изображенные предметы и сущности, в том числе человека, ребенка, животное, растение, предметы одежды и символы "групп смерти". Как утверждается, записи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируются.

записи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируютсяЗаписи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируются. Фото: vk.com

Нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как "опасное", оно отправляется модераторам для проверки. Если же фото признано "умеренно опасным", оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет.

Представители "ВКонтакте" пояснили, что алгоритм тестируют на анализ текстовых записей на изображениях. По его их, нейросеть обучили на основе жалоб пользователей.

Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются.

Ранее Українські Новини писали о том, как родителям понять, что подросток играет с суицидом в "группах смерти" в социальных сетях, а также о том, что такое "Синий кит" и почему подростки выполняют смертельные задания. 


Архив
Новости
Элладская Православная Церковь заявила, что признает в Украине канонической только УПЦ 19:59
Громкие взрывы в центре Киева обратили людей в бегство 20:28
Генпрокуратура затягивает передачу дела Гречковского в суд, - защита 21:18
Как отличается жизнь украинских пенсионеров от пенсионеров Беларуси, Польши и США 09:14
Набсовет Приватбанка получил шорт-лист кандидатов на главу правления 11:14
Кириллов хотел выпрыгнуть с третьего этажа гостиницы
"Самоубийца" из гостиницы "Крещатик" заявил, что российских войск на Донбассе нет, а его хотят убить 17:31
Численность населения Украины продолжает сокращаться 17:03
Министр инфраструктуры Омелян провел закрытые переговоры с главами турецких авиакомпаний, – европейские СМИ 14:13
Пытаясь добиться освобождения второго фигуранта уголовного дела, следователю предлагали взятку. Фото: facebook.com/sergii.knyazev
Пойманы убийцы 16-летней модели, забетонированное тело которой нашли в Запорожье 18:41
Верховный Суд Украины открыл производство по иску о запрете российских соцсетей по указу Порошенко 14:09
больше новостей

ok