У "ВКонтакте" розробили алгоритм для визначення протиправного або "небезпечного" контенту на фотографіях. Нейромережа розпізнає об'єкти на картинках, які в результаті виключаються з пошукової видачі з "розумної" новинної стрічки або повністю блокуються. Про це повідомляє газета "Известия" з посиланням на представників компанії.
Нейромережа впізнає зображені предмети, в тому числі людей, дітей, тварин, рослин, предметів одягу і символи "груп смерті". Як стверджується, записи та фото з суїцидальним контентом автоматично видаляються, а сторінки авторів блокуються.
Записи і фото з суїцидальним контентом автоматично видаляються, а сторінки авторів блокуються. Фото: vk.com
Нейромережа має кілька тисяч класів, які присвоюються фотографії — від 0 до 1 за кількома параметрами. Якщо алгоритм характеризує фото як "небезпечне", воно відправляється модераторам для перевірки. Якщо ж фото визнано "помірно небезпечним", воно зникає з пошукової видачі, а в новинній стрічці знижується його пріоритет.
Представники "ВКонтакте" пояснили, що алгоритм тестують на аналіз текстових записів на зображеннях. За ії словами, нейромережу навчили на основі скарг користувачів.
Нейромережа аналізує тільки зображення-файли для загального доступу, тобто надіслані фото в особистих повідомленнях не аналізуються.
Раніше Українські Новини писали про те, як батькам зрозуміти, що підліток грає з суїцидом в "групи смерті" в соціальних мережах, а також про те, що таке "Синій кит" і чому підлітки виконують смертельні завдання.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.