«ВКонтакте» применила нейросеть для блокировки суицидального контента

12:51, 24 марта 2017г, Общество 867


1
1

«ВКонтакте» изобрели нейросеть, которая определяет, есть ли на картинке опасный контент и при необходимости блокирует его.

«Специально обученный» алгоритм присваивает изображениям определенный рейтинг и устанавливает, содержится ли в них что-то незаконное, например, спам или порнография. Программа распознает на картинках объекты – людей, животных, растения, сообщают «Известия».

Запрещенный контент не попадает в новостную ленту и идет на проверку модераторам. В случаях с суицидальным контентом записи и фото удаляется автоматически, а страницы авторов блокируются.

Утверждается, что нейросеть узнает не только изображения «человека», «ребенка», «животного», «растения», но также может определить предмет одежды, символ «групп смерти».

 
Фоторепортаж
Блоги