"ВКонтакте" создала нейросеть, чтобы противостоять суицидальному контенту

"Обученный" алгоритм будет заниматься выявлением "опасного" контента, разбросанного по всей территории социальной сети.

В список обязанностей нейросети будет входить поиск различных объектов на изображениях - от людей до растений - и присвоение им специального рейтинга.

Таким образом "умеренно опасные" изображения будут пропадать из поиска, а их приоритет в новостной ленте будет значительно занижен. Те пользователи, на чьих страницах будут обнаружены картинки, хештеги или записи с суицидальными призывами, подвергнутся блокировке, а контент будет немедленно удален.

При этом нейросеть занимается анализом только тех изображений, которые пользователи вылкадывают в общий доступ. В дальнейшем такая технология может стать основой для борьбы со спамом и мошенничеством во "ВКонтакте".