Instagram будет блокировать оскорбительные комментарии

Разработчики Instagram представили улучшенные фильтры-комментарии, которые удалены неприемлемый контент с помощью искусственного интеллекта.

Автоматические фильтры появились в приложении в сентябре прошлого года, но был устроен примитивно. Система проста удалил комментарии со словами и фразами, которые в список самых оскорбительных. При этом пользователи могли добавлять собственные слова.

Теперь система стала «умной». С помощью машинного обучения она обнаружила неуместные замечания, поскольку контекст ответа. Фильтр самообучается, чтобы в будущем больше негативных новостей найти и снижает количество ложных срабатываний системы. Как говорится, сайт Wired, если искусственный интеллект отличает комментарий, затем запирает его для всех пользователей, кроме человека, который его написал. Таким образом, злоумышленник даже не знают, что его послание скрытое от глаз общественности.

Фильтр включен по умолчанию — предыдущий должен был быть активирована вручную. При желании вы можете Instagram о его настройках отключить. Возможность собственные слова и фразы по-прежнему существует. Система работает только на английском, но со временем компания планирует расширить список языков.

Instagram также объявил спам-фильтра на основе искусственного интеллекта. Как выяснилось, он появился в уже в октябре прошлого года, однако официально компания сообщила о нем только сейчас. Этот фильтр работает на девяти языках, включая русский.

Категория: Hi-Tech