Facebook внедрит искусственный интеллект для профилактики конфликтов

Компания Facebook собирается внедрить ряд новых инструментов, которые помогут администраторам в управлении своими группами.

Наибольший интерес вызывает новая система под названием Conflict Alerts. Принцип ее действия во многом сходится с уже существующими функциями, которые используются во многих соцсетях. Речь идет про вычисление нецензурных или просто оскорбительных выражений в комментариях, сразу после их появления. Некоторые сайты определяют их еще в момент написания. При этом, если раньше алгоритм мог определять только явные оскорбления, по ключевым словам, то Conflict Alerts сможет распознавать грубые выражения в более завуалированной форме. На данный момент новый сервис находится на стадии тестирования.

Задачей сервиса Conflict Alerts станет оповещение администратора группы, о том, что в комментариях начинается конфликт. Такая необходимость связана с тем, что у администраторов крупных сообществ нет возможности постоянно следить за комментариями под каждой публикацией, даже если в группе есть несколько модераторов.