"Инстаграм" против троллей: на помощь пришел искусственный интеллект
Foto: Shutterstock

Социальная сеть "Инстаграм" вводит новые функции, позволяющие бороться с оскорблениями и издевательствами в интернете. Один из новых инструментов, работающий на основе искусственного интеллекта, способен распознавать неуместный или оскорбительный контент.

Сеть предлагает пользователю сделать паузу и подумать, стоит ли публиковать этот комментарий. "Мы можем сделать больше для предотвращения буллинга в "Инстаграме", и мы можем помочь жертвам глумления постоять за себя", — написал гендиректор сервиса Адам Моссери.

Поначалу новые инструменты будут ориентированы на работу с англоязычными пользователями, но сеть планирует распространить новшество и на другие языки, сообщил Би-би-си Моссери.

Руководство компании Instagram было вынуждено принять дополнительные меры по борьбе с опасным контентом после череды скандалов. Самым громким из них стало самоубийство 14-летней британки Молли Рассел — отец погибшей возложил на соцсеть ответственность за неблаготворное влияние на его дочь.

"Подумайте еще раз"

Суть нового механизма в том, что если кто-то напишет что-то вроде "Ты тупой", механизм переспросит: "Вы точно хотите это запостить? Узнать больше" — и под кнопочкой "Узнать больше" появится сообщение "Просим вас подумать еще раз, на подобные комментарии часто жалуются".

Конечно, юзер может и после этого запостить свой комментарий, но, как показали тесты, для ряда людей "демотивации" было достаточно, чтобы остановиться.

Сначала новшество тестируется на англоязычном сегменте соцсети, а затем будет распространено и на другие языки, сообщил Instagram Би-би-си.

"Ограничить"

Еще одна новая опция — механизм "Restrict" ("Ограничить") — разработана, чтобы помочь подросткам фильтровать оскорбительные комментарии, не прибегая к блокированию других. В компании считают, что это простой шаг, который может иметь положительные последствия в реальном мире.

"Мы слышали от юных пользователей нашей сети, что они не хотят блокировать, отписываться или жаловаться на тех, кто их травит, потому что это может обострить отношения. Особенно если они знают этих людей в реальной жизни", — говорит Моссери.

Как только пользователя "ограничат", его комментарии будут появляться только для него самого, другие его комментарии не увидят. Важно отметить, что человек "с ограниченным доступом" не будет знать, что его ограничили.

"Вы можете сделать комментарии такого человека видимыми для других, самостоятельно одобрив их", — пояснил Моссери.

Поддержка пользователей

Издевательства в социальных сетях, в частности в сети "Инстаграм", оказались в центре скандала в начале этого года в Британии.

Отец 14-летней Молли Рассел, которая покончила с собой, сказал, что посты о депрессии и самоубийстве отчасти являются причиной смерти его дочери.

После трагедии британские власти говорили об ответственности соцсетей и грозились ввести возрастные ограничения на их использование.

Главный врач Национальной службы здравоохранения Британии Салли Дэйвис опубликовала рекомендации для родителей о том, как детям пользоваться интернетом. В частности, британские врачи советуют провести беседу с детьми о том, зачем нужен телефон.

В апреле британское правительство опубликовало "Доклад о негативном воздействии в интернете" — проект регламентации деятельности технокомпаний. Он предполагает создание независимого регулятора, который бы определял, каким образом фирмы должны бороться со всеми видами злоупотреблений, включая издевательства.

Некоторые выразили сомнения в эффективности подобного органа. Также высказывались опасения, что его полномочия могут оказаться слишком большими.

На недавней конференции разработчиков Facebook Моссери подтвердил, что борьба с буллингом в данный момент является приоритетом для сети "Инстаграм".

Правозащитники с энтузиазмом отнеслись к новым функциям, предлагаемым платформой, однако посчитали, что соцсети могут делать куда больше.

В "Инстаграме" также ввели специальные меры по поддержке тех, кто интересуется темой суицида. Например, если в поиске "Инстаграма" набрать "suicide" (англ. "суицид"), то появится окно с предложением помощи, советами и ссылками на службы психологической поддержки и телефоны доверия.

В русской версии эта функция пока не работает.

Source

BBC News Русская служба

Tags

Instagram Психология Соцсети
Заметили ошибку?
Выделите текст и нажмите Ctrl + Enter!

Comment Form