YouTube будет использовать ИИ для борьбы с экстремистским контентом

YouTube будет использовать ИИ для борьбы с экстремистским контентом Интернет помогает получать и распространять самую разную информацию, как что-то полезное, так и наоборот.

YouTube уже давненько борется с экстремистским контентом, из-за которого даже были скандалы с крупными рекламодателями, которые в итоге покинули платформу или существенно сократили рекламные бюджеты. Компания сообщила о новых шагах в борьбе с контентом, нарушающим правила сервиса.

Первое – ИИ. Несмотря на то, что искусственный интеллект уже значительно помогает платформе, компания направит на разработку еще больше ресурсов и приложит больше усилий для развития технологии.

Вторым шагом станет существенное увеличение существующей базы Trusted Flagger – людей, у которых есть возможность помечать нежелательный контент на более высоком уровне, нежели у простых пользователей. К программе привлекут еще 50 неправительственных организаций, в добавок к 63 существующим.

Третей ступенькой выступает работа с роликами, которые не совсем соответствуют пользовательскому соглашению. Спорные видео будут помечены предупреждением, не будут показываться в рекомендуемых и не будут сопровождаться комментариями. Естественно, монетизация таких роликов отключена. Таким образом подобный контент станет сложнее найти и уровень вовлеченности пользователей у него будет соответственно невысокий.

Последним в этом списке шагом будет улучшение работы с контр-радикальными действиями. Так, система должна будет определять потенциальных желающих вступить в какие-либо террористические группировки и больше показывать этим людям видео направленное на борьбу с агрессивными взглядами, что вероятно поменяет их мнение. На это у YouTube также направлена программа Creators for Change.

Компания Google не единственная занимается борьбой с контентом такого рода, она также сотрудничает с такими компаниями, как Facebook, Twitter, Microsoft и другими. Лидеры индустрии делятся технологиями, направленными на борьбу с терроризмом в Сети.


Добавить комментарий


Защитный код
Обновить

2 megabytes