YouTube обучает машины искать экстремистские (Видео)

В 2018 году более 10 тыс. сотрудников Google будут привлечены к процессу контроля над экстремистским контентом на YouTube, заявила глава видеосервиса.


В своей колонке в газете Daily Telegraph Сюзан Войчицки рассказала, что YouTube часто используют для манипуляций, оскорблений и агрессии, которые могут нанести вполне реальный вред.


По ее словам, начиная с июня, видеосервис, принадлежащий компании Google, использует технологию машинного обучения, чтобы выявлять экстремистские видео. С ее помощью более 150 тыс. роликов были удалены с сайта.


В марте британское правительство временно прекратило размещать свою рекламу на YouTube, опасаясь, что она будет показана перед видео недопустимого содержания.


Во время своей сентябрьской речи в Генеральной ассамблее ООН премьер-министр Великобритании Тереза Мэй призвала технологические компании удалять экстремистские материалы в течение двух часов после поступления соответствующих жалоб.


Она неоднократно высказывалась в том смысле, что нужно сделать так, чтобы экстремисты не чувствовали, что интернет — это безопасное для них пространство.


По словам Войчицки, с июня на предмет экстремизма было проверено почти 2 млн видео.


Эта работа помогла отработать алгоритмы, на основе которых машины будут выделять видео экстремистского содержания. Благодаря машинному обучению с YouTube было удалено в пять раз больше материалов, чем раньше.


Кроме того, Войчицки рассказала о решительных действиях компании в отношении комментариев. Новая политика позволила заморозить сотни аккаунтов и удалить сотни тысяч комментариев.


Команда хостинга работает вместе с организациями, которые занимаются защитой детей. Вместе с ними они отслеживают агрессию в отношении несовершеннолетних и следят за тем, чтобы содержание видео на нарушало закон.


На этом фоне полиция Великобритании предупреждает, что участились сексуальные преступления в отношении детей с использованием сервисов онлайн-трансляций.


В этом году Google объявила, что потратит 1,3 млн долларов на проекты, помогающие противодействовать экстремизму в Великобритании.


В июне был объявлен список мер, которые с этой же целью принял сервис YouTube.


 


  • Усовершенствование процесса машинного обучения для поиска и удаления видео.
  • Сотрудничество в 15 новыми экспертными группами, среди которых Антидиффамационная лига, движение No Hate Speech и Институт стратегического диалога.
  • Более жесткая политика в отношения контента, который не является незаконным, но был отмечен пользователями как пропагандирующий ненависть или экстремизм.
  • Переадресация определенных запросов на плейлисты с видео антиэкстремисткого содержания.
Поделиться: