Google придумал оружие против вербовки в ИГИЛ
Denis Linine / Shutterstock.com
Главная Технологии, Теракты, Google

Дочерняя компания поисковика знает, как остановить вербовку сторонников террористов в интернете.

Поисковик Google (NASDAQ: GOOGL) научился по нескольким словам в поисковой строчке угадывать, чего хочет напечатавший их человек, и построил на этом бизнес стоимостью в полтриллиона долларов. Оказалось, что таким образом можно разобраться, что творится в головах у одних из самых непонятных и опасных пользователей интернета — потенциальных рекрутов «Исламского государства» (организация признана террористической и запрещена в России). И теперь одна из дочерних компаний поисковика пытается не только понять намерения этих потенциальных джихадистов, но и изменить их.

Компания называется Jigsaw. Раньше она была известна как Google Ideas — это технологический инкубатор и мозговой центр. В последний год ее коллектив работает над разработкой программы, которая, комбинируя поисковые алгоритмы Google и возможности YouTube, должна выявлять потенциальных рекрутов ИГИЛ и влиять на них таким образом, чтобы предотвратить вступление в ряды террористов.

В Jigsaw программу называют Redirect Method — уже в сентябре испытания должны вступить в новую фазу, и рядом с результатами поиска по определенным ключевым словам и фразам появятся специально составленные рекламные объявления. Эта реклама будет вести на арабо- и англоязычный YouTube-каналы, где специалисты Jigsaw собрали существующие видео, которые, как они полагают, могут быть полезны в борьбе с промыванием мозгов со стороны ИГИЛ. Здесь будут рассказы бывших боевиков, ролики имамов, объясняющих, что ИГИЛ искажает ислам, и тайные съемки изнутри террористической группы. Ясмин Грин, руководящая в Jigsaw научно-исследовательским направлением, говорит:

«Мы видим, что в Сети высокий спрос на пропагандистские материалы ИГИЛ, но существует также множество роликов, направленных на борьбу с их пропагандой. Redirect Method — это по сути рекламная компания с таргетингом на людей, уязвимых для пропаганды террористов. И мы показываем им контент, который опровергает проповеди ИГИЛ».

Результаты экспериментального проекта, запущенного Jigsaw в начале этого года, оказались на удивление хорошими: всего за два месяца к антитеррористическим каналам на YouTube удалось привлечь более 300 тыс. человек. Пользователи кликали на объявления Jigsaw в 3−4 раза чаще, чем на типичные коммерческие объявления. И те, кто переходил по ссылкам, проводили за просмотром материалов в два раза больше времени, чем, по оптимистичным оценкам, люди в среднем проводят на YouTube.

И теперь, совместно с лондонским стартапом Moonshot Countering Violent Extremism и американской Gen Next Foundation, Jigsaw планирует начать второй этап, целью которого станут североамериканские экстремисты — как потенциальные рекруты ИГИЛ, так и склонные к насилию сторонники превосходства белой расы.

Противоядие от инфекции экстремизма

Пока хайтек-компании много лет искали средства противодействия экстремизму, ИГИЛ оттачивало свою онлайн-машину пропаганды. Twitter (NYSE: TWTR) банил их аккаунты сотнями тысяч — а они возникали снова, иногда переезжая в Telegram. В то же время YouTube и Facebook (NASDAQ: FB) вели свою войну, пытаясь удалять видео с обезглавливаниями людей и прочими ритуальными убийствами. Но попытки повлиять на недовольных молодых мусульман, которых эта пропаганда привлекает, и предложить им альтернативу, в основном ограничивались пресс-релизами. Можно также вспомнить кампанию Госдепартамента США под названием «Подумай и откажись» и нелепые призывы мультсериала «Обычный Мохаммед».

Грин, опрашивавшая ИГИЛовцев и перебежчиков в британских и иракских тюрьмах, считает, что эти кампании если и могут произвести на кого-то впечатление, то разве что на не очень увлеченную идеями ИГИЛ аудиторию. Он говорит:

«А дальше начинаются люди, которые симпатизируют идеям халифата или уже являются членами организации. Мы занимаемся ими».

Чтобы охватить людей, уже втянутых в орбиту ИГИЛ, понадобился менее прямолинейный подход. Вместо того, чтобы самостоятельно создавать антитеррористические ролики, команда отобрала их на YouTube. Грин говорит: «Мы подумали: а что, если нужный контент уже существует? Мы понимали, что, не будучи специально создан в целях пропаганды, он будет более достоверным, а значит и более убедительным».

Проверка теории

Jigsaw и ее партнеры по пилотному проекту, Moonshot CVE и ливанская фирма Quantum Communications, собрали два плейлиста с видео на арабском и английском языках, начиная от роликов умеренных мусульманских имамов, указывающих на лицемерие ИГИЛ, и до съемок длинных очередей за едой в сирийском городе Ракка, цитадели террористов.

В одном из видео, отобранном Jigsaw, пожилая женщина ругается на членов ИГИЛ и цитирует им Коран:

Специалисты Jigsaw выбрали более 1,7 тыс. ключевых слов, по которым будут показываться их объявления. Грин и ее команда сосредоточились на словах, которые, по их мнению, ищут самые преданные сторонники «Исламского государства»: названия населенных пунктов на пути к контролируемой группировкой территории, фразы вроде «фетва для джихада в Сирии», и имена лидеров, отвечающих в организации за вербовку новых членов. При этом тексты объявлений не несут в себе явных анти-ИГИЛовских сообщений. Например, это может быть: «ИГИЛ — настоящее государство?» или «Хотите присоединиться к ИГИЛ?».

Измерить эффект подобных усилий не так просто. Но сотрудники Jigsaw и компаний-партнеров обнаружили, что их кампания по крайней мере явно привлекла внимание соответствующих пользователей. Отношение кликов к показам у их объявлений было на 9% выше средних значений — обычно это всего 2−3%. Также они обнаружили, что сотни тысяч пользователей провели за просмотром отобранных видео в общей сложности полмиллиона минут — это в среднем 8 минут и 20 секунд на одного зрителя.

Это работает?

Хумера Хан, исполнительный директор Исламской группы дерадикализации Muflehun говорит, что программа Jigsaw — это далеко не исчерпывающее решение проблемы. Она говорит, что и ранее Google и Facebook делали тренинги для антиэкстремистских некоммерческих организаций и учили их использовать контекстную рекламу, пусть и без такого основательного подхода, который практикует Jigsaw.

Хан также указывает, что привлечение сторонников ИГИЛ к просмотру отобранных видео — это лишь первый шаг. Она говорит: «Предположим, они смогли зацепить этих людей. Дальше нужно, чтобы они возвращались за новым и релевантным контентом. Это очень важно». В конце концов, любая успешная попытка дерадикализации требует человеческого взаимодействия, нужно сообщество, поддерживающее решение человека отойти от экстремизма. Она заключает:

«Это, вероятно, хороший инструмент, но не комплексное решение проблемы».

Если смотреть на ситуацию с точки зрения охраны общественного порядка, возникает другой вопрос: если мы можем выявить сочувствующих ИГИЛ людей, почему не поместить их под наблюдение, или даже под арест? Такие действия могли бы спасти не только их самих, но будущих жертв террористических атак или боевых действий в Сирии или Ираке. На этот вопрос Грин отвечает, что «социальные медиа, включая YouTube, обязаны сотрудничать с правоохранительными органами в соответствии с законом, и для этого у них есть соответствующие механизмы».

Возможно, это следует понимать как намек на то, что Google уже помогает арестовывать некоторых из этих людей. Известно же, что за вторую половину прошлого года компания частично или полностью удовлетворила 64% из более чем 40 тыс. правительственных запросов относительно данных своих пользователей.

Но Грин говорит, что Redirect Method лишь предлагает потенциальным сторонникам ИГИЛ посмотреть видео, и не предназначен для дальнейшего отслеживания их действий:

«Это недостаточно информированные люди. Мы можем пытаться решить проблему вербовки иностранных членов ИГИЛ, давая людям более полную информацию».

Она описывает работу своей кампании как своего рода продолжение основной миссии компании Google: «сделать мировую информацию доступной и полезной». Возможно, чтобы частично решить одну из наиболее опасных мировых проблем, проистекающую из человеческого невежества, достаточно делать то, что Google умеет делать лучше всего: помогать людям найти то, что им необходимо увидеть.

Читайте также:
Пожалуйста, опишите ошибку
Закрыть