Американские эксперты об использовании «Исламским государством» современных информационных технологий для привлечения новых сторонников и их радикализации
В связи с недавними новостями о том, что джихадисты, вдохновленные «Исламским государством» (ИГ), планировали совершить террористический акт против концерта Тейлора Свифта в Вене, также стало известно, что некоторые из преступников, участвовавших в заговоре, радикализировались онлайн.
По мнению американских экспертов в области безопасности, хотя остается неизвестным, произошла ли радикализация через TikTok или на другой платформе, ясно то, что «Исламское государство» и его глобальная сеть филиалов продолжают радикализироваться, вербовать и подстрекают последователей и сторонников совершать террористические атаки на Западе.
«Исламское государство провинции Хорасан» («ИГ-Хорасан») ведет неустанную работу по расширению и профессионализации своего подхода к пропаганде и работе своих СМИ. «ИГ-Хорасан», использует различные приложения и платформы обмена сообщениями, чтобы установить связь с различными диаспорами на Западе – с Балкан, Кавказа и Центральной Азии – и убедить своих сторонников атаковать ряд уязвимых целей, включая концертные площадки, парки развлечений и религиозные объекты.
После нападений ХАМАСа 7 октября 2023 г. и последующих военных действий Израиля в секторе Газа в Европе наблюдается тревожный рост арестов, связанных с терроризмом, причем почти две трети из тех, кто был задержан в период с октября 2023 по июнь 2024 года, были подростками. Этот тревожный сдвиг в демографии вкупе с предупреждениями таких криминологов, как Ален Бауэр, которые отмечают, что многие несовершеннолетние, арестованные во Франции за подготовку терактов, ранее были неизвестны службам безопасности, подчеркивает значительный сдвиг в скорости и способах, с помощью которых молодые люди радикализируются в джихадистскую идеологию и впоследствии замышляют насильственные нападения.
Хотя социальные сети, платформы, такие как TikTok, и приложения для обмена сообщениями, такие как Telegram, не являются новыми технологиями, их все более изощренное использование вербовщиками и организаторами джихадистов предполагает, что потенциал для злоупотреблений все еще развивается и что молодые люди могут быть особенно уязвимы. Это также одновременно подразумевает, что, хотя государственный и частный секторы пытались пресечь использование платформ для распространения дезинформации и экстремистского контента, они остаются основным выбором джихадистов для эффективной вербовки и распространения своих идей, которые адаптируют и используют новые возможности, такие как генеративный ИИ, чтобы помочь в своих усилиях.
В начале 2023 года сорванный заговор на параде ЛГБТК в Австрии показал, как два подростка (чеченец и босниец) и 20-летний австриец были вдохновлены и радикализированы с помощью TikTok. Хотя TikTok придерживается политики удаления экстремистского контента, исследования показывают масштабы пропаганды насилия, доступной на видеоплатформе. Молодые австрийцы ознакомились с видеороликами, созданными влиятельными исламистами на TikTok, прославляющими джихад, что благодаря вовлеченности привело к тому, что они познакомились с более похожим контентом. Впоследствии самый младший, которому всего 14 лет, организовал Telegram-канал с джихадистами со всей Европы для обмена информацией о подготовке терактов и сбора средств на оружие.
Теперь, благодаря доступности искусственного интеллекта, усилия по вербовке на этих платформах могут быть усилены за счет искусственного создания большего количества контента, тестирования того, какой контент хорошо работает в интернете, и, следовательно, эффективного повторения сообщений.
Одна из серьезных проблем, связанных с пресечением экстремистского контента, который побуждает людей к насильственным действиям, заключается в том, что это не устраняет лежащее в основе явление и не снижает спрос. Вместо этого это может привести к перемещению экстремистов на другие, менее регулируемые платформы или те, которые труднее контролировать. Это явление, известное как «миграция платформ», наблюдается в различных экстремистских онлайн-сообществах.
Ярким примером является движение incel. После запрета Reddit в 2017 году из-за усилий платформы по пресечению разжигания ненависти и идеологии насилия члены сообщества incel разошлись по более малоизвестным и менее регулируемым онлайн-пространствам, включая специализированные форумы, приложения для зашифрованных сообщений и альтернативные платформы социальных сетей, такие как 4chan, 8kun и различные веб-сайты, относящиеся к incel. Такая модель миграции подчеркивает более широкую проблему в борьбе с онлайн-экстремизмом: хотя децентрализация может снизить видимость и охват экстремистских групп, она может непреднамеренно привести к их консолидации в более изолированных и экстремистских пространствах. Кроме того, поскольку эти движения остаются технологически гибкими и становятся все более замкнутыми, мониторинг и пресечение деятельности могут стать более сложными для практиков и правоохранительных органов.
Явление миграции платформ имело место и в глобальном движении джихадистов. ИГ было очень активно в Twitter в начале 2010-х, используя платформу для вербовки, распространения пропаганды и координации атак. Однако, когда Twitter начал блокировать аккаунты, связанные с ИГ, заблокировав тысячи из них, сторонники ИГ перешли на другие платформы. Одна из них – Telegram, сервис зашифрованных сообщений, который предлагал больше конфиденциальности и тогда был менее регулируемым. В Telegram сторонники ИГ могли создавать каналы и группы, где они продолжали распространять пропаганду, безопасно общаться и организовывать свои атаки.
Использование социальных сетей для вербовки и радикализации соответствует давней тенденции: террористы-джихадисты исторически адаптировали и использовали новые технологии для вербовки и оперативных целей – от раннего использования исламистами блогов до использования беспилотных летательных аппаратов для создания пропагандистских видеороликов.
В то время как аналитики обсуждают, в какой степени злоумышленники будут использовать искусственный интеллект с точки зрения распространения экстремистского контента, ИГ уже использовало генеративные приложения искусственного интеллекта для создания контента и трансляции заявлений об атаках. В 2024 году сторонники ИГ запустили созданную искусственным интеллектом программу под названием News Harvest для распространения пропагандистских видеороликов.
Кроме того, в исследовании, опубликованном в CTC Sentinel в январе 2024 года, в котором проверялась устойчивость платформ искусственного интеллекта к злоупотреблениям, был отмечен высокий уровень успешности реагирования платформ искусственного интеллекта на запросы, связанные с экстремистской деятельностью, даже при отсутствии джейлбрейка – например, процесса обхода функций безопасности, встроенных в чат-бота с искусственным интеллектом. Кроме того, они отметили, что некоторые платформы более уязвимы для предоставления вредоносной информации, чем другие. Косвенные или гипотетические подсказки оказались более эффективными в выявлении вредоносной реакции моделей искусственного интеллекта. Такие обходные пути обязательно будут использованы.
Основные выводы
В связи с недавними новостями о том, что джихадисты, вдохновленные «Исламским государством», планировали совершить террористический акт против концерта Тейлор Свифт в Вене, Австрия, также стало известно, что некоторые из преступников, участвовавших в заговоре, радикализировались в интернете.
После нападений ХАМАСа 7 октября и последующих военных действий Израиля в секторе Газа в Европе наблюдается тревожный рост арестов, связанных с терроризмом, причем почти две трети из тех, кто был задержан в период с октября 2023 по июнь 2024 года, были подростками.
Использование платформ социальных сетей, приложений для обмена зашифрованными сообщениями и платформ на основе видео остается важнейшим компонентом усилий по вербовке и планированию джихадистов по всему миру, которые могут особенно привлекать молодежь.
В то время как аналитики обсуждают, в какой степени злоумышленники будут использовать искусственный интеллект с точки зрения распространения экстремистского контента, ИГ уже использовало генеративные приложения искусственного интеллекта для создания контента и трансляции заявлений об атаках.