Американские эксперты о новых тенденциях, влияющих на…
08.10.2024

Американские эксперты о новых тенденциях, влияющих на ситуацию с террористическими угрозами

Как отмечают американские эксперты в области безопасности, в настоящее время отчетливо проявились тенденции, сочетание которых может существенно повлиять на ситуацию с террористическими угрозами как в краткосрочной, так и в долгосрочной перспективе. 

Первая тенденция заключается в том, что для отдельных лиц и небольших групп были снижены барьеры для использования ряда новых технологий, в том числе искусственного интеллекта (ИИ). Многие сервисы ИИ, в том числе большие языковые модели (LLM), не только бесплатны или имеют открытый исходный код, но и интуитивно понятные пользовательские интерфейсы многих инструментов генеративного ИИ сделали использование некоторых приложений ИИ/машинного обучения чрезвычайно доступным.

Существует множество способов, с помощью которых террористы и другие экстремисты использовали и будут продолжать использовать ИИ в организационных и оперативных целях, в том числе: пропаганда; интерактивная вербовка; автоматизированные атаки (например, с помощью беспилотных летательных аппаратов); использование социальных сетей; кибератаки и многое другое.

В то же время террористические группировки, такие как «Исламское государство провинции Хорасан» («ИГ-Хорасан) усилили свою приверженность медийному джихаду и значительно расширили свои пропагандистские возможности, направленные на распространение террора и привлечение сторонников и новых рекрутов.

Многочисленные внутренние и международные террористические организации и экстремистские группы по всему идеологическому спектру выпустили четкие рекомендации о том, как безопасно и / или эффективно использовать генеративный ИИ для создания контента. В 2023 году «Исламское государство» (ИГ) выпустило руководство о том, как безопасно использовать генеративный искусственный интеллект. 

Тем временем группа «Технология против терроризма» обнаружила пост на крайне правой доске объявлений, который включал руководство по меметической войне и использование искусственного интеллекта для создания этих пропагандистских мемов.

В апреле стало очевидно, что сторонники ИГ выражают заинтересованность в дальнейшем использовании искусственного интеллекта для увеличения масштабов своего публичного контента. Группа экспериментировала с «информационным бюллетенем» в виде видеоролика, в котором вслух зачитывались заявления «Исламского государства», представленные созданным искусственным интеллектом аватаром. 

После нападения «ИГ-Хорасан» на Крокус Сити Холл в конце марта сторонник ИГ использовал Rocket Chat, зашифрованную платформу, для распространения видеозаписи новостей, которая сопровождала более широкую пропагандистскую кампанию против России. В бюллетене использовались персонажи, созданные искусственным интеллектом, предназначенные для имитации новостных агентств, а эстетика видео была разработана для имитации стиля вещания основных средств массовой информации. Так называемая программа группы «Сбор новостей» также представляет собой видеотрансляцию новостей, созданную искусственным интеллектом, которую группа использовала для описания своих операций в различных регионах мира. Эта пропаганда была подготовлена с использованием искусственного интеллекта преобразования текста в речь для перевода письменной информации в речь и аудио правдоподобным человеческим голосом, в то время как видеогенераторы помогают создавать другие реалистичные эффекты.

Террористические организации могут использовать не только медиа- и пропагандистские компоненты ИИ. Стратегия и тактика террористов неизбежно изменятся, поскольку они стремятся максимизировать эффект от своих атак и свести к минимуму вероятность того, что их раскроют и арестуют. 

Что касается вербовки, то известно, что чат-боты на базе ИИ очень эффективно радикализируют людей. В 2021 году 19-летний подросток из Индии, проживающий в Великобритании, попытался убить королеву Елизавету II в Виндзорском замке, чтобы отомстить за резню в Джаллианвала-Баге в 1919 году. Он общался в интернете со своей девушкой, которая на самом деле была чат-ботом на базе искусственного интеллекта, которого он создал.

Важность виртуальных вербовщиков и рекомендаций по виртуальному планированию в различных экстремистских группах, особенно в тех, которые полагаются на одиночек или вдохновленных актеров, неизбежно повысится с использованием обученных генеративных систем искусственного интеллекта, которые могут реагировать на колебания новобранца или на логистическую поддержку, в которой он может нуждаться. 

В системах, основанных на ИИ, также есть очевидные уязвимости, которые террористы могут попытаться использовать. Многие технологии ИИ уже внедрены в современные боевые действия, в частности беспилотные летательные аппараты. По словам профессора Сары Ломанн, террористы уже изучают возможность использования автоматизированных транспортных средств для совершения нападений. Системы управления дорожным движением могут быть взломаны и подвергнуты манипуляциям, которые приведут к массовой гибели людей.

Вторая тенденция заключается в том, что в то время, как террористические организации используют передовые технологии, такие как искусственный интеллект, для облегчения своих оперативных задач, они также все чаще одновременно обращаются к низкотехнологичным решениям, чтобы избежать слежки со стороны спецслужб. 

Действительно, недавние взрывы пейджеров в Ливане произошли вскоре после того, как генеральный секретарь «Хизбаллы» Хасан Насралла недвусмысленно призвал ее членов усилить оперативную безопасность, перейдя с мобильных устройств на пейджеры и рации в свете событий 7 октября 2023 г. Насралла заявил, что мобильные устройства служат «израильским пособникам», поскольку их относительно легко перехватить.

7 октября был еще один показательный пример использования низкотехнологичной тактики: ХАМАС начал скоординированное наступление на Израиль, используя недорогие беспилотники для разрушения передовых систем наблюдения вдоль границы. Эта стратегия поставила под угрозу систему пограничной обороны Израиля стоимостью 1 млрд долларов, которая считается одной из самых безопасных в мире, позволив тысячам боевиков проникнуть на израильскую территорию. В тот же день ХАМАС использовал как двухместные, так и одноместные парапланы для проникновения на территорию Израиля, демонстрируя творческое использование низкотехнологичных инноваций в конфликтных ситуациях.

Проблема ИИ, радикализации и терроризма сложна и многогранна. Учитывая одновременную осведомленность террористических групп о потенциальных преимуществах низкотехнологичной коммуникационной инфраструктуры и тактики, это рисует еще более тонкую картину.

Хотя очевидно, что возможности ИИ могут быть использованы для программ борьбы с радикализацией и профилактики, по-прежнему важно учитывать степень, в которой ИИ расширяет зону атаки, и что это означает для борьбы с терроризмом. 

Кроме того, практикующие специалисты должны также учитывать последствия использования ИИ для прав человека, включая потенциальные предубеждения, заложенные в технологии, и то, как это может повлиять на их использование в качестве инструмента профилактики, предпринимая шаги по смягчению такого вреда. Паникерство не подготовит нас к изменению тактики, методов и процедур террористов и экстремистов, но смягчение «недостатка воображения» путем серьезного отказа от группового мышления может, по крайней мере, подготовить нас к тому, что должно произойти.

Повсеместно использование ИИ в конфликтах становится все более распространенным явлением. Хотя террористические группы будут продолжать использовать новые технологии в качестве фактора, увеличивающего силу, преимущество по-прежнему имеют национальные государства, использующие автономные системы. 

Тем не менее, такое преимущество также несет в себе риски, о чем свидетельствует использование Израилем базы данных на базе искусственного интеллекта, известной как Lavender, для определения потенциальных целей в Газе, которая, как сообщила The Guardian, составила список из 37 000 потенциальных целей. 

Учитывая большое количество жертв среди гражданского населения и сопутствующий ущерб, возникло множество юридических, моральных и этических проблем, которые вряд ли будут решены в ближайшее время, даже несмотря на то, что все больше государств и негосударственных субъектов стремятся использовать такие технологии, как ИИ, для повышения своих боевых возможностей.

Основные выводы

Террористические группировки, такие как «ИГ-Хорасан» усилили свою приверженность медийному джихаду и значительно расширили свои пропагандистские возможности, в то время как новые технологии, такие как искусственный интеллект, становятся все более доступными и простыми в использовании.

В 2023 году «Исламское государство» опубликовало руководство по безопасному использованию генеративного ИИ, и всего шесть месяцев назад стало очевидно, что сторонники «Исламского государства» заинтересованы в дальнейшем использовании ИИ для увеличения масштаба и охвата публикуемого контента.

В то время как одни группировки стремятся использовать новые технологии, другие террористические организации возвращаются к низкотехнологичным решениям, чтобы обойти сложные системы наблюдения спецслужб и оборонительные структуры стран – от пейджеров до парапланов.

Источник: Институт Ближнего Востока