环境、事实、事件
09.10.2024
美国专家讨论影响恐怖主义威胁的新趋势
美国安全专家指出,目前出现了明显的趋势,这些趋势的结合可能会在短期和长期内对恐怖主义威胁产生重大影响。
第一个趋势是个人和小团体使用一系列新技术的障碍减少,包括人工智能(AI)。许多人工智能服务,包括大型语言模型(LLM),不仅是免费的或开源的,而且许多人工智能生成工具直观的用户界面使得一些人工智能/机器学习应用程序的使用变得非常容易。
恐怖分子和其他极端分子已经并将继续以多种方式将人工智能用于组织和操作目的,包括:宣传。互动招募;自动攻击(如无人驾驶飞机);使用社交网络;网络攻击等等。
与此同时,“伊斯兰国呼罗珊”等恐怖组织加强了对媒体圣战的承诺,并大幅扩大了旨在传播恐怖、吸引支持者和新招募人员的宣传能力。
来自不同意识形态背景的众多国内和国际恐怖组织和极端主义团体已经发布了关于如何安全和有效地使用人工智能生成内容的明确建议。2023年,“伊斯兰国”发布了如何安全使用生成性人工智能的指南。
与此同时,反恐技术组织在极右翼的公告板上发现了一个帖子,其中包括一本关于模因战争的手册,以及使用人工智能来创建这些宣传模因。
今年4月,“伊斯兰国”支持者表示有兴趣进一步利用人工智能来扩大其公开内容的范围。该小组试验了一个“通讯”,即一个视频片段,大声宣读由人工智能化身提出的“伊斯兰国”声明。
在3月底“伊斯兰国呼罗珊”袭击克罗库斯城音乐厅后,一名“伊斯兰国”支持者利用加密平台Rocket Chat发布新闻视频,伴随着更广泛的反俄罗斯宣传活动。公告使用了人工智能创造的人物来模仿新闻机构,视频美学的设计是为了模仿主流媒体的广播风格。该集团所谓的“新闻收集”节目也是一个人工智能视频新闻节目,该集团利用该节目来描述其在世界各地的业务。这种宣传是通过使用人工智能文本到语音转换来准备的,将书面信息翻译成语音和音频可信的人类声音,而视频生成器则有助于创造其他真实的效果。
恐怖组织不仅可以使用人工智能的媒体和宣传部分。恐怖分子的战略和战术不可避免地会发生变化,因为他们的目标是最大限度地扩大其攻击的影响,并尽量减少被发现和逮捕的可能性。
至于招募,众所周知,基于人工智能的聊天机器人非常有效地使人们激进。2021年,一名居住在英国的19岁印度少年试图在温莎城堡杀死女王伊丽莎白二世,以报复1919年贾利安瓦拉巴格大屠杀。他在网上与女友聊天,她实际上是他创建的人工智能聊天机器人。
虚拟招募者和虚拟规划建议在各种极端主义团体中的重要性,特别是那些依赖单身或受启发的演员的团体,将不可避免地通过使用训练有素的生成人工智能系统来提高,该系统可以对新兵的波动或后勤支持作出反应。他可能需要的。
基于人工智能的系统也存在明显的漏洞,恐怖分子可能会试图利用这些漏洞。许多人工智能技术已经被引入现代作战中,特别是无人驾驶飞机。萨拉·洛曼(Sara Loman)教授说,恐怖分子已经在研究使用自动化车辆进行袭击的可能性。交通管理系统可能会遭到黑客攻击和操纵,导致大规模死亡。
第二个趋势是,虽然恐怖组织使用人工智能等先进技术来简化其业务任务,但它们也越来越多地同时转向低技术解决方案,以避免情报部门的监视。
事实上,真主党秘书长哈桑·纳斯鲁拉(Hassan Nasrallah)在2023年10月7日的事件之后,明确呼吁其成员加强行动安全,将移动设备改为寻呼机和无线电,此后不久黎巴嫩发生了寻呼机爆炸。因为它们相对容易被拦截。
10月7日,低技术战术的另一个显著例子是哈马斯对以色列发动协调进攻,使用低成本无人机摧毁边界沿线的前沿监视系统。这一战略威胁到以色列价值10亿美元的边境防御系统,该系统被认为是世界上最安全的系统之一,允许数千名武装分子渗入以色列领土。同一天,哈马斯使用双座和单座滑翔机进入以色列,在冲突局势中创造性地利用低技术创新。
人工智能、激进主义和恐怖主义问题是复杂和多方面的。鉴于恐怖主义集团同时意识到低技术通信基础设施和战术的潜在好处,这就更为微妙。
虽然人工智能的能力显然可以用于激进和预防计划,但考虑到人工智能扩大攻击范围的程度以及这对打击恐怖主义意味着什么仍然很重要。
此外,从业者还必须考虑人工智能的人权影响,包括技术中潜在的偏见,以及它如何影响人工智能作为预防工具的使用,同时采取措施减轻这种伤害。危言耸听并不能让我们为改变恐怖分子和极端分子的战术、方法和程序做好准备,但通过彻底摒弃集体思维来缓解“想象力不足”至少可以让我们为即将发生的事情做好准备。
人工智能在冲突中的应用越来越普遍。虽然恐怖组织将继续利用新技术作为增强力量的一个因素,但使用自主系统的民族国家仍然具有优势。
然而,这种优势也存在风险,以色列使用一个名为Lavender的人工智能数据库来确定加沙的潜在目标就是明证,据《卫报》报道,该数据库列出了37000个潜在目标。
考虑到大量平民伤亡和由此造成的损害,尽管越来越多的国家和非国家行为体寻求使用人工智能等技术,但仍出现了许多法律、道德和伦理挑战,这些挑战不太可能在短期内得到解决,以提高其作战能力。
主要调查结果
“伊斯兰国呼罗珊”等恐怖组织加强了对媒体圣战的承诺,并大幅提高了宣传能力,同时人工智能等新技术越来越容易获得和使用。
“伊斯兰国”于2023年发布了一份关于安全使用生成性人工智能的指南,就在六个月前,“伊斯兰国”的支持者显然有意继续使用人工智能来扩大已发布内容的规模和覆盖范围。
当一些组织试图利用新技术时,其他恐怖组织正在转向低技术解决方案,以绕过从寻呼机到滑翔伞等复杂的国家监视系统和防御结构。
来源: Институт Ближнего Востока