Select Language

AI社区

数据要素产业

英国情报机构GCHQ发布《开创新的国家安全

该情报机构的第一份公开报告详细介绍了如何“合乎道德”地将人工智能用于网络行动。

GCHQ(政府通信总部)的任务是向政府和英国及其盟国的武装部队提供信号情报和信息保障。

英国政府通信总部(GCHQ)负责人杰里米 弗莱明(Jeremy Fleming)在序言中写道:

(GCHQ的负责人由外交大臣任命,负责组织的整体运作,现任局长是杰里米弗莱明,2017年4月就任。)

“我们需要就新技术可能对社会产生的影响进行诚实、成熟的对话。

这需要在系统开发期间进行,而不是在开发之后。为此,我们必须确保(公民的)隐私权,并最大限度地发挥数字革命固有的巨大优势。”

尽管人工智能技术的犯罪潜力在各类新闻中频繁出现这增加了公众的恐惧但利用人工智能解决一些困扰人类的问题的能力却没有得到足够的关注。

GCHQ的论文强调了人工智能如何被用于:

绘制人口、毒品和武器贩运态势的可能的国际网络;

事实核查和发现深度造假媒体,以打击外国虚假信息;

在聊天室里搜寻“梳洗打扮”的证据,以防止儿童性虐待;

对大规模活动进行分析,以识别恶意软件,保护英国免受网络攻击。

这篇论文阐述了人工智能如何成为一种强大的有益工具,帮助筛选日益庞大的数据,但在决定应根据哪些信息采取行动时,人类分析师仍将是不可或缺的。

“和许多技术一样,人工智能为社会、繁荣和安全带来了巨大的希望。它对GCHQ的影响同样深远。在保护国家、人民和生活方式的许多任务中,人工智能已经是非常宝贵的。

它使优秀的分析师能够管理大量复杂数据,并在面对日益复杂的威胁(从保护儿童到改善网络安全)时改善决策。”

英国政府通信总部(GCHQ)认为,目前还不可能使用人工智能来预测一个人何时会达到激进程度,可能会犯下恐怖主义罪行。许多人对类似电影《少数派报告》(Minority Report)中描述的“犯罪前”逮捕表示担忧。

未来几年,无论是好是坏,人工智能将对生活的几乎每个领域产生重大影响,而规则还有待制定。

在应对网络空间威胁方面,报告指出,GCHQ通过其国家网络安全中心(NCSC)的作用是对抗这种威胁,而人工智能将是支持这种威胁的重要工具。它如何做到这一点的一些例子包括:

1、通过分析大规模网络和设备上的活动模式,识别犯罪或敌对行为,不断更新我们的理解,并将其与其他地方报告的活动联系起来,帮助我们识别恶意软件。

2、在积极防御网络攻击时,这一知识将帮助我们通过不断寻找复杂的模式来更快地发现恶意软件行为(“挖掘”),并从这些学习更新我们已知的模式(“字典”)。它可以通过搜索异常事件来实现这一点,比如特定的网站请求、异常数据块或可疑电子邮件。

3、帮助我们识别和追踪恶意软件的来源,以支持归类和删除其来源。当我们在构建新的能力时,同样的知识也将使我们能够加速发现和补救漏洞,并使我们能够通过帮助我们的行业生产更好的产品和服务来阻止针对软件的新攻击。我们一直在与艾伦图灵研究所(Alan Turing Institute)合作,开发利用人工智能进行网络防御的研究路线图。

商业情报公司Panintelligence的首席技术官Ken Miller评论道:

“英国政府通信总部详述其将如何公平透明地使用人工智能,是这项技术发展中的关键一步,也是企业必须遵循的一步不仅仅是在打击犯罪方面,而是在影响我们生活的所有人工智能用途方面。”作为一个社会,我们仍未确定人工智能是敌是友,但最终它只是一个工具,可以按照我们的意愿执行。

毫无疑问,人工智能就在这里,它已经触及了你生活的方方面面,而且很可能已经为你做出了今天的决定。建立对该技术的信任至关重要,它的实现需要透明,以便每个人都了解它是如何工作的,何时使用,以及如何做出决策。这将赋予人们挑战人工智能决策的权利,如果他们觉得有必要的话,这将在某种程度上消除任何耻辱。

公众完全接受人工智能决策还需要一段时间,但对该技术如何用于公共利益的问责制和更严格的监管绝对有助于这一过程。

不幸的是,我们生活在一个充满人类偏见的世界,但现在确实有机会消除这些偏见。然而,只有我们有效地训练模型,努力不受限制地使用数据,这才有可能实现。

当人类的行为表现出偏见时,我们应该给它以光亮,并通过讨论和教育来寻求改变观点我们必须教机器为我们‘思考’,我们也必须这样做。”

尽管近年来存在明目成睹的滥用行为,就像围绕战争规则的国际秩序一样比如不能使用化学武器,必须人道对待战俘许多人认为需要有这样的规则来管理人工智能,以决定什么是可接受的行为。

随着这篇论文的发布,GCHQ计划开始设定伦理框架的样子。弗莱明说:

“尽管这一前所未有的技术进步带来了巨大的机遇,但它也给包括GCHQ在内的整个社会带来了重大的道德挑战。

今天,我们正在制定我们的计划和承诺,在我们的使命中有道德地使用人工智能。我希望它能激发国内外对如何确保公平、透明和问责制的进一步思考,以支撑人工智能的使用。”

英国政府通信总部还借此机会吹嘘自己是如何支持英国快速增长的人工智能行业的。

GCHQ已经或将要支持英国人工智能发展的一些方式包括:

在他们的曼彻斯特办公室建立一个面向行业的人工智能实验室,致力于打造有助于维护国家安全的项目原型;

通过加速器计划,指导和支持总部设在伦敦、切尔滕纳姆和曼彻斯特的GCHQ办公室周围的初创企业;

支持2015年成立国家数据科学和人工智能研究所艾伦图灵研究所。

去年,英国政府通信总部委托世界上最古老的国际防务和安全智库皇家联合军种研究所(Royal United Services Institute)撰写了一篇论文,得出结论称,对手“无疑会寻求利用人工智能攻击英国”,英国将需要利用这项技术来应对威胁。

关于GCHQ

政府通信总部(GCHQ)是一情报机构和国家安全机关,向外交大臣负责,惟不隶属于英国外交部。和英国安全局(MI5)、秘密情报局(MI6)一同受到联合情报委员会(JIC)的领导。主要职责是向英国政府和英提供信号情报和信息保障。

政府通信总部的前身是建立在第一次世界大战时的政府密码学校,于1946年进行改组。在第二次世界大战期间,学校迁入布莱切利园,进行对德国英格玛机的破译工作。2013年,美国国家安全局外判技术员爱德华斯诺登披露,英政府通信总部通过颞颥计划收集英国境内所有的互联网和电话数据。这引发了民众对政府监控的担忧。

在GCHQ的网站,关于其使命的描述是这样的:

GCHQ是世界领先的情报、网络和安全机构,肩负着维护英国安全的使命

我们优秀的员工利用尖端技术、技术独创性和广泛的合作伙伴关系来识别、分析和破坏对英国的威胁。

我们的优先事项是由英国的国家安全战略、由首相主持的国家安全委员会以及联合情报委员会决定的。

我们总是力争领先那些想要伤害我们国家和人民的人一步。随着全球威胁的演变,我们的重点也在变化。我们是Covid-19大流行国家应对行动的一部分;保护NHS,支持政府的数据科学发展,提高我们国家的经济弹性。我们还在应对一个正在转变的严重犯罪威胁,它正在寻求利用危机。

我们在保护英国数字国土安全与繁荣方面的角色比以往任何时候都更加重要。

我们在五个任务领域使用三种能力来开展我们的工作。

任务领域

反恐阻止在英国发生的恐怖袭击和损害我们海外利益的恐怖袭击

网络安全使英国成为最安全的生活和网上做生意的地方

战略优势管理敌对国家的威胁,促进英国的繁荣,塑造国际环境

严重和有组织犯罪-减少严重和有组织犯罪对英国造成的社会和经济危害

防御支持保护国防人员和资产,支持综合作战方法

关键能力

收集-根据严格的法律规定,我们使用一系列方法收集我们认为有情报价值的通信和数据

分析-我们分析通信和数据,以产生情报报告

效果-我们有一系列的在线功能,可以产生现实世界的结果

系列回顾

⊙秦安战略:国民党“反共复国”红头文件谁弄的,为啥?拒统将走上“断头台”

⊙彭胜玉:封杀华为拜登若不迷途知返,中国可开刀苹果!

⊙一次战术兵棋推演实验 在地面作战中AI使能平台与人工遥控平台的功能及局限性

END