3月1日,美国人工智能国家安全委员会(National Security Commission on Artificial Intelligence,简称“NSCAI”)发布最终报告,称美国“没有做好在人工智能(AI)时代进行防御或竞争的准备”。美国需要与谁进行防御或竞争?该报告作者很清楚,竞争对手就是中国。

图为2018年中国上海世界人工智能会议中Gooogle的展区,介紹以AI实时监测癌症。(Getty Images)

美国人工智能国家安全委员会是在2018年两党努力下成立的。它的目的是就如何“推进人工智能、机器学习和相关技术的发展,以全面解决美国的国家安全和国防需求”向美国总统和国会提出建议。该委员会在2020年完成了主要工作,本月初提交了最终报告

委员会由Google前行政总裁(CEO)施密特(Eric Schmidt)担任主席,并由15位高知名度的技术专家、国家安全专家、企业高管和学术领袖组成,包括亚马逊新任行政总裁、全球第二大企业软件公司甲骨文(Oracle)的行政总裁、微软首席科学官以及Google云端平台的人工智能团队负责人。

美国为何将人工智能视为国家安全问题?

在报告发布时,该委员会副主席、前国防部副部长沃克(Robert Work)表示,人工智能工具将很快成为“首选武器”,并将加速网络攻击和虚假信息活动造成的破坏。由于人工智能的广泛应用和巨大潜力,有人甚至认为,人工智能驱动的致命自主武器(lethal autonomous weapon)可能成为“继火药和核武器之后的第三次战争革命”。

人工智能技术在军事上有很多直接的应用,比如在情报收集和作战方面。人工智能系统在军事后勤领域的应用已经有几十年了,而在网络安全领域的应用日益增多。在数字领域之外,人工智能系统正在无人驾驶飞行器和海底战争中进行测试。2016年,美国一名博士生开发的人工智能系统,能够在多次模拟战斗中击败一名退役的职业战斗机飞行员。

图为美国国防部一份建议将人工智能技术用于军队后勤的提案的第一页。(美国国防部)

然而,根据报告,人工智能对国家安全的影响不仅限于其军事用途。“人工智能并不是像战略轰炸机一样单一的技术突破。争夺人工智能霸主地位的竞赛,并不像登月的太空竞赛。人工智能甚至无法与电力这种通用技术相提并论。”

电力和人工智能都是通用技术,因为这些技术可以用来实现各种各样的任务。就像电力改变了19世纪的进程一样,有人认为机器学习和其他人工智能技术将彻底改变21世纪。

然而,人工智能国家安全委员会的报告警告说,这种与电力的类比也有其局限性。人工智能不是能源的来源,也不是快速通讯的手段,而是一种智能决策的方法。因此,它将产生与电力不同的、可能更广泛的后果,从增加经济产出到建立新的颠覆性技术。正是人工智能巨大的潜能使其成为国家安全的威胁。

军事用途只是报告中众多人工智能问题中的一个,报告还涉及到国家竞争力和一般技术优势。报告特别指出,人工智能对国家安全的影响包括“经济风险”,即被一个拥有人工智能优势的经济对手超越的风险。

拥有本国人工智能政策的国家地图。(史丹福大学AI指数)

过去半个世纪以来,美国军方之所以能保持超级大国地位,很大程度上是通过保持相较于其对手的经济和技术优势。如果未来最赚钱的企业和最强大的技术在人工智能领域里发展,那么美国要想继续保持超级大国的地位,就必须保证自己在人工智能领域的领先地位。

人工智能是国家安全的核心,因为它可以改变美国力量的基本技术和经济基础。从这个角度来看,我们就更容易理解为什么报告的作者对中国这个全球最大经济体(按购买力平价计算)如此担忧。

报告为何纠结于中国?

“中国”一词(China或Chinese)在报告中出现了699次,是“俄罗斯”的10倍。中国就是报告中美国以外第一个被提及的国家,而作者的意思很明确:在人工智能方面,中国的能力已构成威胁。

750页的报告大量介绍了“中国人工智能威胁”。(NSCAI)

报告中的主席开场白指出:“我们必须赢得正在加剧对华战略竞争的人工智能竞争。中国的计划、资源和进展都应该受到所有美国人的关注。”执行摘要的第一页警告说:“如果目前的趋势不改变,中国拥有强大的实力、天赋和野心,在未来十年内超越美国成为人工智能领域的世界领导者。”

换句话说,在该委员会看来,中国之所以是一个威胁,是因为它是唯一一个拥有足够的“实力、天赋和野心”的国家,可以消除并逆转美国国家安全所依赖的经济和技术优势。

为什么委员会“认真对待中国超越美国成为世界人工智能领导者的野心”?这些担忧可以追溯到2017年中国国务院题为《新一代人工智能发展规划》的一份计划,该规划概述了中国“抓住人工智能发展的重大战略机遇”的目标。

在中国,教育、医疗、5G、电力、制造金融、交通等多个行业领域都正在进行与AI技术的融合。(VCG)

该计划为此提出了三步走的建议,而最终目标是到2030年,使中国人工智能在基础研究和技术应用方面的能力达到世界领先水平,使中国成为全球人工智能创新中心。

中国的这一计划在美国引起了很大的关注,尤其是军方和情报界,他们担心美国在人工智能和基础研究方面都会落后。然而,这些担忧往往是基于对未来趋势的担忧,而不是实际数据。

2019年,美国安全和新兴技术中心(Center for Security and Emerging Technologies,简称CSET)的研究人员通过开源数据发现,中国不太可能像美国许多人所宣称的那样,正在每年投入数百亿美元用于人工智能研发。而且,在史丹福大学今年发布、考虑了多种经济和研发因素的人工智能活力榜单(AI Vibrancy list)中,美国以较大的优势位居第一。如果还考虑人均指标,中国仅排在全球第四位,仅次于新加坡和瑞士。

不过,尽管如此,报告还是坚定地认为中国带来人工智能的竞争威胁。为了与中国人工智能的支出相匹配,委员会的核心建议之一是“大幅增加”联邦在人工智能方面的支出,“每年翻一番,从2022年的20亿美元,到2026年的320亿美元”。

史丹福大学发布的2020年全球人工智能活力榜单。(aiindex.stanford.edu)

看来,中国的经济实力加上其10年人工智能规划,吸引了美国决策者的想像力,这也让他们产生了剧烈竞争的心态。

这是AI军备竞赛的开始吗?

虽然报告没有使用“军备竞赛”一词,也提到了合作的必要性,但作者的最终逻辑还是明确的:“美国政府必须拥抱人工智能竞争,并组织起来赢得这场竞争。”报告作者明确表示,他们认为在人工智能竞赛中失利的威胁“需要采取全面的、全国家(whole-of-nation)的行动”。

整份报告都充满了对中国人工智能规划背后的“中央计划和国家指导的经济模式”的戒心。因此,报告重点提出了通过“政府主导的技术战略”提高美国自身人工智能治理能力的建议。

中美在人工智能领域竞争激烈,图为2019年7月,中国南京软件产业博览会上的人工智能机器人展台。(VCG)

除了增加资金,报告还建议想办法培养和吸引更多的人工智能人才进入美国政府。报告建议建立一个“数字军团”(Digital Corps),将熟练的技术人员引入政府,并建立一个“数字联邦军事院校”(Digital Service Academy):由一所经联邦政府的认可的大学提供补贴教育,以换取学生毕业后在政府工作一段时间的承诺。

通过将更多的人工智能专家变成国会或白宫的工作人员,报告作者希望给决策者提供更多的人工智能知识,并对抗他们所认为的中国“中央指导的系统计划,从国外提取人工智能知识”。

然而,有些人担心这种心态会导致人工智能时代危险的新形式军备竞赛。他们指出,人工智能系统正在各个领域实现人类水平或超越人类水平的能力,任何错误都很容易逃脱人类的控制,因此,在人工智能研究中谨慎行事比以往任何时候都重要。相反,人工智能军备竞赛会鼓励各国加快研究速度,追求越来越高风险的技术。这可能会使人类面对的人工智能的风险越来越难以控制。

人工智能领域的发展或能给人类社会带来变革,但是也有人警告人工智能亦可能是人类存亡最大威胁。(视觉中国)

然而在这一点上,报告似乎将“竞争”置于“谨慎”之上。虽然报告承认中美人工智能产业之间“有着深刻的相互联系”,而“美国和中国并不像苏联和美国在太空竞赛中那样在平行通道上运作”,但报告仍然认为,在“新兴的美中竞争 ”中,“研究、开发和部署人工智能及相关技术的竞赛已经在加剧战略竞争”。

这种心态的一个显著例子是,作者敦促拜登总统拒绝全球禁止人工智能动力自主武器的呼吁。他们的论点呢?中国和俄罗斯不会遵守这一规则,因此同意这一规则会使美国处于不利地位。

这种逻辑难道不是军备竞赛的逻辑吗?

推荐阅读:

「版权声明:本文版权归多维新闻所有,未经授权,不得转载」


新闻来源:多维新闻网