导语：“科林格里奇困境”迎来临界点
美军参谋长联席会议主席马克·米利认为，人工智能（AI）在军事方面的发展“是人类历史上出现的最为深刻的变化”。未来几十年内，武器技术也将发生巨大变化，这种变化将像从刀剑到步枪、从步枪到机枪的转变一样彻底。随着ChatGPT爆火，基辛格更是发出警示：“人工智能这项研究的破坏力远超核弹，人类有可能会被灭绝”。巨大的风险将中美两国推向全球AI治理的最前线。
技术与战争之间相互作用构成了一种动态、双向的关系，这种关系在历史上不断演变，并将继续塑造未来战争的面貌。恩格斯曾预言，无论军事领导层的愿望或计划如何，一旦技术发展被用于军事目的，它就会立即，几乎是强行地引起作战方法的转变甚至剧变。美国网络安全和基础设施安全局局长珍·伊斯特利警告说，AI可能是“我们这个时代最强大的武器”。如今，人工智能军事化（militarization of AI）对全球安全和战争正产生严重影响，AI全球安全治理成为全人类面临的共同课题。在军事领域，AI如何彻底改变国防技术成为其最具争议的用途之一。2023年12月1日，英国上议院人工智能武器系统委员会发布《谨慎行事：武器系统中的人工智能》报告，警告在自主武器中谨慎对待AI技术。AI的武器化已经成为现实，而自主武器中AI的应用或将给人类带来意想不到的、不可预见的、前所未有的破坏性后果，AI技术的快速演进超出了现有法律和伦理框架的调整速度。尽管国际层面、区域层面、国家层面等各相关行为体针对自主武器系统中AI应用的规制展开了多层次的治理行动，但仍存在显著分歧，面临诸多挑战。
俄乌冲突是第一场真正意义上的网络时代战争，是现实空间局部战争与网络空间全球一体化舆论战第一次高度融合的战争，既标志着人类战争形态与方式的转变，也标志着舆论战范式发生了根本转变
［1］。与此同时，它还成为全球AI前沿技术的“超级实验室”，极大地突破了法律和伦理的制约与边界，一种新型的战争形态已然形成
［2］。英国技术哲学家大卫·科林格里奇发现，在技术早期阶段，由于缺乏对其社会影响的充分认识，难以准确预测需要进行哪些调整。而当技术广泛应用并深入社会结构，其不良后果变得明显时，想要进行修改或控制就变得复杂、成本高昂且耗时，有时甚至难以实施。“科林格里奇困境”揭示了技术发展与社会控制之间的难题。从俄乌冲突到以 ChatGPT和Sora为代表的生成式AI的爆发，“科林格里奇困境”已经来到了临界点。人类发明原子弹以后，芝加哥《原子科学家公报》组织科学家们创建了“末日时钟”，以提醒人类社会在面临毁灭性的灾难。如今，AI技术的潜在危害和风险或正在超越原子弹。因此，评估AI风险并采取相应控制措施，成为未来的一项重要任务。在AI军事应用背景下，传统的战略稳定问题正在发生极大变化，如果不能及时把握变化态势，可能对国家安全带来重大风险。
如今正在进入一个以“斗争、变革、竞争、使用武力、组织国家资源增强国家力量”为特征的大国竞争时代，引入基于AI的武器系统很可能会在高端技术国家引发一场军备竞赛
［3］。其中，生成式AI的突破正在打破全球技术力量平衡，或将在未来几十年对国家权力产生重大影响。因此，有研究者认为，中美AI发展竞争需要从AI军备竞赛的言论中重新定义
11 SHERMAN J. Reframing the U.S.-China AI“arms race”[EB/OL].（2019-03-06）[2024-02-01].https://www.newamerica.org/cybersecurity-initiative/reports/essay-reframing-the-us-china-ai-arms-race/.
。相对而言，地缘政治也阻碍着AI技术的全球监管，一个由AI引发的分裂的世界正在形成
22 HUQ A. A world divided over artificial intelligence[EB/OL].（2024-03-11）[2021-03-21]. https://www.foreignaffairs.com/united-states/world-divided-over-artificial-intelligence.
。
一、正在临近的人工智能战争
军事技术革命常常使战争发生更大、更广的变革，这种剧烈的、跨越式的变革将颠覆现有的战争形态
［4］，AI正被称为是继火药和核武器之后的第三次军事革命。目前学界对于“人工智能战争”的定义还没有统一的认知，其原因是AI和战争都是太过复杂和宏大的概念。AI在一场总体战争中介入的可能性几乎是无限的，体现在战争的各个方面。杜克大学历史学家亚历克斯·罗兰认为，技术比其他任何外部力量更能塑造战争。AI正在成为广泛军事应用的潜在推动者和力量倍增器。随着多个国家的国防科学和技术实验室对AI和机器学习等应用进行公开竞争，这些技术在军事领域的应用潜力已获得认可。美国军方正在使用AI来优化从设备维护到预算决策的一切。情报分析师依靠AI快速扫描海量信息，识别相关模式，使他们能够作出更好的判断并更快地作出判断。如新美国安全中心主席Michèle Flournoy所言，AI战争引发的是一场安全革命，而这场革命才刚刚展开
33 FLOURNOY M A. AI is already at war[EB/OL].（2023-10-24）[2024-03-01]. https://www.foreignaffairs.com/united-states/ai-already-war-flournoy.
。
AI在战争中的价值体现在多个方面，包括情报分析、自主武器系统、决策支持、网络战、后勤与支援以及心理战与信息战等。自主武器系统往往主导AI在军事应用中的讨论，但很少有人关注AI在实际冲突中支持人类决策系统的使用
44 STEWART R，HINDS G. Algorithms of war: the use of artificial intelligence in decision making in armed conflict[EB/OL].（2023-10-24）[2024-03-01]. https://blogs.icrc.org/law-and-policy/2023/10/24/algorithms-of-war-use-of-artificial-intelligence-decision-making-armed-conflict/.
。当前的军事机器学习竞赛和应用往往侧重于自动化过程、优化过程，或者两者的某些组合，AI被用于处理和分析大量数据，包括卫星图像、通信拦截和开源情报，帮助军事分析师快速识别潜在的威胁和机会，从而为情报工作提供支持。其中，人工智能决策支持系统（AI-DSS）使用AI软件来显示、综合和分析数据，并在某些情况下提出建议，甚至进行预测，以帮助人类在战争中作出决策。当多个过程结合在一起产生决策支持系统时，机器学习的增强价值得以实现。AI-DSS的优势通常表现为增强态势感知和更快的决策周期，如指挥官在动态的战场环境中使用智能虚拟助手（IVA），能够极大地提升指挥效率和决策质量。同时，对IVA的依赖也将带来潜在的安全风险，需要通过持续的技术改进和安全措施来管理。除了在情报和决策制定层面，AI和机器人制造结合的武器系统也是AI战争的重要体现。AI武器考虑了机器学习、机器人技术和大数据等技术，已经可以与核技术、航空航天技术、网络空间技术和生物技术平齐。工业界和国防专家对于AI武器在未来战争中会产生进化性的影响也已达成共识。
AI武器化将造成潜在的、不可逆转的破坏。对于AI战争的风险，学者们也进行了众多讨论。大范围的AI增强自主武器系统（AWS）扩散可能对未来战争中的核安全和升级产生重大的战略影响
［5］。专家们普遍认为，AI机器学习系统是实现完全自主系统必不可少的一个组成部分
［6］4-5。即使AI机器学习系统仅用于常规行动，其扩散仍可能破坏稳定，并增加无意中核升级的风险
［7］。例如，AI增强型无人机群可用于核武器国家针对地面防空系统的攻击性飞行，以保护其战略资产（发射设施及其随之而来的指挥、控制和预警系统），并对较弱的核武器国家施加压力，要求它们在使用或丢失核武器的情况下作出反应。AI和自主性方面的最新进展显著提高了大国对一系列自动武器系统开发的认知作战价值，可能使自动武器系统的致命权力下放产生一种越来越不可抗拒但破坏稳定的前景
55 KNIGHT W，HAO K. Never mind killer robots–here are six real AI dangers to watch out for in 2019[EB/OL].（2019-01-07）[2024-03-01].https://www.technologyreview.com/2019/01/07/137929/never-mind-killer-robotshere-are-six-real-ai-dangers-to-watch-out-for-in-2019/.
。也就是说，在战略竞争对手（传统上保守的军队）的尖端作战资产中，防御或获取技术上的优势可能会避免部署不可靠、未经核实和不安全的自动武器系统等潜在风险。因此，影响稳定性和升级的主要风险是当前AI机器学习软件迭代的技术局限性，如脆弱性、可解释性、机器学习的不可预测性、易受颠覆或“数据投毒”的影响，以及AI系统易受偏见影响。此外，AI系统还可用于设计和实施“能够破坏关键基础设施的网络攻击”。
从目前对新兴技术的了解来看，新的AI增强的先进常规能力（如网络武器、精确弹药和高超音速武器）将增加军事升级的风险，特别是无意和意外的升级。“核混合”
66 KRISTENSEN H M，MCKINZIE M，POSTOL T A. How US nuclear force modernization is undermining strategic stability： the burst-height compensating super-fuze［EB/OL］.（2017-03-01）［2024-03-01］. https：//thebulletin.org/2017/03/how-us-nuclear-force-modernization-is-undermining-strategic-stability-the-burst-height-compensating-super-fuze/.
ELBRIDGE A C，MICHAEL S G. Strategic stability：contending interpretations［EB/OL］.（2013-02）［2024-03-01］. https：//carnegieendowment.org/files/Reclaiming_Strategic_Stability.pdf.
、“纠缠和非核能力”
77 BOULANIN V，SAALMAN L，TOPYCHKANOV P，et al. Artificial intelligence，strategic stability and nuclear risk［EB/OL］.（2020-06-18）［2024-03-01］. https：//policycommons.net/artifacts/2324586/artificial-intelligence-strategic-stability-and-nuclear-risk/3085114/.
以及战争速度的加快可能会破坏战略稳定
88 PERRIGO B. Exclusive：U.S.must move“decisively”to avert“extinction-level”threat from AI，government-commissioned report says［EB/OL］.（2023-03-11）［2024-03-01］. https：//time.com/6898967/ai-extinction-national-security-risks-report/.
。虽然新出现的技术已在学术文献中得到广泛讨论，但目前为止，学界对军事AI加剧了这些风险并引发了无意中的升级进行的研究较少
［8］。值得注意的是，虽然AI目前发展迅速，但与其他军事技术相比，国防领域的AI技术仍处于相对初级阶段，其真正的应用范围尚未完全实现。在最糟糕的情况下，最先进的AI系统可能会“对人类物种构成灭绝级的威胁”。而更不该被忽视的事实是，根据国际人道法制定的用于监管“硬件”的国际机制不足以抵御基于AI武器带来的“软件”挑战。相反，国际法“以人为本”的原则正在被AI决策以及大国竞争引发的更多暴力和不稳定所侵蚀
［9］。
军事智能已经进入实战应用。大国在军事高科技领域和武器装备发展方面竞争日趋激烈，推动具有颠覆性的新质技术走向实战，加速推进AI的军事化应用
［10］。由于AI技术本身的不确定性及其治理机制的不完善，AI武器化应用将可能弱化人类对战争的把控权，增加战争发生的可能性，冲击现有国际秩序的稳定性，挑战国际法规的基本原则，甚至引发复合型危机
［11］。俄乌冲突为了解 AI战争提供了第一个重大的现实案例，为AI如何引发大国博弈风险提供了实证性证据。因此，可以从俄乌冲突的实际案例出发，复盘冲突中的AI应用，并结合中国当前AI发展现状提出战略与对策。
二、俄乌冲突中的人工智能应用
AI在战争中的应用提高了作战效率和精确度，但也带来了道德、法律和安全方面的复杂问题，如自主杀伤性武器系统的使用等，这些都是需要国际社会共同考虑和管理的重要问题。纵观此次俄乌冲突中的AI应用，主要可以分为无人机蜂群、AI情报和信息“烟雾弹”三个部分。这三种AI的军事化应用分别在战场上、战场之后以及社会舆论上起到了革命性的作用。
在自主系统领域，大量的AI技术正在被整合，包括视觉感知、语音、面部识别和决策工具。这些进步使得空中拦截、两栖对地攻击、远程打击和海上作战等各种核心作战无需人工干预即可进行。目前，只有少数武器系统具有这种自主能力，例如游荡攻击弹药，也称为“游荡弹药”或“自杀式无人机”。这些无人机可以使用预设的瞄准标准，锁定敌方雷达、船只或坦克等目标。利用AI技术，它们可以在感知到敌方防空雷达时进行检测并发动攻击。自动监视系统的这种复杂功能确实会使一个国家预测和可靠地识别自主攻击的能力复杂化，使它们有别于现有人工操作的自动化系统，如有人系统和遥控无人机。
此类技术的发展最早可以追溯至1981年，当时以色列在对叙利亚的战争中引入了带有监控摄像头的小型装置。随着时间的推移，美国军方接受了这一概念，将这些简单的无人机转变为复杂的机器，例如“捕食者”和“死神”无人机，就是以侦察、攻击、防御等为一体的强有力AI武器。这些耗资数百万美元的无人机在执行伊拉克和阿富汗任务时不可或缺。从阿塞拜疆和亚美尼亚之间的战争以及最近的俄乌冲突中，大量的实例已经证明现代无人机在战争中发挥的关键作用。
随着俄乌冲突发展至今，对无人机作为战术技术的依赖呈指数级增长。这些无人机具有多种功能，从侦察任务到导弹袭击，并且在尺寸和功能上有很大差异。它们的范围从主要用于监视的DJI Mavic 3等改装商用无人机到土耳其制造的Bayraktar TB2等攻击无人机，后者需要跑道并由地面控制站操作。无人机的重要性在战争初期就已经突显，当时乌克兰军方人员利用无人机监视俄罗斯军队的行动。同样，俄罗斯军方经常利用无人机探测平台 DJI AeroScope等技术来定位乌克兰军队。认识到无人机的重要作用，乌克兰总统泽连斯基于2022年7月发起了“无人机军队”呼吁，寻求用私人资金从全球购买一支军用级无人机（UAV）机队。乌克兰数字化转型部长Mykhailo Fedorov称，该项目已经购买了1 765 架无人机，并培训了3 500名军事人员来操作。2023年10月初，当俄罗斯使用伊朗制造的 Shahed-136神风敢死队无人机打击乌克兰军队后，无人机对战成为俄乌冲突的主要方式。2023年10月下旬，乌克兰海空无人机对克里米亚塞瓦斯托波尔港发动袭击，对俄罗斯黑海旗舰“马卡洛夫海军上将”号护卫舰造成实质性破坏。此外，2023年2月底，一架乌克兰制造的UJ-22无人机在莫斯科附近被击落，导致该市安装了防空系统。此后，乌克兰军队组建了60个新的攻击无人机中队。
AI在情报方面起到了重大作用，其作用不仅限于武器的结合，还为情报收集做出了重大贡献。其中，人脸识别技术在俄乌冲突中尤为引人注目。计算机视觉是AI 的一个子领域，在战场中被广泛使用，机器学习工具用于分析图像等数据，这是一种在情报界广泛使用的技术，关键功能包括图像和目标的检测、分类、识别和定位。通过卷积神经网络等深度学习方法，AI可以在海量图像数据中快速、准确地识别和打击敌对目标。例如，美国面部识别公司Clearview AI允许乌克兰政府部门访问其面部数据库。通过使用从俄罗斯社交平台收集的图像和搜索引擎，可以识别俄罗斯特工并验证死者身份。乌克兰利用人脸识别技术查明俄战俘和阵亡士兵身份，公开信息进行心理战，引发不少争议。
SpaceX旗下的Starlink服务已在乌克兰启动，Starlink是SpaceX开发的低地球轨道卫星星座，具有广泛的军事能力。它提供全球波束覆盖、全天候、高速、低成本的军用通信能力，具有增强军用导航定位系统的精度和抗干扰能力、实时监控地面导弹基地等优势。美国等西方国家的援助让乌克兰具备了全频谱战场态势感知能力。AI服务器集群使乌克兰能够进行实时战场态势评估。在强大的战场感知能力和基于AI的兵棋推演计算下，乌克兰可以实时洞察对方的兵力部署、火力配置、后勤保障基地、运输能力、部队运动方向等。这些信息对于制定作战策略和后勤保障计划至关重要。同样，俄罗斯也利用卫星网络，依托AI系统，及时收集、分析、计算与乌克兰军力相关的数据，通过AI系统统计分析，进行针对性攻击，评估战损。然而，将美国和西方国家挑起的自下而上、高度协调、统筹规划、实时联动的战争与俄罗斯的网络战、贸易战、金融战进行比较，凸显出明显的不对称性。
过去，战时策略通常包括切断水、电和互联网。智能时代战争中，AI基础服务可能更为关键，因为AI应用需要算力，而算力又依赖于基础设施。如果数据中心和云服务被终止，无人机和无人坦克等无人设备以及其他各种智能系统将失去重要的“能源”，影响其可持续运行。
除上述应用外，AI还被用于传播虚假信息或制造“信息烟雾弹”。俄乌冲突开始时，一段被操纵的视频在社交媒体上流传，据称是伪造乌克兰总统泽连斯基的视频。这段视频显示了乌克兰总统敦促他的士兵向俄罗斯军队投降，在被揭穿和删除之前引起了相当大的轰动。尽管这个深度伪造视频的创建者至今身份不明，但乌克兰官员已经预料到这样的事件，认为俄罗斯可能会传播这种被操纵的视频，作为其信息战战略的一部分。为了教育公众，乌克兰军事情报机构发布了一段视频，展示了国家资助的深度造假技术如何被用来制造混乱和引发恐慌。虽然这种伪造视频最终会被识破，但是其带来的迷惑性依旧足够引发恐慌。乌克兰本身也使用了类似技术，一段伪造的俄罗斯总统普京宣布戒严并开展军事动员的公告在俄罗斯多家广播电视网络上播出，克里姆林宫将这一事件称为“黑客攻击”。这份虚假公告谎称乌克兰入侵了俄罗斯三个边境地区，并敦促其居民撤离到俄罗斯腹地，还以普京的人物形象为特色，呼吁对“危险而阴险的敌人”进行全面动员。根据Mir新闻服务向俄罗斯国家通讯社发表的一份声明，俄罗斯广播在恢复正常服务之前被非法中断了半个多小时。
这些实例说明AI有可能成为虚假信息和心理战的工具。在政治冲突中使用深度伪造技术威胁到信息的真实性，并凸显了在日益数字化的世界中对先进检测和验证系统日益增长的需求。这些是AI领域令人不安的发展，需要谨慎探索和出台强有力的监管措施。
三、中美博弈中的AI风险：现实与潜在后果
在中美竞争的背景下，AI技术的发展和应用引发了一系列风险，这些风险既包括当前面临的实际挑战，也涉及未来可能产生的潜在后果。中美技术竞争、数据安全与隐私问题以及对国际规则和标准的争夺，是当前全球政治经济领域最为关注的议题之一，尤其在AI等前沿技术领域表现得尤为明显。而潜在后果可能包括不受控制的军备竞赛、误解和冲突的增加以及全球治理结构的瓦解。俄乌冲突已经表明了AI军事化的危险性及其不可控性。有专家认为，中美在军事化方面的AI竞赛中处于领先地位，或最终引发两国之间的军备竞赛。这场竞赛的范围不仅限于中美两国，俄罗斯和印度等国也加入进来并正在寻求自主武器
［12］219-239。
强大的AI基础决定了中美在AI战争中扮演的角色将远比俄乌冲突更重要。“如果主要大国不想办法限制AI的影响力，将演变成一场导致灾难的疯狂竞赛。”基辛格呼吁目前在AI领域走在世界前沿的中美两国，就如何对AI设置道德规范和行为准则展开紧急对话。他建议中美可以启动一场高科技安全对话，并达成协议，从而“首先建立规模相对较小的机构，其职责是通报危险，并就如何降低风险进行沟通”
99 Henry Kissinger explains how to avoid world war three[EB/OL].（2023-05-17）[2024-03-01].https://www.economist.com/briefing/2023/05/17/henry-kissinger-explains-how-to-avoid-world-war-three.
。遗憾的是，随着AI技术的飞速发展，美国对中国的敌意不断上升，中美之间的沟通并没有相应增加。相反，两国关系的恶化导致在一系列问题上直接沟通的中断。在双方都警惕地监视对方发展新型AI武器系统，并尝试评估对方进展所带来的影响时，这种缺乏沟通使得原本就存在的安全问题更为严重。当然，地缘政治激化之下，双方依然没有放弃努力。2023年11月举行的中美元首旧金山会晤达成了重要共识，其中之一就是基辛格生前积极推动的成果，中美双方明确提出建立人工智能政府间对话机制，这是非常关键的进展。此前，中美双方在2023年7月和10月两度在瑞士日内瓦举行会议，进行有关AI安全的秘密外交。
自主武器和AI技术的发展正导致不对称的威慑关系，AI技术的潜在变革性质可能会改变战略威慑的本质，而拥有先进技术的国家能够获得战略优势。这种技术差距会破坏传统的相互保证毁灭的威慑模式，创造出新的威慑动态。美国正试图制定并建立军事AI的国际责任框架，推动制定与其价值观和战略利益相一致的标准。2023年初，美国国防部对2012年11月21日签署的《自主武器系统指令》进行了更新。修订后的指令明确了对AI武器研制及使用的态度，那就是不作特定的限制，只要满足试验鉴定的需要即可。相较于10年前的版本，修订版最大的改变就是对AI在军事中的应用大幅扩张，这意味着美军为AI武器化打开了所有大门。美国国务院于2023 年2月16日在荷兰海牙“军事领域负责任使用AI峰会”上发布《关于负责任地军事使用人工智能和自主技术的政治宣言》（Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy）；2023年11月21日，美国国务院宣布已有46个国家支持其政治宣言。
相较于美国主要聚焦AI的战略协作和研发，中国更注重推进AI实践的部署
［13］。“AI已成为国际竞争的新焦点，是引领未来的战略性技术，世界主要发达国家都将发展AI作为提升国家竞争力、维护国家安全的重大战略。”2017年7月，中国国务院发布了新一代人工智能发展规划（AIDP），充分表明了中国对于AI 发展的重视程度。AI还是中国政府“十四五”规划列出的技术重点之一。正如《新时代的中国国防》白皮书中所指出的：“国际军事竞争正在发生历史性变化，以信息技术为基础的高新军事技术发展迅速，发展远程精确化、智能化、隐身化或无人化的武器装备成为大势所趋。信息化战争、智能化战争即将到来。”
1010 新时代的中国国防[EB/OL].（2019-07-24）[2024-03-01]. https://www.gov.cn/zhengce/2019-07/24/content_5414325.htm.
这也说明，中国已深刻认识到AI在未来战场中的作用和意义。在AI增速发展的同时，保障国防安全成为必要之举。
AI武器系统在提升现代战争效率的同时，也带来了一系列挑战，包括技术缺陷、数据偏差问题以及人机协作困难，这些问题可能导致冲突的升级和错误的军事决策。首先，AI固有的技术缺陷可能使攻击者难以限制其攻击范围，从而使被攻击者遭受过度的附带损害并可能导致冲突升级。AI武器不仅要区分军事目标和民用目标，还要防止对民用目标造成过度的附带或间接损害。然而，现有的技术能否确保在使用武力时满足这些条件，仍存在不确定性。其次，由机器学习驱动的AI技术浪潮需要海量数据，但目前还无法完全防止算法和训练数据集将偏差引入AI系统的应用。因此，AI存在向决策者提供错误建议的风险。如果训练数据集被他国污染，导致系统提供不正确的侦察信息，军事决策者可能会作出错误的判断并进行武断的军事部署。最后，人机协作困难是AI军事化的终极挑战。机器学习和大数据处理机制存在局限，AI的各种方法，如行为主义强化学习、连接主义深度学习和符号专家系统，无法准确反映人类的认知能力（如直觉、情感、责任和价值）。AI的军事应用是一个人—机—环境一体化的协同过程，机器在可解释性、学习性和常识性方面的缺陷会放大战场冲突的风险，甚至导致国际危机的升级。
在战略层面，AI力量不是像核弹数量一般的“明”力量，而是暗藏在算力、算法、制造能力等多个维度的“暗”力量。这容易导致双方信息不透明，从而造成“战争迷雾”。这种特质导致AI力量的平衡比冷战时期的核平衡更加困难。中美两国都很难评估和判断对手在AI上的能力和将其军事化的能力，这容易导致战略上的误判，使得双方陷入冷战思维，从而进行疯狂的AI竞赛。在社会层面，一个潜在风险在于AI在虚假信息传播上具有极其强大的能力，这很有可能造成战略误判。此外，由于AI技术容易扩散，一旦落入黑客手中，很可能危害公共安全。例如，无人机和深度伪造技术能轻易将个人行为上升到国家安全层面，导致一种极其危险的结果。
因此，随着AI技术的持续发展和应用范围的不断扩大，其在军事领域的应用不仅重新定义了战争的形态和规则，也使国际安全环境产生复杂性和不确定性。在这种背景下，加强国际合作，建立有效的监管机制，减少误解和误判的可能性，避免AI技术军事化导致的潜在风险显得尤为重要。同时，必须警惕AI技术在虚假信息传播和公共安全领域的滥用，确保技术进步服务于人类福祉。在这个智能时代的“新冷战”中，理性、对话和合作比以往任何时候都更加重要，这将是面对AI带来的挑战时不可或缺的力量。
四、中国的战略主张和对策
中国的AI治理进程围绕着AI发展与治理双管齐下，从2017年国务院印发《新一代人工智能发展规划》的通知到2023年国家互联网办公室联合六部门发布《生成式人工智能管理办法》。中国算法治理升级，治理体系进一步完善，制度构建与监管落地同步进行。2023年2月，中国发布《全球安全倡议概念文件》。在该倡议框架下，提出了20个重点合作方向，其中既包括推动政治解决国际和地区热点问题、联合国框架下维和行动、维护核不扩散体系、常规武器军控进程等传统安全领域，也涉及气候变化、信息、生物、外空、人工智能、公共安全等非传统安全领域。2023年 10 月，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式上发表主旨演讲，提出全球人工智能治理倡议，发出了引领全球人工智能治理的中国强音
［14］。中国围绕AI的“连环拳”基本上属于应急形式。随着AI治理扩展到AI武器化、军事化，如何调整和改变原有的监管思路和逻辑成为中国AI治理亟需解决的问题。
第一，通常新的技术军备竞赛没有规则，也很少设置护栏。因此，中国应基于总体国家安全观构建一体化的国家战略体系，提升国家安全治理能力，摸索出适用于本国国情的人工智能国防战略，维护国家安全
［15］。在AI武器化背景下，应构建“向前防御”的新型战略稳定策略。在潜在威胁发展到关键阶段之前就进行积极预防和干预。同时，对于AI武器化的管控不能仅从中国自身出发，与美国和欧盟等世界各国和地区制定共同的标准、达成互相制约的协议才是避免AI战争风险的解决之道。
第二，由于基于机器学习的现代AI系统经常以意想不到的方式运行和失效，要解决这个问题需要更多的AI专家建立一套合理的测试和评估制度。目前AI发展速度日新月异，要保证评估系统及时有效地更新迭代，从而不断更新对于AI风险的观念。这套风险评估体系应该由中国、美国、欧盟等世界各国和地区共同制定，以便形成统一的共识和治理模式。AI武器系统的使用应符合习惯法和国际法原则，尤其是区分原则和相称性，这需要AI武器系统的开发和操作人员接受培训，并确保充分遵守习惯法和国际法。
第三，AI武器系统应该在适当的人类监督或控制下运行，特别是考虑到这些系统的技术局限性。AI战争的伤害性已经不低于核战争和生化战争，建立一套多方监督的监管机制将有利于避免AI战争风险。此前，核武器方面有《不扩散核武器条约》和在2022年五个核武器大国发布的《防止核战争与避免军备竞赛》宣言等一系列条款限制核力量，AI也应该仿照核相关协议，进行全球化的监督和治理。战争是混乱的、致命的，是人与人之间的意志冲突，战争双方都试图通过武力改变对方的行为。因此，必须在冲突和战争中开发和使用AI时坚持“以人为本”的原则。
第四，AI治理是一个全球性问题，而不仅仅是一个国家的问题。AI系统的有效治理需要国际合作，各国必须合作建立全球AI使用标准和规范
1111 Marwala T. Militarization of AI has severe implications for global security and warfare[EB/OL].（2023-07-24）[2024-03-01]. https://unu.edu/article/militarization-ai-has-severe-implications-global-security-and-warfare.
。世界各国应该就AI带来的风险和挑战以及如何最有效地应对这些风险和挑战进一步加强对话。与仅在建立和利用全球网络基础设施后才真正开始的网络安全辩论不同，AI仍在开发中。事实上，大多数支持AI的武器系统仍然相对不成熟且未广泛部署，AI尚未充分发挥其在国家安全领域的潜力。所以，趁着“科林格里奇困境”初露峥嵘，积极推动对话，世界各国将有机会围绕新技术的使用制定新的规范、建立信任措施和界限。否则，当AI技术与军事深度绑定后，“科林格里奇困境”无可挽回时，需要付出的代价将远大于此时的对话和协商。
第五，持续的科技创新与自主研发。中国应在AI和自动武器系统的研发方面持续创新，确保在新兴技术领域具有优势。应推动自主可控的技术体系建设，减少对外部技术的依赖，确保关键技术的安全可靠，特别是加强关键材料和技术的供应链管理，减少外部依赖，保障供应链安全，增强战略稳定性。
当前，全球数字化已经进入深层发展阶段，与过去的产业发展逻辑和竞争规则不同，AI的市场竞争和大国博弈已经很难依靠固守本土市场来建立竞争壁垒。中国在AI领域的现有成绩远不足以确保产业主导权，缺乏足够的全球竞争力将陷入非常危险的境地。与美国相比，中国高科技和国家软实力在全球市场的劣势，很可能直接影响未来的态势与格局。如何强化中国企业的全球化动力和动能，把压力变为动力，通过这一轮全新的AI竞争，真正构建中国高科技全球化新格局，可能是战略关键所在。任何局限于本土市场的封闭战略，都可能导致丢失长期的竞争机会。
曼纽尔·卡斯特认为：“人工智能已经改变了国家之间的对抗形式，并深深改变了一切，如无人机对抗和监控。人工智能军事技术的所有可能用途的结合意味着一件事，战争从来都是非人性的，但结合后，就会完全泯灭人性。我们并没有能够机器化世界，而是机器化了我们自己。”他引述著名神经学家安东尼奥·马西奥的研究，认为机器或许在线性推理和另辟蹊径寻找答案上比人类更胜一筹，但是机器不具备情感。因此，不必担忧机器会因为仇恨而杀害人类。如果这种担心有朝一日成为现实，那倒更有可能是因为机器执行了杀害人类的程序。因此AI治理的本质并不是技术本身，而是人以及人与人之间的合作。智能时代的风险，核心还是通过数字技术实现高度互联的背景下，人类合作与自我管理的基本层面出现了问题，包括人与人之间的共通，国与国之间的共通，尤其是中美两国之间的共通。只有解决好全球合作的问题，才可以找到正确的应对之道。反之，缺失全球合作机制，风险将越来越不可预知。
国家社会科学基金重大项目(21&ZD318)
京公网安备11010202008535号
PDF
(833KB)
