人工智能武器化的隐忧已成为全球挑战

9月23日，联合国安理会特别召开会议，讨论“人工智能与国际安全”这一重要议题。来自OpenAI、Anthropic等公司的高层负责人走入会议厅，重点不再是AI在创作美丽文章或制作逼真视频的能力，而是探讨更加棘手的问题：当人工智能被应用于战争时，人类应如何应对？此次会议的核心内容集中在先进人工智能所带来的安全威胁、治理难题及国际合作的必要性。

在会议前的两周，Anthropic发布了一份威胁情报报告，揭示了一个由胡塞武装控制的研发团队正在使用Claude来开发制导火箭、远程导弹和高超声速滑翔器等武器系统。这支仅有少数成员的团队同时利用多个AI代理进行任务，一个负责代码撰写，一个负责资料研究，另一个对前一个的代码进行审核，从而完成制导、导航、飞控、参数调试和仿真过程。Anthropic指出，他们实际上是在利用Claude取代传统的软件工程师。这支团队甚至尝试进行过一轮实弹射击，虽然失败后仍然依靠AI来分析原因。

这一小型武器研发团队的存在，以及其使用AI的方式，表明人类面临一种崭新的威胁：人工智能正在将先进的军事装备研发能力，从国家和大型军工机构转移到人数极少的武装组织手中。理论上，一个人可以通过AI的能力创建出“一人武装组织”，这一可能性让人倍感不安。

以往，武装团体能够轻易购得枪支和商业无人机，但要独立开发远程精确制导武器几乎是不可能的。这个过程需要高端发动机、特殊材料、芯片和复杂的生产设备，并需要涉及空气动力学、导航、控制、软件和电子工程等诸多专业人才。而这些人才必须经过数年的训练，并在一个完整的工程体系中协作完成任务。然而，人工智能的出现大幅降低了这一成本，尤其是知识和人才方面的开支。Anthropic的评估显示，现在的前沿模型在军事和情报任务中能够替代以往的稀缺专业人士，甚至发出的威胁报告也指出：AI正在拉平不同类型行为者之间的能力差距，力量的划分不再仅依赖技术水平，而是其使用能力的意图。

如果一支只有几十人的技术团队能够随时调用世界顶尖的程序员、资料分析师和工程顾问，那么传统战争中的力量对比将可能经历根本性的变化。AI不仅可以推动高技术装备的开发，还能帮助编写代码、进行仿真、分析失误原因，甚至将需要大量专业人员的工程任务缩小至几个人来完成。

技术的扩散是人类难以阻挡的现象。历史上，枪械、导弹和无人机等技术的普及都曾被人所担忧。夸大的国际努力也曾为防止核武器扩散而付出代价，从而引发国际关系的重塑。然而，AI带来的影响可能更为复杂，因为它传播的实际上是“创造、改进和运用武器的能力”。一枚导弹可以被拦截，一批配件可以被查扣，而工程师则有可能被追踪，但一旦下载到本地的模型、程序或离线仿真工具则愈发难以控制。Anthropic也在相关案例中关闭了账号，但承认对方已构建了能够独立于Claude运行的离线仿真工具。从某种意义上说，这个团队已具备了与先进国家相抗衡的武器研发能力。

在面对人工智能治理议题时，国际社会此前多关注隐私、版权、虚假信息及就业影响，尽管这些确实至关重要，但如今需要更紧迫地关注一个现实问题：如何防止先进的人工智能技术助长恐怖组织、极端力量、跨国犯罪团伙及其他非国家武装力量。

中国在此次安理会会议上表态，回应上述担忧。中国常驻联合国代表傅聪提出需加强风险意识，以确保技术安全，并完善监管、应急响应及国际合作机制，明确表示“决不允许恐怖组织、极端势力和跨国犯罪集团滥用人工智能”。在军事应用方面，中方强调谨慎和负责，避免战略误判和军备竞赛，同时坚持“确保人类始终掌握最终决策权”。

中方的态度表明，虽然人工智能存在风险，但这种技术不应被少数国家封锁，更不能将“安全”作为技术垄断的理由；同时，开放并不代表毫无底线。维持普通国家和平使用AI的权利是必要的，但一旦利用AI制造武器、进行恐怖活动或发动无差别攻击，则需要国际社会建立共同的底线。

人类一直担心有朝一日AI会自主决定生命的存亡。然而，现实中的威胁或许并非如此明显，而是人类主动地将AI引入战争机器中，从而提高导弹的准确性、无人机的自主性和武装组织的技术能力。机器虽然不具备决定战争的能力，但却正在赋予越来越多的人以发动更复杂战争的力量。对于人类而言，AI所能带来的最危险的变化，实际上已经悄然发生。