9月23日，联合国安理会专门讨论“人工智能与国际安全”。OpenAI、Anthropic等企业负责人进入安理会现场，他们不再讨论AI还能写出多漂亮的文章、生成多逼真的视频，而是另一个越来越现实的问题：当人工智能开始进入战争，人类应该怎么办？联合国将此次会议的重点概括为先进人工智能带来的安全风险、治理挑战和国际合作。

两周前，Anthropic公布了一份威胁情报报告。报告披露，该公司发现处于胡塞武装控制区的一个研发团队正在使用Claude研发包括制导火箭、远程弹道导弹、高超声速滑翔飞行器等武器系统。

这是一个仅有几个人的团队，能够同时调用多个AI Agent，一个写代码，一个查资料，一个审查前一个AI写出来的代码，再完成制导、导航、飞控、参数调试和仿真。Anthropic形容，他们实际上在用Claude替代人类软件工程师。这个团队甚至进行过一次制导火箭实弹试射，失败之后又回来让AI帮助分析原因。

这个武器研发小组的出现以及他们使用AI的方式，标志着人类正在面临一种新形态的威胁：人工智能正在把过去只有国家、大型军工机构和专业工程团队才拥有的极为稀缺的军事装备研发能力，赋予了人数极小的武装组织。

理论上，一个人可以组成一人公司OPC，也可能通过AI agent赋予的能力，组成“一人武装组织”，这可能才是AI对人类安全最危险的改变。

过去，一个武装团体可以很容易买到枪，也可以买到商业无人机，但要独立研发远程精确制导武器，不要说门槛摸不着，就是门槛在哪儿都不知道。除了发动机、材料、芯片和生产设备，还需要空气动力学、导航、控制、软件、电子工程等大量专业人才。这些人才必须经过多年训练，再被组织成一个完整的工程体系。

但是，人工智能技术的出现，正在压缩现代军工体系中最昂贵的一项成本——知识和人才。

Anthropic在最新评估中发现，在部分军事和情报任务上，前沿模型已经能够完成过去只有稀缺的高水平专业人员才能承担的工作。其威胁报告甚至作出一个很值得关注的判断：AI正在拉平不同类型行为者之间的能力差距，区分他们的越来越不是技术水平，而是使用这些能力的意图。

一支只有几十个人的技术队伍，如果能够随时调用世界一流水平的程序员、资料分析员和工程顾问，战争的力量对比就将面临彻底的颠覆。AI可以帮助推动高水平装备的研发，可以写代码、做仿真、分析失败原因，甚至把原本需要几十名专业人员参与的工程工作压缩到少数几个人身上。

技术的扩散是人类无法阻挡的。枪炮扩散过，导弹技术扩散过，无人机也正在迅速扩散。国际社会曾经耗费巨大的努力来阻止核武器的扩散，并为此影响到国际政治格局。而AI带来的变化会更加麻烦，因为它传播的不是一件武器，而是“制造、改进和使用武器的能力”。

一枚导弹可以被拦截，一批零件可以被海关查扣，一个工程师也可以被追踪。但一套已经下载到本地的模型、一段程序、一个离线仿真工具，很难重新收回来。Anthropic在也门案例中关闭了相关账号，却承认对方此前已经建立了可以脱离Claude运行的离线仿真工具。换句话说，这个神秘的团队，已经具备了比肩先进国家的武器研发“最强大脑”。

面对AI治理的话题，国际社会过去更多讨论隐私、版权、虚假信息、就业冲击，这些当然重要。但今天还必须增加一个更加现实的维度：怎样防止先进人工智能大规模赋能恐怖组织、极端势力、跨国犯罪集团和其他非国家武装力量。

中国在这次安理会会议上的表态，正好回应了这一变化。中国常驻联合国代表傅聪提出，要强化风险意识、确保安全可控，完善监管、应急响应和跨国协作机制，明确提出“坚决打击恐怖组织、极端势力和跨国犯罪集团恶用滥用人工智能”。

对于军事应用，中方主张谨慎负责，避免战略误判和军备竞赛，并强调“确保人类始终掌握最终决策权”。与此同时，中方继续主张尊重数字主权、鼓励开源开放，反对借AI治理构建排他性“小圈子”和技术壁垒。

中方的态度说明，人工智能不能因为存在风险就被少数国家封闭起来，更不能把“安全”变成维持技术垄断的新理由；但开放也不意味着毫无边界。普通国家和平使用AI的权利需要保障，利用AI制造武器、实施恐怖活动、发动无差别攻击，则需要国际社会建立明确的共同底线。

人类一直担心有一天AI会自己决定杀人。现在看来，危险未必首先以这样的方式到来。更早以及更容易发生的，是人类自己开始把AI接进战争机器，用它提高导弹的精度、无人机的自主性和武装团体的工程能力。机器没有能力决定是否发动战争。但它已经开始让越来越多的人拥有发动更复杂战争的能力。

对人类来说，AI能够做的最危险的事情之一，其实已经发生了。