近日，《特定常规武器公约》框架下的致命性自主武器系统政府专家组会议以协商一致的方式就会议报告达成共识。这是该公约128个缔约国历经十余年反复博弈取得的重要阶段性成果。虽然这份报告并无法律约束力，但它首次明确了致命性自主武器系统的概念（也称“杀手机器人”），为11月公约第七次审议大会更加深入地讨论相关议题做了重要铺垫。
随着人工智能技术的快速发展，无人机等自主武器已经在地区冲突中广泛应用。在没有人类干预的情况下，机器自主锁定目标，对人类实施杀伤也不再仅仅是科幻大片中的场景。如何对致命性自主武器系统实施有效管控，不仅关系到当今世界安全，还关系到人类的子孙后代如何在智能时代与机器安全共处。
相关的多边磋商已持续十余年：2013年，该议题正式纳入《特定常规武器公约》议程；2014年召开首轮多边专家会议，彼时各方争论焦点就集中在概念界定、人类控制边界两大难题上；2016年，公约正式设立致命性自主武器系统政府专家组，建立常态化磋商机制；2022年底，缔约国延长专家组工作授权，专家组持续打磨文本草案。
此次共达成四点核心共识。一是首次对何为致命性自主武器系统进行了界定，明确该类武器是武器与技术组件组合，可在无人操作介入情况下识别、选择并使用武力攻击目标。二是确认国际人道法适用于这类新型武器，且其义务由国家和个人，而非机器承担。三是明确必须对致命性自主武器系统保持人类控制和判断，要求人类通过负责任的指挥控制链、参数修改授权、及时停用等实操措施，保障相关武器使用符合国际人道法。四是各国在研发、采购或采用新的致命性自主武器系统时，必须进行法律审查，确保其不违反国际法。虽然这份共识来之不易，但“阻止杀手机器人运动”等非政府组织认为报告文本系多方妥协产物，表述较弱，缺少强制约束。
下一步，国际社会将聚焦11月召开的《特定常规武器公约》审议大会。届时，公约缔约国将决定是否启动具有法律约束力的国际文书谈判。
目前看，未来走势有三种可能。一是启动条约谈判，但因各方分歧过大，短期难以达成协议。二是延续现有机制，继续打磨非约束性规范。三是若现有机制框架内的对话陷入僵局，部分国家或另起炉灶，在《特定常规武器公约》之外推动达成新的禁止性条约。
当前各方主要有三大核心分歧。第一，是否缔结有法律约束力条约。巴西、爱尔兰等国以及红十字国际委员会呼吁尽快谈判，而美国、俄罗斯、印度、以色列等更倾向各国自愿准则，对约束性条约持谨慎态度。第二，管控路线之争，部分力量呼吁全面禁止，但其实分类管控的举措更为务实。第三，人类控制与判断的实操标准没有共识，各国对人类需要介入杀伤链条到哪一步看法迥异，这后续是未来谈判最难啃的硬骨头。
作为负责任大国，中国积极支持关于致命性自主武器系统军控的讨论，并坚持人工智能应造福人类，主张审慎负责地发展军事人工智能技术。中国强调应在武器系统的整个生命周期中实施必要的人机交互，以确保其始终处于人类的控制之下。
在管控方式上，中国主张实施分级分类管理：对“不可接受的”自主武器可考虑效仿《关于激光致盲武器的议定书》，达成法律文书加以禁止；对“可接受的”则采取必要的风险减缓措施。在相关治理机制建设问题上，中国坚持以《特定常规武器公约》为主渠道，建立普遍参与的国际治理框架。
以致命性自主武器系统为代表的人工智能军备日新月异，技术迭代速度远超相关治理机制的建设步伐。未来应当各个方面协同发力，凝聚多边共识、强化国内管控、完善军事伦理，兼顾人道主义诉求，守护人类对致命武器的最终控制权，不让战争机器挣脱人类文明的约束。（作者是中国现代国际关系研究院军控与出口管制研究中心主任） |
