俄乌战场现 AI 自主杀人无人机，自主武器实战化带来责任困境

我们都见过关于人工智能会犯错的警示。对于聊天机器人而言，这类错误通常表现为编造事实、曲解问题，或是笃定地给出错误答案。若是将同款技术搭载到武器之中，这类错误带来的结局就会截然不同。

《纽约时报》的一项调查披露，7 月 6 日俄罗斯在乌克兰扎波罗热地区发动的无人机袭击造成三名平民死亡，其中包括一名 19 岁的大学生。操作人员为无人机设定了飞往一处加油站的航线，但由人工智能自主系统选定了具体攻击目标，大概率是丙烷储罐。这架无人机未能命中目标，在周边区域发生爆炸。

《纽约时报》援引一位专家的说法，这是有记录以来，俄罗斯使用该类自主寻靶 AI 系统的无人机造成平民丧生的首例事件。

如今由计算机来选定打击目标？

早期具备 AI 辅助能力的无人机，在目标选定环节仍保留人类参与，软件仅负责完成最后的抵近攻击流程。而在扎波罗热事件中缴获的这套系统走得更远。

调查人员在无人机上发现了英伟达 Jetson Orin 计算模块，乌克兰官方表示，设备代码显示这套系统经过训练，可以识别并打击特定类型物体。完全自主的目标锁定，意味着人类被排除在了最终目标选择环节之外。

1979 年 IBM 的一份培训手册里有一句警示，放在当下读来令人不安：“计算机永远无法承担责任，因此绝不能让计算机做出管理决策。”

时隔近五十年，计算机却被托付给后果无比沉重的决策。

AI 出现误判，责任该由谁承担?

自主武器无法接受审判、无法说明自身决策逻辑，在造成无辜者死亡后也不会受到惩处。人类的责任并不会就此消失，但当软件参与了部分目标判定工作，责任划分就会变得极为棘手。

并非只有俄罗斯在研发这项技术。乌克兰也曾在俄方控制的克里米亚地区，针对燃料储存设施与军事装备测试完全自主作战系统，不过乌前国防部长向《纽约时报》表示，这些测试并未造成平民伤亡。

人工智能自主武器已经投入实战，并且已经造成平民死亡。俄罗斯在测试，乌克兰也在测试，未来这项技术的能力只会持续提升。这是一条危险的滑坡路，一旦军方将目标判定权交给软件，想要收回这份权限会愈发困难。局面或许已经无法逆转，这也让针对这类系统出台切实有效的使用限制变得迫在眉睫。