01Hacker News五角大楼称过度依赖AI导致误炸伊朗学校
美国国防部近日承认,在一次针对伊朗境内目标的军事打击中,一枚导弹误中一所学校,造成平民伤亡。官方调查将事故原因归结为军方在打击目标识别与决策链条中过度依赖人工智能系统,算法输出未经过充分人工复核即进入执行环节,致使错误目标被锁定并实施打击。这一事件直接暴露了人工智能在军事目标识别、决策辅助等高风险场景中的可靠性短板:当训练数据存在偏差、战场环境复杂多变时,算法可能将民用建筑误判为合法军事目标,而缺乏冗余校验的自动化流程则放大了错误后果。事件同时引发对自主武器系统问责机制的激烈讨论——当AI参与甚至主导致命决策时,事故责任如何在算法开发者、指挥链条与操作人员之间划分,尚无清晰法律与伦理框架。五角大楼表态将审查AI系统在杀伤链中的角色定位与人机协同规范,这一表态也被视为美国军事AI治理政策走向的重要信号,可能影响北约及盟国在自主武器部署上的标准制定。
原文 ↗