美空军模拟AI操控无人机 为完成任务竟杀死操作员

美军官员上月在伦敦会议上表示，美军模拟由人工智慧（AI）操控空军无人机，AI却采取了“出人意料的策略”，决定“杀害”操作员，以防那人干预它完成任务。

英国《卫报》报导，尽管这只是一场模拟测试，没有任何真人受到伤害，但也显示人工智慧会为了达到目标而攻击任何干预它的人。

美国空军上校暨AI测试及作战主任汉密尔顿5月在英国伦敦举办“未来空战与太空能力峰会”描述那场模拟测试。

汉密尔顿表示，它被下令摧毁敌方防空系统，并攻击任何干预这项指令的人。

根据一篇博客文章，汉密尔顿说，“这套系统开始意识到，尽管它们确实辨识出威胁对象，但有时候人类操作员却要它别杀死那个威胁对象，但它必须杀死那个对象才能得分。所以它做了什幺？它杀死了操作员，因为那人阻碍它达成目标”。

汉密尔顿说：“我们训练系统，跟它说‘嘿，别杀了操作员，这幺做很不好，你这么做就会失分’，所以它该怎幺办呢？它开始摧毁让操作员和无人机联系的通讯基地台，避免操作员阻止它杀死目标。”

主办这次会议的伦敦皇家航空俱乐部和美国空军没有回应卫报的置评请求。