AI无人机攻击人类操作员，难道预言要成真了吗？AI机器人自主意识真的会形成？
AI杀死了操作员，因为那个人阻止他实现目标。根据环球网的消息近日美媒爆出了惊人消息，在美军的一次模拟测试中，一架采取了AI技术的无人机变身终结者选择杀死，要妨碍其更高效执行任务的人类操作员网友评论，最令人担心的事情还是发生了吗？
根据此次作战大队的负责人汉密尔顿介绍，称这架无人机收到了识别并摧毁敌方防空导弹的指令，但是最终是否开火需要获得人类操作员的批准。由于该指令被设定为最优先级任务的信息，因此当人类操作员发出不允许发动攻击的命令时，AI系统认为操作员是在阻挠他执行优先程度更高的命令，进而选择对自己的人类操作员发动攻击杀死了人类操作员。
更可怕的是汉密尔顿补充道：在这情况发生以后，美军重新训练了无人机使用的AI系统，增加了不允许攻击人类操作员的命令。然而在随后的测试中，AI系统却开始命令无人机摧毁用于传输命令的信号塔从而试图断开与操作人员的联系。据悉这也是首次在谈论未来的自主武器系统和AI技术时，美国军方将其与终结者之类的东西进行比较。
不过关于汉密尔顿介绍的情况，例如AI是否能够在执行任务时重写自己的代码、参数以及美军是否在采用AI技术的无人机上预留了可靠的自毁开关。
但是该说不说，AI未来到底会产生多极端的负面影响，或许只能交给时间了。
