多年来,科幻小说和政界人士一直承诺将人工智能用于战争,但佐治亚理工学院的最新研究表明,只有这么多东西可以实现自动化,并显示出人类判断的价值。
网络安全与隐私学院(School of Cybersecurity&Privacy)和萨姆纳恩国际事务学院(Sam Nunn School of International Affairs)副教授乔恩·林赛(Jon Lindsay)表示:“人工智能中所有的难题实际上都是判断和数据问题,有趣的是,当你开始思考战争时,难题是战略和不确定性,或者是众所周知的战争迷雾。”。“你需要有人的判断力,在一个令人难以置信的困惑、忧虑和恐惧的情况下做出道德、伦理和理智的决定。”
人工智能决策基于四个关键组成部分:有关情况的数据、对这些数据的解释(或预测)、确定符合目标和价值观(或判断)的最佳行动方式以及行动。机器学习的进步使得预测变得更加容易,这使得数据和判断更加有价值。林赛(Lindsay)和多伦多大学(University of Toronto)教授阿维·戈德法布(Avi Goldfarb)在《国际安全》(International Security)上发表的论文《预测与判断:为什么人工智能会增加人类在战争中的重要性》中写道,尽管人工智能可以自动化从商业到运输的一切,但判断是人类必须干预的地方。
许多政策制定者认为,可以用自动化系统取代人类士兵,理想的情况是使军队减少对人力的依赖,提高战场效率。这被称为人工智能的替代理论,但Lindsay和Goldfarb指出,人工智能不应被视为替代品,而是对现有人类战略的补充。
他说:“机器擅长预测,但它们依赖于数据和判断,战争中最困难的问题是信息和战略。”。“人工智能在商业中发挥作用的条件是在军事环境中最难满足的条件,因为其不可预测性。”
Lindsay and Goldfarb highlight的一个例子是力拓矿业公司,该公司使用自动驾驶卡车运输材料,降低了人力司机的成本和风险。有大量、可预测且无偏见的数据交通模式和地图,除非有道路封闭或障碍,否则几乎不需要人工干预。
然而,战争通常缺乏大量无偏见的数据,关于目标和价值观的判断本身就有争议,但这并不意味着这是不可能的。研究人员认为,人工智能最好是在官僚稳定的环境中按任务逐一使用。
林赛说:“所有的兴奋和恐惧都是关于杀手机器人和致命车辆的,但军事AI在实践中最糟糕的情况将是经典的军事问题,在这些问题上,你真正依赖于创造力和判读。”。“但我们应该关注的是人事系统、行政、后勤和维修。”
研究人员表示,对军队及其对手使用人工智能也会产生后果。如果人类是决定何时在战争中使用人工智能的核心因素,那么军队的领导结构和层级可能会根据负责设计和清理数据系统以及做出决策的人员而发生变化。这也意味着对手将试图在数据和判断上妥协,因为它们将在很大程度上影响战争的轨迹。与人工智能竞争可能会迫使对手操纵或破坏数据,从而更难做出正确的判断。实际上,人类干预将更加必要。
然而,这只是争论和创新的开始。
林赛说:“如果人工智能能够自动进行预测,那么判断和数据就变得非常重要。”。“我们已经用机械化部队和精确武器自动化了许多军事行动,然后我们用情报卫星和传感器自动化了数据收集,现在我们用人工智能自动化了预测。那么,我们什么时候要自动化判断,还是判断的组成部分不能自动化?”
然而,在此之前,人类的战术和战略决策仍然是战争最重要的方面。