没有哪个时代面临过如此复杂的战略和技术挑战!当今世界已经不能回避行将改写战争方式的“人工智能武器”这个话题。

美国资深外交官亨利·基辛格与谷歌公司前首席执行官埃里克·施密特、麻省理工学院人工智能专家丹尼尔·胡滕洛赫尔，在他们最近合作出版的《人工智能时代与我们人类的威胁》一书中发出警告：人工智能是我们迄今为止最大的敌人。

他们在考察了以往时代最具威力的战略技术后指出：一战中把军队送到前线的铁路既能民用也能军用，并能够方便和广泛地铺开，但其自身并不构成威胁;核技术同样既能用于战争也能用于和平目的，虽具有巨大的破坏力，但扩散不易。而具备全部三个特性的人工智能势将打破这种范式：明显具有军民双重用途，且可以容易地开发和部署(本质上不过是计算机代码)，并具有巨大的破坏力。

没有哪个时代面临过如此复杂的战略和技术挑战!当今世界已经不能回避行将改写战争方式的“人工智能武器”这个话题。

信息技术在军事上的应用，被认为与马镫和火药的发明具有同等重要的意义，是军事行动上的一场质变。早在20世纪60年代末，战略思想家便已预计到信息与通信技术的惊人发展会引发军事上的深刻变革。越战时期的美军总司令威廉·威斯特摩兰在1969年就曾预言：在未来的战场上，通过使用数据连接、电脑协作的估算以及自动化开火控制，敌军几乎会立刻遭到定位、瞄准和打击，第一轮杀伤概率将达到几乎100%，监视设备则能够持续追踪敌军。在这样的情况下，就不再需要通过大规模部队才能搞定对手了。

近年来，我们已然在屏幕上见识过，面对GPS定位仪、卫星广播、笔记本电脑和激光指示器，只需按一下按钮，就能发动精确制导的空袭。更令人不安的是，有的国家为获得压倒性军事优势，通过赋予机器自行做出战场决策的能力，使用无人操控武器远程发动攻击：让机器来决定何时杀人或杀谁。

事实上，标榜自己“不做恶”的谷歌公司就在研发专供军事用途的机器人，其旗下一家公司研发的多种可作为火力平台的履带式机器人已进入了实测阶段。鉴于此，联合国要求立即暂停任何致命杀伤性自主机器人的研发工作。然而，这纸禁令形同废纸，研发工作丝毫没有延缓之势。

别以为都还是“科幻”。在2009年上映的科幻电影《终结者2018》中，出现了一个天网电脑网络系统，它操纵着很多种用于追猎和杀戮的机器人，看着令人胆寒。现实中又如何呢?一位美国科学家披露，曾有军方人士找上门来，对他说：“哦，我们想请你设计一种无人机，就是《终结者》里的那种猎杀者。”

人工智能与武器的结合可能导致的伦理后果，目前正成为多个领域热议的话题：由于人工智能在决策和行动的自主性上正在脱离被动工具的范畴，其判断和行为如何进行约束，才符合人类的真实意图和价值观，也不与法律及伦理等规范相背离?

毫无疑问，“数字战士”的出现，不仅会改变参战者的身份和战争的摧毁能力，也将改变战争的伦理。更何况，在一个充满敌意、竞争激烈的世界，人工智能正在增加因误解或误判而导致意外升级的风险。也正因如此，联合国才考虑要在定于今年12月举行的重新审议《特定常规武器公约》会议上，讨论“禁止人工智能控制的致命武器”。

有道是：技术本身并无善恶，人类利用技术所做的选择，才是塑造世界的关键。