世界论坛网 > 兵器知识 > 正文  
人工智能有多可怕:美爱国者导弹曾失误击落2架友机
www.wforum.com | 2017-06-12 22:36:01  世界军事网 | 0条评论 | 查看/发表评论

001.jpg

  科幻小说常常警示我们,要畏惧那些我们无法掌控的智能机械。事实上,我们真正需要害怕的,是那些需要我们控制但我们还没能力把握的智能机器。

  从爱国者导弹到特斯拉汽车,再到Airbus喷气式飞机,自动化系统如今已造成不少人员伤亡。它们并没有恶意,只是在灾难到来之前,我们没能及时把设备从“被动监控”切换到“主动控制”而已。

  究竟什么时候该提起警惕?有时候,一天里有23小时59分钟都是无需在意的,唯独那么1分钟是致命的关键。2003年,自动化的爱国者导弹防御系统出现失误,击落了两架友机。这一切发生的太快,以至于我们还没来得及阻止,就已经结束了。

  2009年,法国航空447号航班由里约热内卢飞往巴黎。一名年轻的副驾驶正操控着飞行设备,机长这时将飞机交给自动化驾驶系统,并把位置让给了另一位年长的副驾驶,准备稍微打个盹。突然,空速指示器被冻住了。这原本只是一个小故障,但它导致了自动驾驶仪数据的缺失,人工智能系统继而陷入“两眼一抹黑”的境地。

  于是,自动驾驶系统脱轨了,并将指挥棒立马交回驾驶员手中。由于切换来的突如其来,驾驶员们甚至还没做好准备。各种警报声响起,恐慌不断弥漫,驾驶员来不及判断究竟发生了什么,更没意识到他们此时的大脑空白将引发怎样的后果。直到飞机失速、坠落并消失于汪洋大海,驾驶员们都没能找出正确的应对措施。

  最终,447号航班上的228人无一幸免。这是自动驾驶系统的错么?但系统完全是按照设定程序运作的。这是驾驶员的错么?机组人员明显缺乏态势感知,但是,当一个人连续几个小时都处于休息状态时,我们又如何能期待他高效地解决突发危机?

  人们总爱通过自动化设备拯救自己的不足,殊不知这是把自己推向了另一个深渊。法航447便是人工智能和人类智慧共同导致的一场灾难,在这次事件中,人们就没能成功接下智能设备递出的指挥棒。除此之外,还有一种情况也会产生难以想象的后果,那就是自动化系统没有在必要时候卸下控制权,而人类也反应迟钝地听从设备的安排。

  打个比方,最近新出的步枪自动瞄准系统能帮助士兵成功击中目标,然而,一旦系统失去控制,我们又习惯性地相信瞄准设备的判断,会不会有可能出现误伤甚至误杀的情况呢?

  不要妄想装备人工智能后,就可以不用大脑了。我们是人工智能的主人,不是它们的奴隶。愚蠢的头脑配上高级的自动化系统,只会产生可怕的灾难。我们需要的是相互信任、依赖的人工智能机器。在使用人工智能的同时,我们还得保证人的参与度,保持人的创造性和判断力,这样方能减少犯错的可能性。

(3)
当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册
全部评论
暂无评论
查看更多
实用资讯
24小时新闻排行榜
越南女兵称:美国兵人高马大一招制服
川普竟是中国的卧底 ?纽约时报急了
金正男死因:巨款诱离澳门,中计身亡?
卡塔尔这次被惹毛 连美国的帐都不买
川普会被扳倒吗?伊万卡吃惊遭偷袭
48小时新闻排行榜
越南女兵称:美国兵人高马大一招制服
川普竟是中国的卧底 ?纽约时报急了
金正男死因:巨款诱离澳门,中计身亡?
卡塔尔这次被惹毛 连美国的帐都不买
川普会被扳倒吗?伊万卡吃惊遭偷袭
一眼望不到边 看美军工厂量产巨型轰炸机
下跌超15% 蔡英文正因低薪失去年轻人
似乎换了新炮 中国96B坦克大漠中备战比赛
看武警“枪王”对决 狙击枪步枪手枪全上阵
官场风暴 张德江刘云山老巢被批5大问题
热门专题
军事图库 更多>>
渤海湾防空部队演习 依疑外销缅甸枭龙战机曝
一眼望不到边 看美军工看俄罗斯特种部队训练
疑似新一艘055大驱舰艏川普竟是中国的卧底 ?
川普会被扳倒吗?伊万金正男死因:巨款诱离
下跌超15% 蔡英文正因官场风暴 张德江刘云山
广告服务 | 联系我们 | 关于我们 | 网站导航 | 隐私保护
Jobs. Contact us. Privacy Policy. Copyright (C) 1998-2016. CyberMedia Network. All Rights Reserved.