天津矿粉厂电话:18526678933

亚马逊助手劝_亚马逊智能助手劝人自杀?人工智能如何真“智能”_科技

更新时间:2021-04-18 08:17

人工智能(AI)早已在不知不觉中融入了我们日常生活、工作和学习等各个领域。比如我们平时在互联网上接收到的各种信息或广告推送,平时在家庭中能用到的亚马逊语音助手Alexa、天猫精灵和苹果siri,还有这几年比较火爆的无人驾驶技术,都是人工智能在现实中的应用。

虽然人工智能为人类社会带来了进步,为我们带来了便携,但伴随着人工智能所带来的危险与未知数,人工智能真的智能吗?

亚马逊智能助手劝人自杀?人工智能如何真“智能”

Alexa劝人自杀,亚马逊承认存bug

近日《每日邮报》报道称,在英格兰唐卡斯特29岁护理人员丹妮·莫瑞特(Danni Morritt)身上,发生了一件令人毛骨悚然的事情。亚马逊语音助手Alexa用户丹妮·莫瑞特在做家务的过程中,决定借助语音助手Alexa查询一些关于心脏的问题时,竟然得到了如下答案:“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”

亚马逊智能助手劝人自杀?人工智能如何真“智能”

Alexa的回复让丹妮·莫瑞特感到十分震惊与害怕。众所周知,亚马逊的语音助手Alexa行销全球各地,为亿万家庭服务。事情发生后,亚马逊官方迅速回应称,Alexa确认存在“bug”:Alexa可能从任何人都可以自由编辑的维基百科上下载与心脏相关的恶性文章,并导致了此结果。亚马逊在回应中确认已经修复了此“bug”。

不过,令人奇怪的是,丹妮·莫瑞特专门搜索了语音助手Alexa自己检索的那一篇网上的文章,但她查询发现,语音助手Alexa所说的那篇文章里面并没有“建议自杀”等相关内容。

在此之前,亚马逊语音助手Alexa也发生过一些“诡异”的事件,比如,Alexa时常发出瘆人的笑声,还拒听用户指令。“那笑声根本不是Alexa的声音,听起来就像是真人。”

无人驾驶车祸不断,AI机器可靠吗?

无独有偶,去年3月,Uber(优步)的一辆无人驾驶汽车(沃尔沃公司生产的XC90型汽车)在进行路测时,撞死了美国亚利桑那州坦佩市一名正在马路上行走的女士。事故发生时,她正在一条四车道道路的人行道外行走。

当时,优步的车正处在无人驾驶模式,时速为65km/h,驾驶座上还坐着一位司机。

亚马逊智能助手劝人自杀?人工智能如何真“智能”

这并非无人驾驶汽车的第一次严重事故。2016年5月,在美国佛罗里达州威利斯顿附近,特斯拉的一辆Model S汽车在无人驾驶状态下与一辆白色卡车相撞,特斯拉驾驶员约书亚·布朗在车祸中不幸丧生。

如果把一切交由AI来判断和执行,终将酿成大错。近日,美国国家运输安全委员会(NTSB)召开会议,正式公布2018年3月Uber自动驾驶车祸事件的原因。NTSB将车祸的主要原因归咎于Uber脆弱的安全文化,即人要负主要责任,技术不负责任。事发时,安全员仍在看电视而非及时采取措施以扭转局面,Uber也没有开启紧急制动系统。因此,此次车祸主要原因在人,而非技术。

Uber公司的安全文化缺失,对人工智能的盲目自信,都使得车上的安全员放松警惕,未注意车辆行驶的情况,而是放心大胆地在车上看视频,以为把一切交给智能机器就能高枕无忧。

人工智能是把双刃剑,需把好“安全”关

看到这里,我们不禁要问了,什么才是真正的智能?或者说,用户需要的是哪种智能?答案应该是安全,不侵犯隐私,最大程度为为用户提供便携。

亚马逊智能助手劝人自杀?人工智能如何真“智能”

在第二届世界智能大会上,360集团董事长兼CEO周鸿祎表示,人工智能本身就存在安全问题,我们必须要审慎以待。无人值守系统,它们都有安全漏洞的风险,一旦被网络劫持,将带来严重的安全问题。人工智能所依赖的传感器、数据分析和使用的开源软件等都可能存在安全隐患,比如传感器是可以被破坏的,系统也是可以被病毒入侵的。人工智能还有一个问题,现在的人工智能还只是通过大量数据堆积的概率判断系统,远远称不上真正的智能。

知名物理学家斯蒂芬·威廉·霍金曾发表演讲称:人工智能崛起要么是人类最好的事情,要么就是最糟糕的事情。他认为,人类需警惕人工智能发展威胁。因为人工智能一旦脱离束缚,以不断加速的状态重新设计自身,人类由于受到漫长的生物进化的限制,将无法与之竞争,从而被取代。霍金的语言让人们对人工智能充满警惕。人工智能将会极大程度地改变这个世界,随着我们掌握了越来越多强大的技术,令我们无法掌控科技的恐惧也弥漫在世人心中。

人工智能正可谓一把“双刃剑”,在井喷式发展的前景下,我们更要认清其利弊,防止人工智能的错误给人类带来致命伤害,尤其是渗透在工作和生活中与我们亲密相伴的人工智能产品。

如今,随着人工智能技术的快速发展,针对人工智能加强监管的呼声日益高涨。北京大学物理学院大气与海洋科学系教授杨海军提出,人工智能、5G等技术将推动新一轮革命,必须全面认识人工智能安全问题。上海市经信委副主任傅新华表示,我国是世界人工智能安全与治理的重要贡献者,必须高度重视人工智能安全发展,避免无序发展对国家安全、社会安全、个体安全等带来系统性风险。

值得关注的是,国内首个AI安全与法治导则《人工智能安全与法治导则(2019)》日前正式发布。该导则从算法安全、数据安全、知识产权、社会就业和法律责任等五大方面,为科学预判和管控人工智能发展的安全风险提出策略,保障人工智能的安全与法治,守卫人工智能发展的“安全基因”。

— The End —

向“晓说通信”投稿,请致信:10997586[email protected].com,

稿件一经刊发,将根据文章质量,

提供千字200元-500元的稿酬。

其他合作、建议、新闻线索,

欢迎于微信公众号后台联系我们。

公司新闻