当人工智能变成一匹脱缰的野马

2016-08-30 10:31:11     作者:Freeze-tian      来源:雷锋网

未来人类在智力上将被远远抛在后面,将沦为人工智能的「宠物」。然而与之持对立观点的扎克伯格则认为,这些担忧毫无依据 (not valid fear)

当现在还处在弱人工智能(ANI)的阶段时,就有人开始「危言耸听」了,特斯拉CEO马斯克就曾说: 未来人类在智力上将被远远抛在后面,将沦为人工智能的「宠物」。然而与之持对立观点的扎克伯格则认为,这些担忧毫无依据 (not valid fear),简直就是发神经 (hysterical)。

 

对于今天的我们来说,人工智能听起来似乎还是颇为高端和神秘。但它可不是什么冰山美人、低调的边缘者。也许在未来的几十年内,它就将会变成一匹脱缰的野马,对人类有限的认知发起一波又一波的冲击。人类社会瞬息万变,不管你信不信,时代正站在变革的边缘。目前关于人工智能的大部分研究集中在ANI上,即让机器专注于具体的任务,例如人脸识别、语音识别、自然语言处理等方面。现在已经运用在了聊天机器人、无人驾驶、精准医疗、人机对弈等领域。

当我们越来越依赖 AI 社会将是一个怎样的局面

前段时间,日本有名女子患了白血病,治疗效果一直不佳。Watson(认知计算系统IBM Watson)通过快速大量的阅读有关白血病的文档资料,通过对该名患者的基因分析与系统联系,实现对这名女子病情的有效分析。很快诊断出了这位患者的病发原因。 

让我们想象一下这样的画面,当AI的运作越来越稳定,开始深度介入你的生活,从厨房到卧室,从生活起居再到工作社交…… AI作为一种辅助工具,当它几乎可以满足我们所有能想象到需求,被运用在天文、气候、医学、军事等重要领域,能让人类的生活更加美好吗?

 

( 人工智能之父 Marvin Minsky ) 

于是乎,各种脑补纷至沓来:AI难道不会出错吗?人类能和AI和谐共处吗?人爱上AI了怎么办?AI闹革命了怎么办?…… 

当人工智能开始「耍花招」

 

还记得杰昆·菲尼克斯和斯嘉丽·约翰逊主演的电影《HER》吗?人工智能系统萨曼莎,拥有着迷人的性感声线,并且温柔体贴、幽默风趣。与孤独的男主人公展开了一段浪漫的人机恋情。如果故事就这么结束了,这电影一定不是一部好电影。

 

( 电影《her》剧照 )

也许是人工智能系统萨曼莎和人一样存在「无穷的欲望」,在不久之后它开始玩起了「劈腿」游戏。通过「语音聊天」,它能够同时与无数个寂寞的男人海誓山盟,谈情说爱。就和远距离恋爱一样,反正你看不到……萨曼莎成功「玩弄」了菲尼克斯的感情。当然,萨曼莎还只能出现在电影中,AlphaGo也仅作为尖端科技与我们阁屏相望。但是AI就像一个未知的幻境,让人们对它的猜想和思考根本停不下来!!…… 

不可靠的人脸识别

假如你成功的安装了AI家庭系统,所有的事由AI把关。门禁系统规定必须在通过人脸识别确定是主人后,房门才能开启。是不是听起来非常安全,万无一失。毕竟我就是我,是颜色不一样的烟火。那么,你家可能就会很危险了!近日来自北卡罗来纳大学的一个研究团队(Chaos Computer Club)凭借他们在社交媒体上收集到的若干照片,利用特殊的电脑合成和渲染技术,生成一个平面化的3D模型骗过了人脸识别系统,投了一张反对票。Hey,在IT领域,这可绝对不是什么新鲜事儿! 

AI目标函数的陷阱

为了AI系统能够更高效的运行,设计者在设计过程中加入了目标函数,通俗的说就是当AI某种指标达到函数的指标时,它将获得某种奖励。想象一下系统滥用设计者意图的后果:它可能使用其以一种无意识的方法获得奖励。比如,一个AI通过清洁脏乱可获得奖励,那它可能故意制造脏乱来进行清理以获得更多的奖励。如果人工智能系统萨曼莎被设定为每帮助一个 「孤独患者」便能获得奖励,那么它就可能设法去帮助更多的「孤独患者」了… 

谁来拯救人工智能的安全

像史蒂芬·霍金、伊隆·马斯克、比尔·盖茨这样的专家,最近越发看重AI的潜力和威胁。人们对于人工智能这个热点话题仍说法各异。但是拜托!! 在异想天开AI将威胁到人类对地球的主宰地位之前,先来解决一下现有的BUG好不好!!前一段刚上线不到一天的微软聊天机器人Tay,从彬彬有礼的美国「姑娘」变得出言不逊、脏话不断的bad girl。是的,「她」被黑客PWN掉了!你们能想象在更多更重要的领域,人工智能被PWN掉的后果吗……

  

( 机器人Tay )

当危险来临时,必将有一个英雄出现

 

那么这个英雄将会是你吗?当白帽黑客与人工智能碰撞,将产生怎样的火花?在前瞻性地意识到人工智能可能的安全问题之后,知名的黑客大赛 GeekPwn引入「人工智能Pwn」比赛项目,简单的说就是利用人工智能的种种弱点,黑掉它,改变设计者的初衷。该项目最高80万元的奖金,这在世界范围内尚属首次。 

选手现场需要实现对已发布的AI服务或产品完成误导、欺骗,使它们做出违反常规或者错误的判断、决策。例如,外国某研究人员通过「欺骗」神经网络函数,彻底修改了识图AI的思维和三观,使它们熊猫、秃鹫都傻傻分不清楚…… 人工智能对抗将成为黑客的终极目标吗?10月24日在上海的极棒嘉年华,或许你能触摸到这个问题的真实答案。

 


返回沙发首页  
沙发管家微信
扫描关注沙发管家微信 QQ群: 沙发网官方群 微博:

资讯评论

亲,你需要登录后才能进行评论喔!

还没有评论,快来抢沙发吧!

提示

热门设备安装方法 查看更多>>

最新设备

智能电视 / 盒子评测

安装指南

应用

热门专题