万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    世界电影科幻片金融股票

    StuartRussell:人工智能就好比核武器

    2015年12月20日 作者:机器之心

    从1920年的戏剧《R.U.R.》中愤怒的机器人到电影《2001:太空漫游》中嗜杀成性的计算机H.A.L.9000,自人工智能这个概念进入到我们共同的想象中以来,科幻小说作者浓墨重彩地描写了它黑暗的一面。人工智能研究的缓慢进展,尤其是上世纪七八十年代经历的「AI寒冬」,使得这种担心看起来有点离谱。但是近期,随着机器学习的突破和计算能力的大幅提高给人工智能研究带来了大量的资金,但也给人工智能究竟把我们引向何方这个思考题引来了新的关注。

    Stuart Russell:人工智能就好比核武器


    Stuart Russell是其中一位公开表态的研究者,他是加州大学伯克利分校的计算机科学家,他与谷歌研究所的主管Peter Norvig合写了一本书重量级的人工智能教科书《人工智能:一种现代方法》(Artificial Intelligence: A Modern Approach),现在已经是第三版了。去年, Russell 参加了剑桥大学CSER,作为一个人工智能家,专注于可能导致人类灭绝的风险。4月,他在日内瓦参加了联合国发起的会议,在会议上,他提出了几项主要的担忧,其中包括人工智能系统来控制无人机和武器的风险。

    Stuart Russell:人工智能就好比核武器

    以下是John Bohannon对他的专访:

    问:你认为人工智能演变成灾难可能的途径是什么?

    答:最典型的情况就是明显或者隐含的价值体系失调:人工智能系统被赋予的目标难以完全考虑和计算人类所关心的目标要素。各个公司想要取得巨大技术优势的方法是多种多样和纷繁复杂的,国家之间也想尽力在敌国之前建立人工智能系统,或者以一种温水煮青蛙的方式渐渐使得我们变得越来越虚弱,不得不依赖人工智能才能生活下来,就像 E. M. Forster的科幻小说《机器休止》(The Machine Stops)。

    问:你与这个问题「搏斗」了好长时间。

    答:我的课本上有一章节是《如果我们成功了呢》,致力于回答这个问题:人类水平的AI或者超级智能系统是否是一个好主意。最近备受关注的话题是AI能力快速发展,比如用腿行进的大狗机器人(这是Boston Dynamics开发的自主式机器人,最近被谷歌收购),以及在计算机视觉上的进步。

    问:阻止人工智能大灾难需要做些什么?

    答:首先,需要对技术方法潜在的风险和进展进行研究,消除风险。第二,调整AI和培养学生的目标,以使AI系统遵循人类的目标成为本领域内最重要的事,就像遏制在核聚变研究中很重要一样。

    问:但是在我们发展核聚变的同时,已经有了原子弹。但人工智能危险只是出于推测中,那我们是否真的处于人工智能「核聚变」的阶段?

    答:1939年,利奥·西拉特(Leo Szilard)在证明核链式反应后写道:「我们把一切都关掉,回家了。那天晚上,我毫不怀疑,世界正走向悲痛。」那些说,嗯,我们可能永远都达不到人类水平的AI或超级AI,我会回答:这就像开车直向悬崖边,然后说,「让我们祈求汽油尽快被烧完!」

    Stuart Russell:人工智能就好比核武器

    问:发明核裂变是为了制造武器,发明人工智能是为了创造工具——随时可用的智能。这是否解释了人们不愿意监管AI的原因?

    答:从一开始,核技术上的最初目标是「取之不尽的能源供应」。作为武器的可能性再明显不过了。我认为无限能源和无限智能之间具有合理的可比性。二者都似乎很美妙,直到有人想到可能的风险。任何人都不会在数学上限制二者。核武器的监管对象是目标和材料,而AI的监管对象则是各种无法形容的眼花缭乱的软件。无论在AI领域的内外,我都没有看到有人呼吁这种监管,因为我们不知道应该如何去写出这样的规定。

    问:我们应该像监测易裂变物质(核燃料)一样监测AI研究吗?谁负责此类的监管?

    答:我认为正确的做法是把问题直接建立到从业者如何定义他们所做的事上。土木工程从业者没有谁会谈到「搭建不会倒塌的桥梁」他们只说「搭建桥梁」。基本上所有的核聚变研究者都认为遏制核武器是理所当然的事;不受限制的聚变反应对人类无益处。所以,我们要从现在起聚焦在「可能有益的AI」上,今后才能单用「AI」来概括对人类有益的AI。这个领域目前致力于建立纯粹的智能,而不顾它们的目标和可能带来的后果。我们应该摒弃这样的想法,重新规划目标。

    机器之心,最专业的前沿科技媒体和产业服务平台,每日提供优质产业资讯与深度思考,欢迎关注微信公众号「机器之心」(almosthuman2014),或登录机器之心网站www.almosthuman.cn查看更多精彩内容。

    位置:首页 > 科技
    想你的夜2015/12/20 11:29

    既然核武器没有毁灭人类,人功智能也不会

    加载更多评论...
    本类推荐
    美军未来“科幻武器”盘点反物质武器比核弹还猛
    美军未来“科幻武器”盘点反物质武器比核弹还猛

    一、机器人士兵。机器人是科学家梦寐以求的科幻武器之一。用机器人代替真人冲锋陷阵,可以让军队零伤亡,因为机器人刀枪不入,所向无敌。目前,西方一些军事强国正在秘密研制机器人士兵,这些机器人士兵已经能够进行拆解炸弹的工作,估计在不久的将来机器人就能上战场了。

    人工智能厉害了!能颠覆糖尿病及并发症的治疗吗?
    人工智能厉害了!能颠覆糖尿病及并发症的治疗吗?

    人工智能厉害了,今天我们来聊聊人工智能与糖尿病这个高大上的话题。未来,人工智能能颠覆糖尿病及其并发症的治疗吗?万众瞩目的围棋界的“人机大战”,现排名世界第一的我国95后棋手柯洁对战人工智能“阿尔法狗”(AlphaGo),最终,柯洁0:3惨败。

    核弹还分等级对咱们来说都是一声响然后没有了
    核弹还分等级对咱们来说都是一声响然后没有了

    核弹是指利用爆炸性核反应释放出的巨大能量对目标造成杀伤破坏作用的武器。爆炸性核反应是利用能自持快速进行的原子核裂变或聚变反应,瞬间释放出巨大能量产生的核反应爆炸而形成巨大杀伤破坏效应。另外,核弹是指能进行核裂变或核聚变反应、并具有大规模破坏效应的武器。

    博士毕业年薪百万人工智能催生最贵抢人大战
    博士毕业年薪百万人工智能催生最贵抢人大战

    还没从浙大毕业就被包圆为了抢人,杭州有科技公司直接把总部放进校园为了吸引人才,国内顶尖的人工智能创业公司格灵深瞳,由CEO亲自出面在浙大招聘暑期实习生。 Boss直聘的数据显示,跟人工智能相关的数据服务行业,是今年公司薪资预算增长最快的领域。

    人工智能将成为约炮神器?
    人工智能将成为约炮神器?

    四年前,那个躁动的春天,i黑马写的一篇《约炮神器TOP10》刷遍互联网圈,全网累计阅读破千万,成为无数宅男宅女人生幸福指南。四年后,这个燥热的夏天,i黑马在深入研究了人工智能产业之后猛然发现——人工智能很可能将再让“约炮”成为历史。

    人类输了!机器人批改作文打分比老师还准!AI怎么做到的?
    人类输了!机器人批改作文打分比老师还准!AI怎么做到的?

    出品:中国科普博览 SELF格致论道讲坛导语:2045年,中国77%的工作将被人工智能取代,耳熟能详的人工智能真的只会让人失业吗?当AI取代人力承担繁重的批阅工作,当AI实现因材施教,当AI将老师从工作中解脱出来,教育会迎来怎样的变革呢?

    重磅|2017年度最具商业价值人工智能公司TOP50榜单发布
    重磅|2017年度最具商业价值人工智能公司TOP50榜单发布

    导语:未来最有赚钱潜力的50个人工智能项目都在这里了。经过了60年的发展,人工智能在2017年,正式走向应用的元年。从今年起,人工智能首次被写入政府工作报告。AI相关内容,以前所未有的力度覆盖了各大媒体的头条,成为人们已不陌生的话题。

    新趋势:人工智能带来的医疗新变革
    新趋势:人工智能带来的医疗新变革

    在刚刚落幕的第77届春季CMEF医博会上人工智能成了火爆的关注点。近两年,虽说人工智能还未颠覆医疗,但人工智能也说的上是新时代的听诊器,医生的好工具!图片来源于网络从很大程度上讲,人工智能的出现为医生提高工作效率提供了更多可能。

    人工智能统治地球?好怕这些电影变为现实
    人工智能统治地球?好怕这些电影变为现实

    前些天,科技界和体育界联手刷新了人们的三观,作为曾经4:1战胜围棋世界冠军李世石的阿尔法狗,这次化名“Master”,在互联网上车轮大战中日韩界围棋高手,并以几乎100%的胜率完败人类棋手。一时间,社交媒体上议论纷纷,不少人认为人工智能时代已经到来,而也有人对此表示了担忧。

    大声霍金又来警告人类了
    大声霍金又来警告人类了

    受益于人工智能进行交流的史蒂芬·霍金一次次地向人们警告,人工智能很危险。在接受美国王牌脱口秀主持人拉里·金(Larry King)的采访时,这位英国物理学家表示,人工智能进化的速度比人类的角度更快,而这种进化可能朝着人们无法预知的方向发展。

    人工智能不断进化,未来哪些工作不会被替代?
    人工智能不断进化,未来哪些工作不会被替代?

    近期,阿尔法狗以3:0横扫世界围棋第一人柯洁,人工智能又引起了热议!这是继去年阿尔法狗以4:1击败李世石,今年年初阿尔法狗在网上对职业高手们取下快棋60连胜后,阿尔法狗再次取胜。就目前来看,阿尔法狗已经向我们证明在围棋这一个高智商竞赛领域,人类已非机器的对手。

    美国总统经常不靠谱,让人工智能来当总统行不行?
    美国总统经常不靠谱,让人工智能来当总统行不行?

    《连线》杂志日前撰文称,由于美国总统经常犯愚蠢的错误,可以考虑让人工智能来承担这项工作。虽然短期内还难以实现,但从长期来看,的确存在这种可能。来源|《连线》杂志编译|长歌网址|www.xtecher.com微信公众号ID|Xtecher我们...

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com