万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    世界电影科幻片金融股票

    StuartRussell:人工智能就好比核武器

    2015年12月20日 作者:机器之心

    从1920年的戏剧《R.U.R.》中愤怒的机器人到电影《2001:太空漫游》中嗜杀成性的计算机H.A.L.9000,自人工智能这个概念进入到我们共同的想象中以来,科幻小说作者浓墨重彩地描写了它黑暗的一面。人工智能研究的缓慢进展,尤其是上世纪七八十年代经历的「AI寒冬」,使得这种担心看起来有点离谱。但是近期,随着机器学习的突破和计算能力的大幅提高给人工智能研究带来了大量的资金,但也给人工智能究竟把我们引向何方这个思考题引来了新的关注。

    Stuart Russell:人工智能就好比核武器


    Stuart Russell是其中一位公开表态的研究者,他是加州大学伯克利分校的计算机科学家,他与谷歌研究所的主管Peter Norvig合写了一本书重量级的人工智能教科书《人工智能:一种现代方法》(Artificial Intelligence: A Modern Approach),现在已经是第三版了。去年, Russell 参加了剑桥大学CSER,作为一个人工智能家,专注于可能导致人类灭绝的风险。4月,他在日内瓦参加了联合国发起的会议,在会议上,他提出了几项主要的担忧,其中包括人工智能系统来控制无人机和武器的风险。

    Stuart Russell:人工智能就好比核武器

    以下是John Bohannon对他的专访:

    问:你认为人工智能演变成灾难可能的途径是什么?

    答:最典型的情况就是明显或者隐含的价值体系失调:人工智能系统被赋予的目标难以完全考虑和计算人类所关心的目标要素。各个公司想要取得巨大技术优势的方法是多种多样和纷繁复杂的,国家之间也想尽力在敌国之前建立人工智能系统,或者以一种温水煮青蛙的方式渐渐使得我们变得越来越虚弱,不得不依赖人工智能才能生活下来,就像 E. M. Forster的科幻小说《机器休止》(The Machine Stops)。

    问:你与这个问题「搏斗」了好长时间。

    答:我的课本上有一章节是《如果我们成功了呢》,致力于回答这个问题:人类水平的AI或者超级智能系统是否是一个好主意。最近备受关注的话题是AI能力快速发展,比如用腿行进的大狗机器人(这是Boston Dynamics开发的自主式机器人,最近被谷歌收购),以及在计算机视觉上的进步。

    问:阻止人工智能大灾难需要做些什么?

    答:首先,需要对技术方法潜在的风险和进展进行研究,消除风险。第二,调整AI和培养学生的目标,以使AI系统遵循人类的目标成为本领域内最重要的事,就像遏制在核聚变研究中很重要一样。

    问:但是在我们发展核聚变的同时,已经有了原子弹。但人工智能危险只是出于推测中,那我们是否真的处于人工智能「核聚变」的阶段?

    答:1939年,利奥·西拉特(Leo Szilard)在证明核链式反应后写道:「我们把一切都关掉,回家了。那天晚上,我毫不怀疑,世界正走向悲痛。」那些说,嗯,我们可能永远都达不到人类水平的AI或超级AI,我会回答:这就像开车直向悬崖边,然后说,「让我们祈求汽油尽快被烧完!」

    Stuart Russell:人工智能就好比核武器

    问:发明核裂变是为了制造武器,发明人工智能是为了创造工具——随时可用的智能。这是否解释了人们不愿意监管AI的原因?

    答:从一开始,核技术上的最初目标是「取之不尽的能源供应」。作为武器的可能性再明显不过了。我认为无限能源和无限智能之间具有合理的可比性。二者都似乎很美妙,直到有人想到可能的风险。任何人都不会在数学上限制二者。核武器的监管对象是目标和材料,而AI的监管对象则是各种无法形容的眼花缭乱的软件。无论在AI领域的内外,我都没有看到有人呼吁这种监管,因为我们不知道应该如何去写出这样的规定。

    问:我们应该像监测易裂变物质(核燃料)一样监测AI研究吗?谁负责此类的监管?

    答:我认为正确的做法是把问题直接建立到从业者如何定义他们所做的事上。土木工程从业者没有谁会谈到「搭建不会倒塌的桥梁」他们只说「搭建桥梁」。基本上所有的核聚变研究者都认为遏制核武器是理所当然的事;不受限制的聚变反应对人类无益处。所以,我们要从现在起聚焦在「可能有益的AI」上,今后才能单用「AI」来概括对人类有益的AI。这个领域目前致力于建立纯粹的智能,而不顾它们的目标和可能带来的后果。我们应该摒弃这样的想法,重新规划目标。

    机器之心,最专业的前沿科技媒体和产业服务平台,每日提供优质产业资讯与深度思考,欢迎关注微信公众号「机器之心」(almosthuman2014),或登录机器之心网站www.almosthuman.cn查看更多精彩内容。

    位置:首页 > 科技
    想你的夜2015/12/20 11:29

    既然核武器没有毁灭人类,人功智能也不会

    加载更多评论...
    本类推荐
    美军过于依赖电子技术,一种武器可破之
    美军过于依赖电子技术,一种武器可破之

    西方有个寓言,一个富翁把所有财产都藏在一个箱子里,为了确保安全,他对箱子上了很多道锁,自以为万无一失,然而有个小偷将他的箱子直接抱走了。这个寓言中的富翁就好比现在的美军,对于电子产品的运行速度和性能有着痴迷的追求,然而如果能专门有一种武器针对电子产品,那美军就失去了所有优势了。

    博士毕业年薪百万人工智能催生最贵抢人大战
    博士毕业年薪百万人工智能催生最贵抢人大战

    还没从浙大毕业就被包圆为了抢人,杭州有科技公司直接把总部放进校园为了吸引人才,国内顶尖的人工智能创业公司格灵深瞳,由CEO亲自出面在浙大招聘暑期实习生。 Boss直聘的数据显示,跟人工智能相关的数据服务行业,是今年公司薪资预算增长最快的领域。

    资深技术专家:我不在乎人工智能因为自动编程是不可能的
    资深技术专家:我不在乎人工智能因为自动编程是不可能的

    有人听说我想创业,给我提出了一些“忽悠”的办法。他们说,既然你是程序语言专家,而现在人工智能(AI)又非常热,那你其实可以搞一个“自动编程系统”,号称可以自动生成程序,取代程序员的工作,节省许许多多的人力支出,这样就可以趁着“AI 热”拉到投资。

    王垠:自动编程是不可能的—我为什么不在乎人工智能
    王垠:自动编程是不可能的—我为什么不在乎人工智能

    有人听说我想创业,给我提出了一些“忽悠”的办法。他们说,既然你是程序语言专家,而现在人工智能(AI)又非常热,那你其实可以搞一个“自动编程系统”,号称可以自动生成程序,取代程序员的工作,节省许许多多的人力支出,这样就可以趁着“AI 热”拉到投资。

    译趣闻|从围棋到编程,AI人工智能点亮了哪些生活技能?
    译趣闻|从围棋到编程,AI人工智能点亮了哪些生活技能?

    每过段日子,就会传出人工智能会代替人类的假消息,人工智能的确学习了很多技能,但远没有达到能代替人类的地步。那么下面就来讲讲人工智能点亮了哪些技能。人工智能是什么?在了解人工智能学习的技能之前,首先要了解人工智能是什么。

    所有宣传使用了人工智能技术的科技产品都是大忽悠
    所有宣传使用了人工智能技术的科技产品都是大忽悠

    先问大家一个问题:人工智能和鸡蛋的价格有什么共同点?假设现在你正在商店里挑选鸡蛋,有10种不同的鸡蛋供你挑选。当你看见鸡蛋标签上写着“纯天然”时,你的眼睛一定是亮晶晶的。是的,“纯天然”的鸡蛋听起来很健康的样子,但它们比一般鸡蛋要贵。

    浅谈嵌入式人工智能:市场已现雏形,还能吃手机红利多久?
    浅谈嵌入式人工智能:市场已现雏形,还能吃手机红利多久?

    作者:IT 桔子数据分析师「嵌入式人工智能」已成为一个新的热点论词。在 4 月 28 日「GMIC AI+国际峰会」上,零零无限 CEO 王孟秋、中科创达技术总监王璠以及云迹科技 CEO 支涛在分享过程中或交流中都提及了「嵌入式人工智」能这一概念。

    不管你信不信,人工智能即将改变我们的生活
    不管你信不信,人工智能即将改变我们的生活

    1月份一个移动APP通过了CE认证。这是英国的一家认知评审工具公司Cambridge Cognition开发的APP,安装在iPad端,是一个老年人记忆问题评估和早期预警工具 “CE”标志是一种安全认证标志,被视为制造商打开并进入欧洲市场的护照。

    李开复哥伦比亚大学毕业典礼演讲:爱,让人类有别于人工智能
    李开复哥伦比亚大学毕业典礼演讲:爱,让人类有别于人工智能

    5月15日,创新工场创始人兼CEO、人工智能工程院院长李开复博士作为特邀嘉宾,在纽约哥伦比亚大学工程学院向2017届毕业生们发表了题为《一个工程师的人工智能银河系漫游指南》毕业演讲。 作为哥大83届毕业生...

    为何手机厂商对语音助手如此着迷?导火索在这儿
    为何手机厂商对语音助手如此着迷?导火索在这儿

    乔布斯生前强烈预感到语音为先的新世界,重病缠身的他仍完成对Siri的收购。2011年,Siri搭载着iPhone4s惊艳亮相。随后,各大科技巨头纷纷开始加大语音助手方面的研发,但语音助手行业一直处于不温不火的状态...

    李开复新书《人工智能》上海签售:人工智能将在哪些行业取代人类?
    李开复新书《人工智能》上海签售:人工智能将在哪些行业取代人类?

    在有些人的心目中,也许人工智能还是个遥远的词语。它存在于科幻影视中,存在于学术界的实验室中,但实际上,它已经存在于在我们身边。举个最贴近我们的例子,我们手机上的各种应用,苹果手机里能够和我们对话的Siri,拍照用的美图,打车用的滴滴、Uber,都是人工智能技术的代表。

    火箭筒炮弹装反了是什么后果?看完这组图可算长知识了!
    火箭筒炮弹装反了是什么后果?看完这组图可算长知识了!

    这是一组武器类的动图,很短,但是内有乾坤:第一张是坦克发生发射干扰弹,也就是烟雾弹的另一种,即热干扰弹。就是用利用柴油的不充分燃烧,然后排出来形成厚厚的热烟幕。能时红外制导和激光制导的导弹迷茫。第二张图是美军发射SMAW-D83mm反坦克火箭筒...

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com