万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    世界电影科幻片金融股票

    StuartRussell:人工智能就好比核武器

    2015年12月20日 来源: 机器之心

    从1920年的戏剧《R.U.R.》中愤怒的机器人到电影《2001:太空漫游》中嗜杀成性的计算机H.A.L.9000,自人工智能这个概念进入到我们共同的想象中以来,科幻小说作者浓墨重彩地描写了它黑暗的一面。人工智能研究的缓慢进展,尤其是上世纪七八十年代经历的「AI寒冬」,使得这种担心看起来有点离谱。但是近期,随着机器学习的突破和计算能力的大幅提高给人工智能研究带来了大量的资金,但也给人工智能究竟把我们引向何方这个思考题引来了新的关注。

    Stuart Russell:人工智能就好比核武器


    Stuart Russell是其中一位公开表态的研究者,他是加州大学伯克利分校的计算机科学家,他与谷歌研究所的主管Peter Norvig合写了一本书重量级的人工智能教科书《人工智能:一种现代方法》(Artificial Intelligence: A Modern Approach),现在已经是第三版了。去年, Russell 参加了剑桥大学CSER,作为一个人工智能家,专注于可能导致人类灭绝的风险。4月,他在日内瓦参加了联合国发起的会议,在会议上,他提出了几项主要的担忧,其中包括人工智能系统来控制无人机和武器的风险。

    Stuart Russell:人工智能就好比核武器

    以下是John Bohannon对他的专访:

    问:你认为人工智能演变成灾难可能的途径是什么?

    答:最典型的情况就是明显或者隐含的价值体系失调:人工智能系统被赋予的目标难以完全考虑和计算人类所关心的目标要素。各个公司想要取得巨大技术优势的方法是多种多样和纷繁复杂的,国家之间也想尽力在敌国之前建立人工智能系统,或者以一种温水煮青蛙的方式渐渐使得我们变得越来越虚弱,不得不依赖人工智能才能生活下来,就像 E. M. Forster的科幻小说《机器休止》(The Machine Stops)。

    问:你与这个问题「搏斗」了好长时间。

    答:我的课本上有一章节是《如果我们成功了呢》,致力于回答这个问题:人类水平的AI或者超级智能系统是否是一个好主意。最近备受关注的话题是AI能力快速发展,比如用腿行进的大狗机器人(这是Boston Dynamics开发的自主式机器人,最近被谷歌收购),以及在计算机视觉上的进步。

    问:阻止人工智能大灾难需要做些什么?

    答:首先,需要对技术方法潜在的风险和进展进行研究,消除风险。第二,调整AI和培养学生的目标,以使AI系统遵循人类的目标成为本领域内最重要的事,就像遏制在核聚变研究中很重要一样。

    问:但是在我们发展核聚变的同时,已经有了原子弹。但人工智能危险只是出于推测中,那我们是否真的处于人工智能「核聚变」的阶段?

    答:1939年,利奥·西拉特(Leo Szilard)在证明核链式反应后写道:「我们把一切都关掉,回家了。那天晚上,我毫不怀疑,世界正走向悲痛。」那些说,嗯,我们可能永远都达不到人类水平的AI或超级AI,我会回答:这就像开车直向悬崖边,然后说,「让我们祈求汽油尽快被烧完!」

    Stuart Russell:人工智能就好比核武器

    问:发明核裂变是为了制造武器,发明人工智能是为了创造工具——随时可用的智能。这是否解释了人们不愿意监管AI的原因?

    答:从一开始,核技术上的最初目标是「取之不尽的能源供应」。作为武器的可能性再明显不过了。我认为无限能源和无限智能之间具有合理的可比性。二者都似乎很美妙,直到有人想到可能的风险。任何人都不会在数学上限制二者。核武器的监管对象是目标和材料,而AI的监管对象则是各种无法形容的眼花缭乱的软件。无论在AI领域的内外,我都没有看到有人呼吁这种监管,因为我们不知道应该如何去写出这样的规定。

    问:我们应该像监测易裂变物质(核燃料)一样监测AI研究吗?谁负责此类的监管?

    答:我认为正确的做法是把问题直接建立到从业者如何定义他们所做的事上。土木工程从业者没有谁会谈到「搭建不会倒塌的桥梁」他们只说「搭建桥梁」。基本上所有的核聚变研究者都认为遏制核武器是理所当然的事;不受限制的聚变反应对人类无益处。所以,我们要从现在起聚焦在「可能有益的AI」上,今后才能单用「AI」来概括对人类有益的AI。这个领域目前致力于建立纯粹的智能,而不顾它们的目标和可能带来的后果。我们应该摒弃这样的想法,重新规划目标。

    机器之心,最专业的前沿科技媒体和产业服务平台,每日提供优质产业资讯与深度思考,欢迎关注微信公众号「机器之心」(almosthuman2014),或登录机器之心网站www.almosthuman.cn查看更多精彩内容。

    位置:首页 > 科技
    想你的夜2015/12/20 11:29

    既然核武器没有毁灭人类,人功智能也不会

    加载更多评论...
    本类推荐
    这不是火箭筒,而是原子弹!可惜打不太准
    这不是火箭筒,而是原子弹!可惜打不太准

    有一种武器诞生在冷战时期,却有如昙花一般转瞬即逝,这就是美国研制的可单兵携带的战术核武器。这些武器针对的主要目标主要是苏联庞大的装甲集团军。二次世界大战后,冷战铁幕逐渐落下,以美苏为首的东西两大阵营开始了长达数十年的对峙。

    独立防线瞬间爆炸HF霸主格林机关枪零件合入
    独立防线瞬间爆炸HF霸主格林机关枪零件合入

    今天我要给大家带来的还是零件合入,这次介绍的对象是有单兵重武器之王之称的格林机关枪,不过稍微不同的是,我要介绍的是HF霸主格林机关枪。对于充值6元就能获得的7星重武器,HF霸主格林机关枪应该是现在最普遍使用的重武器了吧...

    A545突击步枪将代替ak47,它比ak强在哪里?
    A545突击步枪将代替ak47,它比ak强在哪里?

    A545突击步枪其实是AEK-971 5.45×39mm突击步枪的改进型,而AEK-971是1980年代由科夫罗夫机械厂(原名科夫罗夫机枪厂)的首席设计师科沙诺夫设计的。俄罗斯内务部的特种部队装备了少量的AEK-971,但因为订单太少,2006年该枪就停产了。

    核武器爆炸具有有瞬时杀伤力,人和动植物几乎都被气化
    核武器爆炸具有有瞬时杀伤力,人和动植物几乎都被气化

    人们对于核武器的探索在上个世纪初就已经开始了,说到核武器,不能不说到铀。铀是存在于自然界中的一种稀有化学元素,具有放射性。其中铀235在中子轰击下可以发生核裂变反应。所以,铀235就被当做了原子弹的核装料和核电站反应堆的燃料。

    人工智能已“睁开双眼”,能像人类一样学习
    人工智能已“睁开双眼”,能像人类一样学习

    还记得《终结者》系列电影中的天网(Skynet)吗?这个人类于20世纪后期创造的,以计算机为基础的人工智能防御系统,后来因自我意识觉醒,视全人类为威胁,发动了审判日。现在,这样的情景或许会在不远的将来发生在现实生活中,理由是人类的认知能力正被人工智能逐渐习得。

    战士们淘汰81-1式换上了95-1这两种改进型步枪好在哪
    战士们淘汰81-1式换上了95-1这两种改进型步枪好在哪

    81式自动步枪是70年代初设计的,1981年设计定型。它和81-1自动步枪、81式轻机枪合成为81式枪族。这3种武器的主要结构相同,约有65种零部件可以互换通用。该枪族的出现,使中国的武器基本适应了当今世界一枪多用、枪族系列化、弹药通用化的发展趋势...

    核弹还分等级对咱们来说都是一声响然后没有了
    核弹还分等级对咱们来说都是一声响然后没有了

    核弹是指利用爆炸性核反应释放出的巨大能量对目标造成杀伤破坏作用的武器。爆炸性核反应是利用能自持快速进行的原子核裂变或聚变反应,瞬间释放出巨大能量产生的核反应爆炸而形成巨大杀伤破坏效应。另外,核弹是指能进行核裂变或核聚变反应、并具有大规模破坏效应的武器。

    人工智能卷土重来,未来你或许要和机器人做爱做的事了?
    人工智能卷土重来,未来你或许要和机器人做爱做的事了?

    今年1月,谷歌人工智能Master以60胜的成绩席卷棋坛,再次将人们对于人工智能的热议推上了一个高潮。近日,英国权威统计网站发布调查报告,其中指出三分之一受访者愿意爱上机器人,和机器人结婚,并和机器人做爱。

    Alienbat:如果强人工智能出现,人类的命运会如何?
    Alienbat:如果强人工智能出现,人类的命运会如何?

    给钛媒体平台上所有作者的召集令(邀请):小伙伴们,如果你经常在钛媒体平台上分享自己的见解,但不认识编辑,无法及时沟通;如果你经常看某一个作者的文章,神交已久,但苦于无法与他交流。可以通过以下方式,找到组织:是的,我们新建了个群。

    熊孩子河里捞起百年古董机枪带回家把玩,其母直接报警
    熊孩子河里捞起百年古董机枪带回家把玩,其母直接报警

    当英国萨默塞特郡的16岁男学生詹姆斯(James Cork)拖着磁铁过河的时候,他原本只期待捞起一些碎铁(拖磁铁过河!小编怎么没想到,过年也回家试试)。但这位少年在上周却从河里捞起了40把致命武器。这些武器是第二次世界大战的产物...

    赫鲁晓夫出尔反尔拒给原子尖端技术,毛主席回应了两个字:极好!
    赫鲁晓夫出尔反尔拒给原子尖端技术,毛主席回应了两个字:极好!

    近代中国积弱积贫,由于没有强大的国防,成了任人撕咬的肥肉,要使新中国成为谁也啃不动的硬核桃,真正站得住、不受人欺负,就要有尖端武器。毛泽东在1958年6月的军委扩大会议上指出:"原子弹,没有那个东西,人家就说你不算数。

    这款冲锋枪造价只有9美元,做工比纳粹人民冲锋枪低劣,是什么枪
    这款冲锋枪造价只有9美元,做工比纳粹人民冲锋枪低劣,是什么枪

    1940年几十万英国精锐远征军在法国被德国人打的屁滚尿流。追在屁股后面赶到了敦刻尔克,丘吉尔的大撤退计划尽管成功了,但是远征军大量武器都被那些少爷兵给扔在了法国的海滩上,导致当时英国本土什么武器都缺。司登冲锋枪可以说是当时给逼出来的。

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com