万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    世界电影科幻片金融股票

    StuartRussell:人工智能就好比核武器

    2015年12月20日 作者:机器之心

    从1920年的戏剧《R.U.R.》中愤怒的机器人到电影《2001:太空漫游》中嗜杀成性的计算机H.A.L.9000,自人工智能这个概念进入到我们共同的想象中以来,科幻小说作者浓墨重彩地描写了它黑暗的一面。人工智能研究的缓慢进展,尤其是上世纪七八十年代经历的「AI寒冬」,使得这种担心看起来有点离谱。但是近期,随着机器学习的突破和计算能力的大幅提高给人工智能研究带来了大量的资金,但也给人工智能究竟把我们引向何方这个思考题引来了新的关注。

    Stuart Russell:人工智能就好比核武器


    Stuart Russell是其中一位公开表态的研究者,他是加州大学伯克利分校的计算机科学家,他与谷歌研究所的主管Peter Norvig合写了一本书重量级的人工智能教科书《人工智能:一种现代方法》(Artificial Intelligence: A Modern Approach),现在已经是第三版了。去年, Russell 参加了剑桥大学CSER,作为一个人工智能家,专注于可能导致人类灭绝的风险。4月,他在日内瓦参加了联合国发起的会议,在会议上,他提出了几项主要的担忧,其中包括人工智能系统来控制无人机和武器的风险。

    Stuart Russell:人工智能就好比核武器

    以下是John Bohannon对他的专访:

    问:你认为人工智能演变成灾难可能的途径是什么?

    答:最典型的情况就是明显或者隐含的价值体系失调:人工智能系统被赋予的目标难以完全考虑和计算人类所关心的目标要素。各个公司想要取得巨大技术优势的方法是多种多样和纷繁复杂的,国家之间也想尽力在敌国之前建立人工智能系统,或者以一种温水煮青蛙的方式渐渐使得我们变得越来越虚弱,不得不依赖人工智能才能生活下来,就像 E. M. Forster的科幻小说《机器休止》(The Machine Stops)。

    问:你与这个问题「搏斗」了好长时间。

    答:我的课本上有一章节是《如果我们成功了呢》,致力于回答这个问题:人类水平的AI或者超级智能系统是否是一个好主意。最近备受关注的话题是AI能力快速发展,比如用腿行进的大狗机器人(这是Boston Dynamics开发的自主式机器人,最近被谷歌收购),以及在计算机视觉上的进步。

    问:阻止人工智能大灾难需要做些什么?

    答:首先,需要对技术方法潜在的风险和进展进行研究,消除风险。第二,调整AI和培养学生的目标,以使AI系统遵循人类的目标成为本领域内最重要的事,就像遏制在核聚变研究中很重要一样。

    问:但是在我们发展核聚变的同时,已经有了原子弹。但人工智能危险只是出于推测中,那我们是否真的处于人工智能「核聚变」的阶段?

    答:1939年,利奥·西拉特(Leo Szilard)在证明核链式反应后写道:「我们把一切都关掉,回家了。那天晚上,我毫不怀疑,世界正走向悲痛。」那些说,嗯,我们可能永远都达不到人类水平的AI或超级AI,我会回答:这就像开车直向悬崖边,然后说,「让我们祈求汽油尽快被烧完!」

    Stuart Russell:人工智能就好比核武器

    问:发明核裂变是为了制造武器,发明人工智能是为了创造工具——随时可用的智能。这是否解释了人们不愿意监管AI的原因?

    答:从一开始,核技术上的最初目标是「取之不尽的能源供应」。作为武器的可能性再明显不过了。我认为无限能源和无限智能之间具有合理的可比性。二者都似乎很美妙,直到有人想到可能的风险。任何人都不会在数学上限制二者。核武器的监管对象是目标和材料,而AI的监管对象则是各种无法形容的眼花缭乱的软件。无论在AI领域的内外,我都没有看到有人呼吁这种监管,因为我们不知道应该如何去写出这样的规定。

    问:我们应该像监测易裂变物质(核燃料)一样监测AI研究吗?谁负责此类的监管?

    答:我认为正确的做法是把问题直接建立到从业者如何定义他们所做的事上。土木工程从业者没有谁会谈到「搭建不会倒塌的桥梁」他们只说「搭建桥梁」。基本上所有的核聚变研究者都认为遏制核武器是理所当然的事;不受限制的聚变反应对人类无益处。所以,我们要从现在起聚焦在「可能有益的AI」上,今后才能单用「AI」来概括对人类有益的AI。这个领域目前致力于建立纯粹的智能,而不顾它们的目标和可能带来的后果。我们应该摒弃这样的想法,重新规划目标。

    机器之心,最专业的前沿科技媒体和产业服务平台,每日提供优质产业资讯与深度思考,欢迎关注微信公众号「机器之心」(almosthuman2014),或登录机器之心网站www.almosthuman.cn查看更多精彩内容。

    位置:首页 > 科技
    想你的夜2015/12/20 11:29

    既然核武器没有毁灭人类,人功智能也不会

    加载更多评论...
    本类推荐
    “小冰小冰,我感冒了”
    “小冰小冰,我感冒了”

    “I’m so happy I get to be next to you and look at the world through your eyes.”我很庆幸能陪在你身边,通过你的目光看世界。BY《Her》/ 人工智能时代爱情故事你好哇...

    人工智能站上风口,科大讯飞之后谁是新龙头?(附股)
    人工智能站上风口,科大讯飞之后谁是新龙头?(附股)

    彩贝财经(公众号icaibei)统计,上周计算机板块(中信分类)上涨7.82%,涨幅排名位列29个行业中第1位,同期上证50上涨1.67%,沪深300上涨2.12%。计算机板块继续领涨。本周人工智能引领计算机板块继续上涨,代表未来的新科技仍是投资者最看好的方向。

    迅雷程浩:行业壁垒是人工智能创业最大的护城河
    迅雷程浩:行业壁垒是人工智能创业最大的护城河

    大家好,我是迅雷创始人程浩,现在专注科技领域的投资。今天跟大家聊聊人工智能领域的创业和创新,包括如何选择赛道、团队的搭配、以及如何应对巨头的挑战。为此我从投资人的视角,给大家总结了人工智能创业的6大核心问题。

    单兵核武器:人类发明的最愚蠢武器
    单兵核武器:人类发明的最愚蠢武器

    爱因斯坦的质量方程E=MC^2 为原子弹的发明提供了理论依据,随之原子弹面世,日本的两颗原子弹让世人知道这种超级武器的厉害。二战之后各国更是拼了命的研制核武器,核炸弹,核导弹,核地雷等等,而美国曾经发明过历史上人类最愚蠢的武器------核火箭筒。

    聚焦人工智能,我们到底如何看待人工智能发展呢?
    聚焦人工智能,我们到底如何看待人工智能发展呢?

    未来我们很多的工作机会可能都会被机器人所剥夺,也会深刻的改变我们的社会和我们的经济生活。未来人工智能风行天下。我们到底如何看待人工智能呢?差不多在20年前,IBM的“深蓝”曾经战胜了国际象棋大师卡斯帕罗夫...

    实测人工智能们的智商,结果都不如6岁小孩聪明,最笨果然是Siri
    实测人工智能们的智商,结果都不如6岁小孩聪明,最笨果然是Siri

    自从 2011 年 Siri 借着 iPhone 4s 问世,关于人工智能的话题就越来越热,调戏 Siri 的各种段子也不绝于耳。刚问世的 Siri 虽然并没有像想象中的那么科幻,但已经能够对人们提出的简单问题做出回答,也能和人们开玩笑,而通过语音设置提醒也是其基本的能力。

    独家|人工智能行业薪酬曝光,是时候转行了
    独家|人工智能行业薪酬曝光,是时候转行了

    人工智能可谓是目前最热门的行业,从走在前沿的科技公司,到努力创新的传统行业,几乎都想把握这个新“风口”。而人工智能的核心就是人才,热门的行业通常意味着工作机会和薪酬待遇都跟着增加,那么对于热门中的热门,人工智能领域薪酬水平和人才供需情况到底如何呢?

    人工智能碾压人类智商,千万人将丢掉饭碗...
    人工智能碾压人类智商,千万人将丢掉饭碗...

    当看到姚晨、王力宏这些娱乐明星也在微博上评论李世石与AlphaGo的人机大战时,我们知道AlphaGo火了。当韩国棋王李世石投子认输的那一刻,人类开始以另一种眼光看待这个人工智能程序,从不被看好到连胜两局...

    人工智能将成为约炮神器?
    人工智能将成为约炮神器?

    四年前,那个躁动的春天,i黑马写的一篇《约炮神器TOP10》刷遍互联网圈,全网累计阅读破千万,成为无数宅男宅女人生幸福指南。四年后,这个燥热的夏天,i黑马在深入研究了人工智能产业之后猛然发现——人工智能很可能将再让“约炮”成为历史。

    人工智能,一个更可信的关于世界末日的设想?|上海活动
    人工智能,一个更可信的关于世界末日的设想?|上海活动

    “今年4月,著名英国物理学家史蒂芬·威廉·霍金在北京举办的全球移动互联网大会上做视频演讲时指出,人工智能可能是人类文明的终结者。“人工智能崛起要么是人类最好的事,要么就是最糟糕的事。人类需警惕人工智能发展的威胁。

    害怕错过人工智能的年轻人:在80天的速成班里梦想年薪百万
    害怕错过人工智能的年轻人:在80天的速成班里梦想年薪百万

    中国正以空前速度“催熟”人工智能产业,一边试图把人们从旧产业格局和繁重劳作中解放出来,一边又如鞭挞督导般,让人们做出种种变革。在这一大潮中,踏上或即将踏上人工智能专列的人们兴奋着、冒险着、困惑着、前行着。

    人工智能Rokid完成B轮融资后估值4.5亿美金
    人工智能Rokid完成B轮融资后估值4.5亿美金

    昨日下午,从事研发AI领域的科技公司Rokid在IDG资本北京办公室,进行了一场关于新一轮融资的媒体沟通会。亿欧在会上了解,今年10月初,人工智能公司Rokid在完成B轮融资后,公司估值达4.5亿美金。

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com