万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    世界电影科幻片金融股票

    StuartRussell:人工智能就好比核武器

    2015年12月20日 作者:机器之心

    从1920年的戏剧《R.U.R.》中愤怒的机器人到电影《2001:太空漫游》中嗜杀成性的计算机H.A.L.9000,自人工智能这个概念进入到我们共同的想象中以来,科幻小说作者浓墨重彩地描写了它黑暗的一面。人工智能研究的缓慢进展,尤其是上世纪七八十年代经历的「AI寒冬」,使得这种担心看起来有点离谱。但是近期,随着机器学习的突破和计算能力的大幅提高给人工智能研究带来了大量的资金,但也给人工智能究竟把我们引向何方这个思考题引来了新的关注。

    Stuart Russell:人工智能就好比核武器


    Stuart Russell是其中一位公开表态的研究者,他是加州大学伯克利分校的计算机科学家,他与谷歌研究所的主管Peter Norvig合写了一本书重量级的人工智能教科书《人工智能:一种现代方法》(Artificial Intelligence: A Modern Approach),现在已经是第三版了。去年, Russell 参加了剑桥大学CSER,作为一个人工智能家,专注于可能导致人类灭绝的风险。4月,他在日内瓦参加了联合国发起的会议,在会议上,他提出了几项主要的担忧,其中包括人工智能系统来控制无人机和武器的风险。

    Stuart Russell:人工智能就好比核武器

    以下是John Bohannon对他的专访:

    问:你认为人工智能演变成灾难可能的途径是什么?

    答:最典型的情况就是明显或者隐含的价值体系失调:人工智能系统被赋予的目标难以完全考虑和计算人类所关心的目标要素。各个公司想要取得巨大技术优势的方法是多种多样和纷繁复杂的,国家之间也想尽力在敌国之前建立人工智能系统,或者以一种温水煮青蛙的方式渐渐使得我们变得越来越虚弱,不得不依赖人工智能才能生活下来,就像 E. M. Forster的科幻小说《机器休止》(The Machine Stops)。

    问:你与这个问题「搏斗」了好长时间。

    答:我的课本上有一章节是《如果我们成功了呢》,致力于回答这个问题:人类水平的AI或者超级智能系统是否是一个好主意。最近备受关注的话题是AI能力快速发展,比如用腿行进的大狗机器人(这是Boston Dynamics开发的自主式机器人,最近被谷歌收购),以及在计算机视觉上的进步。

    问:阻止人工智能大灾难需要做些什么?

    答:首先,需要对技术方法潜在的风险和进展进行研究,消除风险。第二,调整AI和培养学生的目标,以使AI系统遵循人类的目标成为本领域内最重要的事,就像遏制在核聚变研究中很重要一样。

    问:但是在我们发展核聚变的同时,已经有了原子弹。但人工智能危险只是出于推测中,那我们是否真的处于人工智能「核聚变」的阶段?

    答:1939年,利奥·西拉特(Leo Szilard)在证明核链式反应后写道:「我们把一切都关掉,回家了。那天晚上,我毫不怀疑,世界正走向悲痛。」那些说,嗯,我们可能永远都达不到人类水平的AI或超级AI,我会回答:这就像开车直向悬崖边,然后说,「让我们祈求汽油尽快被烧完!」

    Stuart Russell:人工智能就好比核武器

    问:发明核裂变是为了制造武器,发明人工智能是为了创造工具——随时可用的智能。这是否解释了人们不愿意监管AI的原因?

    答:从一开始,核技术上的最初目标是「取之不尽的能源供应」。作为武器的可能性再明显不过了。我认为无限能源和无限智能之间具有合理的可比性。二者都似乎很美妙,直到有人想到可能的风险。任何人都不会在数学上限制二者。核武器的监管对象是目标和材料,而AI的监管对象则是各种无法形容的眼花缭乱的软件。无论在AI领域的内外,我都没有看到有人呼吁这种监管,因为我们不知道应该如何去写出这样的规定。

    问:我们应该像监测易裂变物质(核燃料)一样监测AI研究吗?谁负责此类的监管?

    答:我认为正确的做法是把问题直接建立到从业者如何定义他们所做的事上。土木工程从业者没有谁会谈到「搭建不会倒塌的桥梁」他们只说「搭建桥梁」。基本上所有的核聚变研究者都认为遏制核武器是理所当然的事;不受限制的聚变反应对人类无益处。所以,我们要从现在起聚焦在「可能有益的AI」上,今后才能单用「AI」来概括对人类有益的AI。这个领域目前致力于建立纯粹的智能,而不顾它们的目标和可能带来的后果。我们应该摒弃这样的想法,重新规划目标。

    机器之心,最专业的前沿科技媒体和产业服务平台,每日提供优质产业资讯与深度思考,欢迎关注微信公众号「机器之心」(almosthuman2014),或登录机器之心网站www.almosthuman.cn查看更多精彩内容。

    位置:首页 > 科技
    想你的夜2015/12/20 11:29

    既然核武器没有毁灭人类,人功智能也不会

    加载更多评论...
    本类推荐
    2017全球人工智能大学TOP20,亚洲高校无一所上榜
    2017全球人工智能大学TOP20,亚洲高校无一所上榜

    人工智能机器人行业第一影响力,30万AI从业者已关注日前,国务院发布了《新一代人工智能发展规划》,对完善人工智能领域学科布局,设立人工智能专业,推动人工智能领域一级学科建设提出了指导意见,这令业内专家感到振奋。

    当人工智能取代了你的工作,你该怎么办?
    当人工智能取代了你的工作,你该怎么办?

    你的工作将在20年内不复存在:到2036年,机器人和人工智能将"淘汰"所有人类工人。这是美国斯坦福大学研究员、世界级人工智能专家维威克·沃德瓦的一个论断。世界经济论坛发布的报告也显示,提高自动化程度和在劳动力队伍中引入人工智能...

    “小冰小冰,我感冒了”
    “小冰小冰,我感冒了”

    “I’m so happy I get to be next to you and look at the world through your eyes.”我很庆幸能陪在你身边,通过你的目光看世界。BY《Her》/ 人工智能时代爱情故事你好哇...

    人工智能站上风口,科大讯飞之后谁是新龙头?(附股)
    人工智能站上风口,科大讯飞之后谁是新龙头?(附股)

    彩贝财经(公众号icaibei)统计,上周计算机板块(中信分类)上涨7.82%,涨幅排名位列29个行业中第1位,同期上证50上涨1.67%,沪深300上涨2.12%。计算机板块继续领涨。本周人工智能引领计算机板块继续上涨,代表未来的新科技仍是投资者最看好的方向。

    落后就要挨打,第三次武器革命即将来临,幸好中国早有准备
    落后就要挨打,第三次武器革命即将来临,幸好中国早有准备

    【军武次位面】 作者:军武菌人工智能(Artificial Intelligence),英文缩写为AI。1936年,年仅24岁的英国数学家图灵提出了著名的图灵机模型,1945年论述了电子数字计算机设计思想...

    人工智能:AI让狙击手离开战场|AI能成为未来战场的主角吗?
    人工智能:AI让狙击手离开战场|AI能成为未来战场的主角吗?

    导 读我们正在面对战争史的根本性变化,人工智能在战争中的出现将彻底改变步兵的性质。美国军方正在描绘一种新型步兵,一些专家认为步兵将转变成为战场协调员的角色,主要工作就是决定是否开火;另一些专家认为未来步兵中的人类必须寻求功能增强...

    人工智能是外媒对中国的最新关注点:中国将成全球领先者
    人工智能是外媒对中国的最新关注点:中国将成全球领先者

    在外媒眼中,中国似乎有了一个新标签。不久前,李彦宏亲自乘坐百度自动驾驶汽车奔在北京的五环上,着实赚足了眼球。尽管涉嫌违法,但百度貌似依然“春风得意马蹄疾”,因为他触碰了人工智能在汽车领域的最前沿。近日,软银董事长孙正义关于人工智能的一篇演讲,迅速成为行业爆款。

    FacebookAI创造新语言可能会失控?科学家说想多了
    FacebookAI创造新语言可能会失控?科学家说想多了

    这已经不是第一次发现人工智能使用偏离训练语言的新表述了。人工智能可以创造自己的语言?这个说法既耸人听闻又让人毛骨悚然。人工智能真的会觉醒吗?本文共计1914字,阅读时间3分钟。文 / 蔡浩爽 刘娜点击听小表妹讲新闻一直以来...

    AI的激辩与狂欢:互联网+OUT了,快去拥抱人工智能+
    AI的激辩与狂欢:互联网+OUT了,快去拥抱人工智能+

    财神经 【人工智能的激辩与狂欢】人工智能(AI)会引发世界末日吗?当特斯拉CEO伊隆·马斯克再度在几十位美国州长面前抛出“AI末日论”的观点时,一边烧烤一边做Facebook直播的Facebook CEO扎克伯格忍不住隔空喊话:“人工智能可以让世界变得更好。

    万万没想到人类200年人工智能想象史竟然藏着这样的大秘密
    万万没想到人类200年人工智能想象史竟然藏着这样的大秘密

    许多人真正记住人工智能,或许是因为2001年史蒂文·斯皮尔伯格执导那部电影《人工智能》。诡吊的是,这部电影像极了他1985年为了冲击奥斯卡为拍的文艺片《紫色》,从来都是票房冠军、爆米花故事高手的斯皮尔伯格...

    麦肯锡:中国传统企业入局AI,需要先想清楚这9个问题
    麦肯锡:中国传统企业入局AI,需要先想清楚这9个问题

    雷锋网按:近日,麦肯锡在2016年12月发布的针对中国人工智能行业现状的报告又火了一次。在该报告中,麦肯锡对中国一共有80家企业进行了调查,其中60家是传统行业,如零售,重工业和建筑业,还有20家是中国领先的互联网公司中的AI专家。

    为了避免战争被机器人支配的恐惧,马斯克和AI专家们联名上书
    为了避免战争被机器人支配的恐惧,马斯克和AI专家们联名上书

    在电影《机械战警》中,用机器人充当警察、士兵的故事被设定在了 2028 年。电影里面的这些机器人,虽然不像漫威中的各种变种人一样拥有超能力,却也是同时具备人脑意识和机器人躯体的超级战士。(图片来自:The Oracle)尽管他们被部署为维护正义和和平的警察...

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com