万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    世界电影科幻片

    类脑人工智能是一个黑箱,现在,科学家终于窥视到内部……

    2017年3月11日 来源: DeepTech深科技

    上个月,Facebook发布了一款图像识别软件,只要看一眼照片,就能识别出图中是猫咪还是狗狗。另一个类似的程序则能像训练有素的皮肤科医师一样,鉴别癌性皮肤病变。此类技术都是基于人工智能领域的一种先进算法——神经网络(Neural networks)。

    然而,即使是神经网络的开发者,也无法准确的直到它们是如何工作的。如今,研究者找到了一种方法来“观察”神经网络的活动,看它们是如何形成结论并做出决策的。

    人工神经网络源于对大脑多层级神经元协同工作的模拟。它们并非焊死的电路,只求算出特定的结果,而是像人脑一样会“学习”——进行数据训练、为多种输入信息建立联结并强化之。

    一个神经网络可能同时拥有两层神经元:一层负责观察图片的像素点,另一层负责观察物体的边缘,例如人像与背景之间的分界轮廓线。在经过成千上万的训练后,神经网络会逐渐形成一套自有的图片识别规则。但是,我们却并不清楚这套规则。

    Wojciech Samek是柏林弗劳恩霍夫通信技术研究所(The Fraunhofer Institute for Telecommunications)的研究人员,他认为:“神经网络是非常迷人的数学模型,在许多领域完胜传统的数学模型,但用起来常常跟黑箱差不多,根本不知道内部机制是什么。”

    为了解锁这个黑箱,一探神经网络的工作机制,Samek和他的同事们发明一套方法,可以回溯整个神经网络,从而探知每一步决策是何时作出,对最终结果的影响分别有多大

    本月在德国汉诺威举行的CeBIT信息及通信技术博览会将会详细讲解该方法,届时,研究人员就能够测量单个输入(例如像素)对总体结论的影响有多大,从而为其标注权重。使用这些信息,研究人员就能为图像蒙上一层权重的面具:明亮部分的像素权重大,黯淡部分的像素权重小,几乎无法影响神经网络的输出。

    例如,有两个神经网络都在训练识别图片中的马,一个依据物体形状来判断,一个则通过查看图片上有没有马业协会网站相关的版权符号来判断。

    Samek认为,采用他们研发的方法,能提高这两个神经网络的表现。首先,通过关注神经网络究竟需要何种数据,就能大大减少其对海量数据的依赖——这也是目前困扰人工智能领域的最大问题之一。其次,该方法有助于发现错误的识别结果,比如把图中的物体误归为其他类别。

    其他的研究者也在研究神经网络的决策机制,包括图像识别、语义判断等神经网络的工作原理。哈佛大学Berkman Klein 社会与互联网中心的科技评论员Sara Watson认为,随着神经网络在人们日常生活中做出的决策越来越多,对神经网络决策机制的研究也越来越重要。公众需要知道人工智能是如何做决定的。算法本身并不能够永远做出正确的判断,因为神经网络的表现取决于训练它时所用的数据。

    谷歌的相册应用曾将照片中的一位黑人女性标记为黑猩猩,引发恶评如潮。另一款用以判断犯人是否可能再犯的软件,则在司法领域引起了更严重的歧视。至少有一篇分析指出,在同样的罪行下,软件会判断黑人被告比白人被告更容易成为惯犯。Watson评论道:“发明和使用人工智能的机构应当意识到,它们要为机器做出的判断负责。”

    位置:首页 > 科技
    糖醋排骨2017/3/11 21:15

    玩人工智能就是玩火只要有人敢研究出来就会有极端分子把它用于毁灭世界

    马传军2017/3/11 20:11

    都是算法组装起来的程序,人工智能比狗笨,我会乱说?

    加载更多评论...
    本类推荐
    深度|人工智能专家辨析DeepMind围棋突破背后的事实与谎言
    深度|人工智能专家辨析DeepMind围棋突破背后的事实与谎言

    来自medium作者:Gary Marcus机器之心编译出品参与:吴攀本文作者Gary Marcus是机器学习公司Geometric Intelligence, Inc.的创始人兼CEO,也是纽约大学心理学与神经科学教授...

    AlphaGo再次获胜人工智能崛起或致千万人失业
    AlphaGo再次获胜人工智能崛起或致千万人失业

    [原标题:AlphaGo再次获胜 人工智能崛起或致千万人失业]摘要:这一次人机世纪巅峰对决中,前两轮以谷歌人工智能系统AlphaGo获胜占优,五局比赛中人工智能系统虽取得两局胜利,还谈不上最终赢告捷利...

    横扫围棋界后,人工智能将目标瞄准量子物理学?
    横扫围棋界后,人工智能将目标瞄准量子物理学?

    人工智能打造的“棋神”AlphaGo和Master前段时间出尽风头。现在,人工智能或将解决另外一个难题——求解包含数以亿计粒子的量子系统。早在2016年1月,谷歌的围棋人工智能AlphaGo初露锋芒时...

    美科学家计划利用人工智拍摄完整黑洞照片
    美科学家计划利用人工智拍摄完整黑洞照片

    非常在线2016年6月8日消息,人工智能逐渐渗透到我们生活的各个领域,如今它也被用来观测黑洞。据外媒报道,美国科学家计划联合世界各地多台射电望远镜,并通过人工智能算法拍摄出一张黑洞的完整照片出来。据悉...

    所有宣传使用了人工智能技术的科技产品都是大忽悠
    所有宣传使用了人工智能技术的科技产品都是大忽悠

    先问大家一个问题:人工智能和鸡蛋的价格有什么共同点?假设现在你正在商店里挑选鸡蛋,有10种不同的鸡蛋供你挑选。当你看见鸡蛋标签上写着“纯天然”时,你的眼睛一定是亮晶晶的。是的,“纯天然”的鸡蛋听起来很健康的样子,但它们比一般鸡蛋要贵。

    罗振宇谈AI被打脸:看似说得漂亮其实啥也没说
    罗振宇谈AI被打脸:看似说得漂亮其实啥也没说

    2016年的最后一天,赛格威机器人的朋友圈被罗振宇跨年演讲会刷屏了,据说罗振宇跨年演讲会收视率在各大卫视跨年节目中排第一。在长达四小时的演讲中,他以五只鹅为主线,对过去一年的趋势和变化进行了复盘,听起来不明觉厉,让人忍不住转发。

    CNCC2016|清华大学张钹院士起底:后深度学习时代的人工智能
    CNCC2016|清华大学张钹院士起底:后深度学习时代的人工智能

    今天CNCC 2016在山西太原盛大开幕,开场演讲中,CCF会士、CCF终身成就获得者,中国科学院士、清华大学教授,中国自动化学会、中国计算机学报副主编、2011年获得德国汉堡社会大学自然科学博士学位...

    人工智能已“睁开双眼”,能像人类一样学习
    人工智能已“睁开双眼”,能像人类一样学习

    还记得《终结者》系列电影中的天网(Skynet)吗?这个人类于20世纪后期创造的,以计算机为基础的人工智能防御系统,后来因自我意识觉醒,视全人类为威胁,发动了审判日。现在,这样的情景或许会在不远的将来发生在现实生活中,理由是人类的认知能力正被人工智能逐渐习得。

    马斯克,炒作人工智能威胁论除了恐吓人类还有更重要目的
    马斯克,炒作人工智能威胁论除了恐吓人类还有更重要目的

    作者:《人工智能学家》主编 互联网进化论作者 刘锋博士埃隆·马斯克(Elon Musk)1971年6月28日出生于南非,18岁时移民加拿大。工程师、慈善家、paypal贝宝(最大的网上支付公司)、spacex太空探索技术公司、环保跑车公司特...

    从周鸿祎对人工智能的迷恋程度来看,他确实瞧不上BAT的O2O业务
    从周鸿祎对人工智能的迷恋程度来看,他确实瞧不上BAT的O2O业务

    360宣布全线硬件产品向人工智能看齐,人工智能已经成为360未来主推的大方向之一,无论是硬件还是软件产品,想必都会逐步的具备自主学习功能,错过了手机、O2O的周鸿祎,无...不久前,周鸿祎在一封内部信中表示...

    演讲|中科院院士杜江峰:量子革命—从AlphaGo到量子人工智能
    演讲|中科院院士杜江峰:量子革命—从AlphaGo到量子人工智能

    机器之心编辑整理整理:李亚洲在 5 月 26 日,机器之心和小 i 机器人共同承办的「人工智能遇上大数据」分论坛上,中科院院士、中科大物理学院院长杜江峰教授为我们分享人工智能与量子技术的有关内容。他演讲的主题是:量子革命——从 AlphaGo 到量子人工智能。

    周末盘点五大可识别图片的人工智能技术
    周末盘点五大可识别图片的人工智能技术

    选自eweek机器之心编译出品参与:Sane,微胖很长一段时间以来,人工智能的研究都集中在让机器理解书面文字,比如著名的图灵测试(Turning Test),证明了机器能够像人类一样智能地回答书面问题。

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com