万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    世界电影科幻片

    类脑人工智能是一个黑箱,现在,科学家终于窥视到内部……

    2017年3月11日 来源: DeepTech深科技

    上个月,Facebook发布了一款图像识别软件,只要看一眼照片,就能识别出图中是猫咪还是狗狗。另一个类似的程序则能像训练有素的皮肤科医师一样,鉴别癌性皮肤病变。此类技术都是基于人工智能领域的一种先进算法——神经网络(Neural networks)。

    然而,即使是神经网络的开发者,也无法准确的直到它们是如何工作的。如今,研究者找到了一种方法来“观察”神经网络的活动,看它们是如何形成结论并做出决策的。

    人工神经网络源于对大脑多层级神经元协同工作的模拟。它们并非焊死的电路,只求算出特定的结果,而是像人脑一样会“学习”——进行数据训练、为多种输入信息建立联结并强化之。

    一个神经网络可能同时拥有两层神经元:一层负责观察图片的像素点,另一层负责观察物体的边缘,例如人像与背景之间的分界轮廓线。在经过成千上万的训练后,神经网络会逐渐形成一套自有的图片识别规则。但是,我们却并不清楚这套规则。

    Wojciech Samek是柏林弗劳恩霍夫通信技术研究所(The Fraunhofer Institute for Telecommunications)的研究人员,他认为:“神经网络是非常迷人的数学模型,在许多领域完胜传统的数学模型,但用起来常常跟黑箱差不多,根本不知道内部机制是什么。”

    为了解锁这个黑箱,一探神经网络的工作机制,Samek和他的同事们发明一套方法,可以回溯整个神经网络,从而探知每一步决策是何时作出,对最终结果的影响分别有多大

    本月在德国汉诺威举行的CeBIT信息及通信技术博览会将会详细讲解该方法,届时,研究人员就能够测量单个输入(例如像素)对总体结论的影响有多大,从而为其标注权重。使用这些信息,研究人员就能为图像蒙上一层权重的面具:明亮部分的像素权重大,黯淡部分的像素权重小,几乎无法影响神经网络的输出。

    例如,有两个神经网络都在训练识别图片中的马,一个依据物体形状来判断,一个则通过查看图片上有没有马业协会网站相关的版权符号来判断。

    Samek认为,采用他们研发的方法,能提高这两个神经网络的表现。首先,通过关注神经网络究竟需要何种数据,就能大大减少其对海量数据的依赖——这也是目前困扰人工智能领域的最大问题之一。其次,该方法有助于发现错误的识别结果,比如把图中的物体误归为其他类别。

    其他的研究者也在研究神经网络的决策机制,包括图像识别、语义判断等神经网络的工作原理。哈佛大学Berkman Klein 社会与互联网中心的科技评论员Sara Watson认为,随着神经网络在人们日常生活中做出的决策越来越多,对神经网络决策机制的研究也越来越重要。公众需要知道人工智能是如何做决定的。算法本身并不能够永远做出正确的判断,因为神经网络的表现取决于训练它时所用的数据。

    谷歌的相册应用曾将照片中的一位黑人女性标记为黑猩猩,引发恶评如潮。另一款用以判断犯人是否可能再犯的软件,则在司法领域引起了更严重的歧视。至少有一篇分析指出,在同样的罪行下,软件会判断黑人被告比白人被告更容易成为惯犯。Watson评论道:“发明和使用人工智能的机构应当意识到,它们要为机器做出的判断负责。”

    位置:首页 > 科技
    糖醋排骨2017/3/11 21:15

    玩人工智能就是玩火只要有人敢研究出来就会有极端分子把它用于毁灭世界

    马传军2017/3/11 20:11

    都是算法组装起来的程序,人工智能比狗笨,我会乱说?

    加载更多评论...
    本类推荐
    《科学》封面重磅论文:人工智能终于能像人类一样学习(附论文)
    《科学》封面重磅论文:人工智能终于能像人类一样学习(附论文)

    机器之心原创 作者:汪汪今天,《科学》杂志封面刊登了一篇重磅研究:人工智能终于能像人类一样学习,并通过了图灵测试。(论文见文末,回复「12」可下载论文PDF格式。)这个人工智能像你一样学习写字假设你从来没有见过菠萝。

    癌症之外,人工智能AI同样解决心血管问题
    癌症之外,人工智能AI同样解决心血管问题

    两会以来,人工智能成为了无数人关注的焦点,如今的人工智能已经不再是电影中的桥段,人工智能已经开始被应用在各个行业。人工智能应用在医疗领域更是‘人尽其用’,如今已经取得了很多巨大的成就,IBM的Watson可以在肺癌、乳腺癌、直肠癌、结肠癌、胃癌和宫颈癌等癌症为医生提供建议...

    Science算法揭秘深度学习大牛,谁影响了谁?
    Science算法揭秘深度学习大牛,谁影响了谁?

    新智元编译12015年秋天,由微软联合创始人保罗·艾伦创立的艾伦人工智能研究所(Allen Institute for Artificial Intelligence)发布了一款名为Semantic Scholar的搜索服务...

    超级英雄哈萨比斯:人工智能挑战李世石幕后故事
    超级英雄哈萨比斯:人工智能挑战李世石幕后故事

    导语:英国《卫报》本周刊文,介绍了DeepMind及其创始人和领导者德米斯·哈萨比斯。DeepMind开发的人工智能系统AlphaGo将于本月挑战韩国顶尖围棋选手李世石。人工智能能否在全球最复杂的棋战中击败人类高手,这已经引起了全球的密切关注。

    华院首席科学家:中文或是人类面对人工智能的最后壁垒
    华院首席科学家:中文或是人类面对人工智能的最后壁垒

    “语言可能是人类面对人工智能最后的壁垒,尤其是中文。”在3月18日集智俱乐部在中央财经大学学术会堂举办的公开讲座上,华院数据首席数据科学家尹相志结合NLU(Natural Language Understanding,自然语言理解)在金融领域的应用之处侃侃而谈。

    AlphaGo对李世石的输赢对人工智能发展毫无意义
    AlphaGo对李世石的输赢对人工智能发展毫无意义

    文/郑凯真的难以置信。并不是因为AlphaGo能否战胜李世石,而是人工智能比预想中走得要慢得多。在19年前,学生时代记忆中的“深蓝”,战胜了国际象棋世界冠军卡斯帕罗夫。在那个对计算机懵懂的年代,这是我们对人工智能的初体验。

    总理记者会虽然没提人工智能,但新政策马上就要来了
    总理记者会虽然没提人工智能,但新政策马上就要来了

    △图为李克强总理。新华社记者邢广利摄今天上午十二届全国人大五次会议闭幕后,国务院总理李克强在人民大会堂三楼金色大厅会见中外记者,并回答记者提出的18个问题。去年,李克强总理曾经在记者会上主动提到“围棋人机大战”。

    进击者“第四范式”:AI终将ForEveryone
    进击者“第四范式”:AI终将ForEveryone

    很多时候,落后与先知的差距,不是购买一些机器或者引进一些技术就能弥补的,落后的最可怕之处在于思维方式的落后。AI(Artificial Intelligence,人工智能),从某种意义上来说,代表着一种因数据驱动的新思维方式——用不确定性看待世界...

    全球AI大战,一文看懂中国科技公司都在怎样布局?
    全球AI大战,一文看懂中国科技公司都在怎样布局?

    央广网科技3月24日消息 近日,张潼担任腾讯AI Lab主任,A徐飞玉加盟联想人工智能实验室。两大重量级人物的加入,也表明国内科技公司正加速对AI领域的布局。从2016年3月李世石大战Alphago起,人工智能快速进入大众视野。

    阿法狗连胜两局看谷歌百度们这两年在AI上都下了哪些功夫?
    阿法狗连胜两局看谷歌百度们这两年在AI上都下了哪些功夫?

    谷歌人工智能AlphaGo与韩国棋手李世石的人机大战已进行了两场,毫无悬念拥有超强计算能力的AlphaGo均获得了胜利。两局棋的结局是令人震撼的,人类最顶尖高手落败于人类制造的工具,一定程度上让人心生畏惧。

    博士毕业年薪百万人工智能催生最贵抢人大战
    博士毕业年薪百万人工智能催生最贵抢人大战

    还没从浙大毕业就被包圆为了抢人,杭州有科技公司直接把总部放进校园为了吸引人才,国内顶尖的人工智能创业公司格灵深瞳,由CEO亲自出面在浙大招聘暑期实习生。 Boss直聘的数据显示,跟人工智能相关的数据服务行业,是今年公司薪资预算增长最快的领域。

    人工智能获国家鼎力扶持乐视抢先布局夺先机
    人工智能获国家鼎力扶持乐视抢先布局夺先机

    “人工智能”一词无疑是2017年两会的热点概念。国务院总理李克强在政府工作报告中2017年重点任务中指出,要“全面实施战略性新兴产业发展规划,加快新材料、人工智能、集成电路、生物制药、第五代移动通信等技术研发和转化”。

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com