设为首页 - 加入收藏 - 网站地图 亿度网(nikest.com),天道酬勤,努力奋斗!
当前位置:主页 > 科技资讯 > 正文

我们能打开人工智能的黑箱吗?| Nature长文

时间:2017-01-07 07:02 作者:生物观察
 

 

 


插画作者:Simon Prades原文以Can we open the black box of AI? 为标题发布在10月5日的《自然》新闻上原文作者:Davide Castelvecchi人工智能无处不在,但科学家们在信任它之前,要先明白机器是如何学习的。Dean Pomerleau还记得自己第一次遭遇黑箱问题的经历。那是1991年,他当时开展的开创性尝试如今已是自动驾驶汽车研究中司空见惯的问题:教会电脑如何开车。Pomerleau说,这意味着手握一辆经过特别改装的悍马军车的方向盘,在城市中行驶。当时,他是卡内基梅隆大学机器人专业的研究生。与他同行的是一台经过他编程的计算机,能通过摄像机查看路况,解读交通状况,并记下他对各种状况的应对方式。Pomerleau希望机器最终能自己执掌方向盘。在每次行程中,Pomerleau都会先对系统做几分钟的训练,然后让机器自行驾驶。一切似乎都进展顺利——直到有一天,悍马军车在一座桥头突然偏向了一侧。他敏捷地抓住了方向盘,这才避免了一场撞车事故。回到实验室,Pomerleau试图理解电脑在哪里出错了。“我的论文的一部分内容就是打开黑箱,搞清楚电脑在想什么,”他解释道。但该怎么做呢?他将计算机编程为“神经网络”——一种以大脑为原型的AI,且有望比常规算法更适合应对复杂的现实情况。不幸的是,神经网络和大脑一样是不透明的。神经网络并没有将学到的东西条理清晰地储存在数字记忆中,而是以一种极其难解的方式散布信息。在全面测试了他的软件对各种视觉刺激的反应后,Pomerleau才发现了问题:神经网络一直在使用长草的路沿作为道路方向的指示,所以才被桥的出现给迷惑了。25年后,破解黑箱的困难程度呈指数上升,但重要性也大大增加。神经网络技术本身的复杂性和应用范围也经历了爆炸式增长。现在,Pomerleau在卡内基梅隆大学兼职教授机器人学,他说,比起今天的计算机上的巨型神经网络,他的系统只能算是个简陋的低配版。用海量数据训练神经网络的深度学习技术也已经投入了各种商业应用,从自动驾驶汽车到根据用户的浏览历史推荐商品的网站都能见到它的身影。
神经网络使汽车能够学习如何驾驶自己神经网络还有望在科研中大显身手。未来的射电天文台会使用深度学习方法寻找值得探测的信号,否则无法处理海量的信息;引力波探测器需要用它来理解和排除最最微弱的噪声源;出版商将会用它来检索和标记数以百万计的研究论文和书籍。一些研究者认为,能进行深度学习的计算机最终或许能表现出想象力和创造力。“把数据交给机器,它便会推理出自然界的法则,”任职于加州理工学院的物理学家Jean-Roch Vlimant说。但这些进展只会让黑箱问题显得更为突出。举例来说,这些机器是怎么找到有价值的信号的?人们怎样才能确定机器是对的?人们对深度学习的信任到底应该扩展到什么程度?“在这些算法面前,我觉得我们正在丢失阵地,”哥伦比亚大学的机器人专家Hod Lipson表示。他把这一情况类比为一种外星智能生物,他们的光受体感知的不只红绿蓝三原色,还有第四种颜色;要想让人类理解他们看待世界的方式,或是让外星人向我们解释他们的方式都会是非常困难的。计算机向我们解释问题也面临着类似的困难。“在某种程度上,这就像向狗解释莎士比亚的作品一样。”面对这样的挑战,AI研究者们采取了和Pomerleau一样的应对方式——打开黑箱,用相当于研究人脑的神经科学的研究来理解其中的网络。但研究者们得到的答案并不是让人豁然开朗的洞见,Vincenzo Innocente表示;他是欧洲核子研究中心的一位物理学家,是在粒子物理学领域应用人工智能的先锋。“作为科学家,”他说,“我对仅仅将小猫和小狗区分开来是不满意的,科学家会希望能说出区别到底在哪里。”