编辑/凯霞
神经网络有时被称为黑匣子，因为尽管它们可以在某些任务上胜过人类，但即使是设计它们的研究人员也常常不明白它们如何或为什么工作得这么好。
但如果在实验室外使用神经网络，也许可以对有助于诊断心脏病的医学图像进行分类，了解该模型的工作原理有助于研究人员预测它在实践中的表现。
麻省理工学院的研究人员现在已经开发了一种称为MILAN（用于神经元的互信息引导语言注释）的系统，可以揭示黑盒神经网络的内部工作原理。以人脑为模型，神经网络被排列成处理数据的互连节点或「神经元」层。新系统可以用英语或其他自然语言自动生成这些单个神经元的描述。
该团队表明，这种方法可用于审核神经网络，以确定它学到了什么，甚至可以通过识别然后关闭无用或不正确的神经元来编辑网络。
该研究以「NaturalLanguageDescriptionsofDeepVisualFeatures」为题，于年1月26日发表在预印平台arXiv上。
例如，在经过训练以识别图像中动物的神经网络中，他们的方法可能将某个神经元描述为检测狐狸的耳朵。与其他方法相比，他们的可扩展技术能够为单个神经元生成更准确、更具体的描述。
「我们想创建一种方法，让机器学习从业者可以为这个系统提供他们的模型，它会从模型的神经元的角度，用语言告诉他们它所知道的关于该模型的一切。这可以帮助你回答一个基本的问题，我的模型是否知道一些我没想到它会知道的事情？」麻省理工学院计算机科学与人工智能实验室(CSAIL)的研究生、该论文的一作EvanHernandez说。
自动生成的描述
大多数帮助机器学习从业者了解模型如何工作的现有技术，要么描述整个神经网络，要么要求研究人员识别他们认为单个神经元可能
转载请注明：http://www.0431gb208.com/sjslczl/6686.html
