北京治疗白癜风医院在哪里 https://wapjbk.39.net/yiyuanfengcai/lx_bjzkbdfyy/没有人真的知道先进的机器学习算法是如何工作的，而这恐将成为日后的一大隐忧。去年，一辆奇怪的无人驾驶汽车出现在新泽西州蒙茅斯县的道路上。这辆由芯片制造商Nvidia开发的实验车和通用公司、Google和特斯拉所展示的自动驾驶汽车有所不同，该车的AI技术能力得到了大幅的提升。其中，最出彩的一点是它没有遵循由工程师或程序员所提供的指令，与之相反，它完全依赖一种通过观察人类行为来训练自己如何驾驶的算法。从技术上来讲，无人驾驶是一项创举。但令人不安的是人类并不完全清楚汽车是怎么做出决策的。简单而言，来自车身上传感器的信息直接进入一个巨大的人工神经网络，然后这个神经网络处理数据，最后发出类似转动方向盘、踩刹车等命令。这一结果似乎与人类驾驶员的动作反应一样。然而，如果有一天它做了一些意想不到的事情呢？例如失去控制撞上了一棵树，或者当红灯亮时却猛踩油门。当然，我们现在还很难给出结论。因为这个系统太复杂了，即使是设计它的工程师可能也无法分析出它发出某一指令的原因。当然，你也不能强求这个神经网络能够给出它下达每一个指令的原因：因为目前为止还没有一套能够让AI自己解释自己行为的系统。不过，Nvidia的这辆车却说明汽车的底层AI技术（也就是深度学习）近年来已经被证明是一项非常厉害并且高效的技术，它如今被广泛应用于图像字幕、语音识别和语言翻译等工作。现在，这项技术甚至被寄予厚望用于诊断致命的疾病，做出大宗贸易的决策等事情，彻底改变了各行各业原本的运作方式。这种翻天覆地般的改变真的会发生吗？不会，或者说不应该发生。除非我们找到方法让深度学习进行自我解释，并且能够让它对它的用户负责。否则我们将很难保证基于深度学习的产品永远保持一个稳定的状态，这也就是Nvidia的这辆车仍然还是试验品的一个原因。一直以来，数学模型已被用来帮助确定究竟谁可以被假释、谁可以被给予贷款以及谁可以被聘用。当然前提是你可以接触到这些数学模型，并了解它们的推理原因才行。但是银行、军方、雇主和其他人正在将注意力转向更复杂的机器学习，毕竟这样可以让他们作出的决策变得更加精准。作为机器学习中最普遍采用的方法，深度学习代表了一个完全不同的计算机编程方式。麻省理工学院教授TommiJaakkola说：“逻辑解释已经是一个重要的问题，未来只会变得更加重要。因为无论是投资决策、医疗决策还是军事决策，用户都不希望只依靠‘黑匣子’，而想知道为什么神经网络会作出这一决策。”目前已经有一种论点：审查人工智能系统如何作出相应的决策应该是一项基本的法律权利。从年夏天开始，欧盟可能要求公司能够向用户解释他们所使用的人工智能作出的决策。然而，这并不现实，即使是使用深度学习来投放广告或是推荐歌曲那些相对简单的系统，对于我们人类来说，其背后的运行方式也难以理解。就算是创造出这些系统的程序员也没办法完全解释这些机器的行为。那么问题来了，随着AI的进步，我们是否可以掌控它的发展节奏？但转念一想，人类其实也不能真正地理解并解释我们自己的思维过程，可这并不影响我们直观地信任并观察对方。那么，对于与我们思维方式不同的机器来说是不是也同样有这种可能？历史上，人类从来没有创造过一个连创造者都不能完全理解的机器。但如今我们却在与这些难以预测的人工智能机器交流与相处中遇到了问题。这些问题让我走上了AI算法的极具挑战的前沿研究之路，从Google到Apple以及其他公司都是这条路的一部分，当然也包括当今世上伟大的哲学家们关于科技伦理的各种会议。艺术家AdamFerriss使用GoogleDeepDream创作的图像年，医院的一个研究小组受到启发，医院庞大的患者记录数据库管理。在该数据集中，每个患者拥有上百个特征变量，包括医疗测试结果、医生访查等等。被研究人员命名为DeepPatient的这个程序使用来自约70万个人的数据进行训练，在新患者资料上进行测试时，它显示出极强的疾病预测能力。没有任何医疗专家的指导，DeepPatient发现了隐藏在数据中的规律，这些数据规律显示出人类会在什么时间段会逐渐得病。该研究小组的负责人JoelDudley表示，目前有很多方法可以根据患者医疗数据进行很准确疾病预测。但他补充说：“相比起来，深度学习是一种更好的方法。”同时，DeepPatient得出的结论有点令人费解——它似乎在预测精神分裂症等精神类疾病上表现尤其出色。众所周知，处理精神分裂症对于医生来说是非常困难的，所以Dudley很想知道为什么DeepPatient在这方便这么厉害，然而至今他也还不知道原因。对于它是如何进行预测的，这个新工具并没有表现出任何的技术原理。如果像DeepPatient这样的工具确实能帮助到医生，那么理想的情况就是给出它预测的理由，让医生确信它是准确的。“我们可以建立这些模型”，Dudley说，“但我们不知道他们是如何运作的”。但人工智能并不是生来就带有神秘感。从一开始，对于理解和解释AI就有两派说法。一些人认为应该根据规则和逻辑推理的来建造人工智能，这种机器的内部工作原理对任何关心它的人都应该是透明的。另一些人认为，如果机器可以从生物学中获得灵感，通过观察和体验学习，“智能”就会更容易出现。这意味着程序员不用编写命令来解决问题，而程序会根据示例数据和期望输出生成自己的算法。后来演变成当今最强大的AI系统，机器学习技术遵循的是后一条路径：机器本质上是自己对自己进行编程。起初，深度学习的实际应用是有限的。在20世纪60年代和70年代，它仍主要局限于相关领域的边缘。后来，许多行业的办公自动化和大数据的出现又引起了人们对它的兴趣。这激发了更强大的机器学习技术发展，特别是人工神经网络。到20世纪90年代，神经网络已经可以自动将手写字符转换成数字化的字符。但是直到近10年，经过几次巧妙的调整和改进，深度神经网络在自动感知方面出现了显著提升。深度学习造就了如今红爆半边天的AI。它赋予了计算机非凡的力量，使得计算机可以像人类一样识别出我们口中的各种语言。深度学习彻底改变了计算机视觉，大大提高了机器翻译的准确度。如今它正用于指导医药、金融、制造业等方方面面的各种关键决策。艺术家AdamFerriss使用谷歌DeepDream创作的图像任何机器学习技术的工作本质都比手工编码系统更不透明，甚至对计算机科学家来说也是这样。这并不是说，所有未来的AI技术也将同样如此。但是由于它的本质，深度学习就是一个特别不透明的黑匣子。你不能只是看一下神经网络的内部就可以知道它是如何工作的。神经网络是由成千上万个神经元的构成，它们排列成数十甚至上百个错综复杂的互连层。第一层中的神经元各自接收输入信号，例如图像中像素的强度，然后在输出新信号之前进行计算。这些输出在复杂网络中被当做输入传入下一层中的神经元，就这样一层一层传递，直到产生总体输出。此外，还有一个被称为“反向传播”的过程，这是一种通过反馈调整单个神经元，使得网络可以产生期望输出的算法。深度神经网络中的许多层可以识别出不同抽象层次的特征。举例来说，在一个识别狗狗的系统中，较低的几层通常识别出简单的特征，例如轮廓或颜色；更高的层可以识别更复杂的特质，例如毛皮或眼睛；输出层将其全部标识为狗。简单来讲，同样的方法可以有不同的应用：自然语言处理或是自动驾驶。现在研究人员已经使用各种巧妙的策略来更详细地解释这样的系统内部到底是怎么运作的。年，Google的研究人员修改了基于深度学习的图像识别算法，使它根据这些每层学习到的特征生成原始输入图片，而不是把识别到的物体在图片中标注出来。通过运行这样的逆向算法，他们发现了程序用来识别的特征，比如鸟和建筑物。由一个名为DeepDream的程序产生的图像显示，由云和植物等特征生成的原始图片竟然是一些奇形怪状像外星生物的动物，森林和山脉的特征最终生成的是幻像塔。这些图像证明，深度学习不一定是完全不可解释的。研究人员透露，这个算法主要归功于熟悉的视觉特征，例如鸟的喙和羽毛。但是，这些图像也暗示了人类与机器学习的不同之处，因为深度学习可以注意到一些我们人类容易忽略的特征。Google研究人员指出，当这个算法生成哑铃的图像时，它也同时生成了一个举着它的人类手臂。显然机器得出了一个结论：手臂是这个哑铃的一部分。神经科学和认知科学的思想使得研究AI内部运作原理取得了进一步的进展。由怀俄明大学助理教授JeffClune领导的一个团队，采用等同于光学幻觉的AI来测试深度神经网络。在年，Clune的小组展示了某些图像可以愚弄一个神经网络，让它感知到了实际不存在的东西，因为这些图像利用了系统搜索的低级模式。Clune的合作者之一，JasonYosinski也制作了一个工具：类似一枚插在大脑中的探针。这个工具的目标对象是网络中间任何一个神经元，找到使它激活最显著的那幅图像。最终显示的这幅图像是抽象的（想象一幅印象派的画作），这也突出了机器感知能力的神秘性质。早期人造神经网络我们需要特别地
转载请注明：http://www.0431gb208.com/sjslczl/7962.html
