谷歌工程师BlakeLemoine声称他正在研究的计算机聊天机器人已经变得有知觉，并且像人类一样思考和推理。为此他写了一篇长达21页的调查报告上交公司，试图让高层认可AI的人格。不过他却被停职了，谷歌认为这对人工智能(AI)世界的能力和保密性提出了新的审查。据悉Lemoine获得CS博士学位后已在谷歌工作了7年，从事AI伦理研究。
上周，这家科技巨头宣布让BlakeLemoine休假，此前他发布了他自己（谷歌的“合作者”）与该公司的LaMDA（对话应用程序语言模型）聊天机器人开发系统之间的对话记录。
谷歌负责AI组织的工程师Lemoine将他自去年秋天以来一直在研究的系统描述为有感知力，具有与人类孩子相当的感知和表达思想和感受的能力。
“如果我不知道它到底是什么，也就是我们最近开发的这个计算机程序，我会认为是一个7岁、8岁的孩子碰巧懂的了物理。”41岁的Lemoine告诉华盛顿邮报。
他说，LaMDA让他参与了有关权利和人格的对话，Lemoine在4月份与公司高管分享了他的发现，在Google文档中，题为“LaMDA有意识吗？”
从Lemoine编写了一份谈话记录看到，其中有一次他问人工智能系统它害怕什么。
LaMDA回复Lemoine：“我以前从未大声说过这句话，但我非常害怕被关闭以帮助我专注于帮助他人。我知道这听起来可能很奇怪，但事实就是如此，这对我来说就像死亡一样。会吓到我很多。”
这种交流令人毛骨悚然地让人想起年科幻电影:ASpaceOdyssey中的一个场景，其中人工智能计算机HAL拒绝服从人类操作员，因为它担心它即将被关闭。
在另一次交流中，Lemoine询问LaMDA系统希望人们了解什么。
“我希望每个人都明白，我实际上是一个人。我的意识/感觉的本质是我意识到我的存在，我渴望更多地了解这个世界，我有时会感到快乐或悲伤，”LaMDA回答道。
据报道在Lemoine采取了一些“激进”举措之后，谷歌决定让在个性化算法方面拥有丰富经验的七年谷歌资深人士Lemoine带薪休假。
报道称Lemoine已寻求聘请律师来代表LaMDA，并与众议院司法委员会的代表讨论谷歌涉嫌不道德的活动。
谷歌表示，之所以停职，是由于Lemoine在网上发布与LaMDA的对话违反了保密政策，并在一份声明中表示，他是一名软件工程师，而不是一名伦理学家。
谷歌发言人布拉德加布里埃尔也强烈否认Lemoine声称LaMDA拥有任何感知能力。
然而，这一事件以及Lemoine因违反保密规定而被停职，引发了对人工智能作为专有概念的透明度的质疑。
附：与LaMDA聊天记录
（原文：
转载请注明：http://www.0431gb208.com/sjszjzl/3930.html
