谷歌研究员被群嘲：LaMDA有人格是胡说八道！谷歌也回应：想多了
日期：2022-06-14 18:12:00 / 人气：356
什麼？AI 具有人格了？？谷歌前不久搞出来了一个超大规模言语模型 LaMDA。企业里有个研讨员 Blake Lemoine 跟它聊了很久，对其才能感到非常诧异，于是下了个结论：LaMDA 能够曾经具有人格了。（原话用的词是 sentient，在不同的语境下可以被翻译爲感情、智慧、知觉等。）很快，这位仁兄就被“带薪休假了”。但他不是一团体：就连企业 VP Blaise Agüera y Arcas 都在宣布文章，表示 AI 在取得认识方面完成了宏大提高，“曾经进入了一个簇新时代。”音讯经过一众媒体的报道，震撼了整个科技世界。不只学术和工业界，就连很多普通人，都对 AI 技术的飞跃大吃一惊。“这一天终于来了？”“孩子们（假如你们未来还能活上去的话），请记住，这就是一切的开端。”但是，真正的 AI 专家们，却对此五体投地。AI具有人格？众大佬五体投地斯坦福 HAI 中心主任 Erik Brynjolfsson 间接把这件事比喻爲“面对留声机的狗”，他发推表示：“根底模型 (foundation models，也即自我监视的大规模深度神经网络模型) 十分擅长做的一件事，就是依据提示，将文本采用统计学上合理的方式串起来。但是假如你说他们是有知觉的，就好比狗听到留声机里的声响，以爲它的主人在外面一样。”纽约大学心思学教授 Gary Marcus，同时也是一位颇爲知名的机器学习和神经网络专家，还间接撰文吐槽 LaMDA 具有人格 “胡言乱语” (Nonsense)。[1]“几乎是扯淡。无论是 LaMDA 还是它的远亲们（比方 GPT-3）都没有什麼智能。它们所做的只是从人类言语的大规模统计数据库当中提取，然后婚配形式。这些形式能够很酷，但这些零碎说出的言语，实践上基本没有任何的意义，更不能够意味着这些零碎是有智慧的。”翻译成文言就是：你看着 LaMDA 说的话都特别有哲理，特别真实，特别像人——但是它的设计功用就是模拟他人说话，它其实基本不晓得本人在说什麼。“具有知觉 (to be sentient) 的意思是认识到你在这个世界里的存在。LaMDA 并没有这样的认识，” Marcus 写道。假如你以爲这些聊天机器人具有人格，那麼有幻觉的应该是你……比方在拼字游戏竞赛当中，常常能看到母语非英语的玩家拼出英文单词，却基本不晓得单词是什麼意思——LaMDA 也是如此，它只是会说话，却基本不晓得本人说的话是什麼意思。Marcus 大佬间接把这种关于 AI 取得人格的错觉，描述爲一种新型的“幻想性错觉”，也即把天空中的云看成龙和小狗，把月球上的陨石坑看成人脸和月兔。AI 学术界新星之一，Mozilla 基金会初级研讨员 Abeba Birhane 也表示：“带着最小限制的批判思想，我们终于登上了AI炒作的巅峰。”Birhane 是所谓的 “AI 知觉论” 的临时批判者。她在一篇宣布于2020年的论文里，已经间接提出了以下几个观念：1）大家天天炒的 AI 并不是真的 AI，而是统计学零碎，是机器人 (robot)；2）我们不应该赋予机器人权益；3）我们甚至压根就不应该讨论能否要赋予机器人权益……比利时 Donders Institute 计算认知迷信教授 Olivia Guest 也参加了“战局“，称整个事情的逻辑是紊乱的。“‘我看到的东西像人，由于我依照人的样子开发的它，所以它是一团体’——几乎是倒骑驴的逻辑。”英国谢菲尔德大学机器人学院教授 Roger Moore 指出：人们会有 “AI 取得人格”的这种错觉，一个最关键的缘由就是当年的那帮研讨员非要管这项打工叫做“言语建模”。正确的叫法应该是“词序建模”(world sequence modelling)。“你开发了一个算法，却不必它实践能做的事情去命名，而是用你想要处理的成绩——这样总是会发作误解。”总而言之，各位业界大牛的结论就是：你最多可以说 LaMDA 可以高分经过图灵测试。说它具有人格？那可真是太搞笑了。更何况就连图灵测试的参考价值也没那麼高了。Macus 婉言，很多 AI 学者希望这个测试被取消、被人们遗忘的缘由，正是由于它应用了人类容易受骗，倾向于将机器当作人的这一弱点。华盛顿大学的计算机言语系主任 Emily Bender 教授，干脆做了一个“AI 人格认识争论”的宾果卡：（这个宾果卡的意思就是，假如你以为 AI 有人格/知觉，并且你的论据是上面的其中一种，那你很好就别聊了！）原版：谷歌也回应：别想多，它就是会聊而已那位被指爲”走火入魔“的研讨员 Blake Lemoine 在本人宣布的一篇文章中，批判谷歌关于理解本人开发效果的真实状况“没有兴味”，但是本人在长达6个月的对话事情当中，看到 LaMDA 关于本人想要的东西，特别是“本人作爲人的权益”，表达的越来越明晰，使得本人置信 LaMDA 真的是人。但是在谷歌看来，这位研讨员完全想多了，甚至有点走火入魔了。LaMDA 真的不是人，它地道就是特别会聊天而已……事情在社交网络上发酵之后，谷歌很快作出了回应：LaMDA 和企业近几年的大型 AI 项目一样，都经过了屡次严厉的 AI 品德方面的审核，对其内容、质量、零碎平安性等停止了多方面的考量。往年早些时分，谷歌也专门宣布了一篇论文，地下了 LaMDA 开发进程当中的合规细节。“在 AI 群体内，关于具有感知的 AI/通用 AI 的临时能够性，的确有一些研讨。但是在明天把对话模型来拟人化，这样做是没有意义的，由于这些模型是没有知觉的。”“这些零碎可以基于数以百万计的句子来模拟交流的方式，并且在任何风趣的话题上都可以扯出有意思的内容。假如你问它们做一支冰激淋恐龙是怎样的体验，它们可以生成少量关于消融怒吼之类的文字。”（These systems imitate the types of exchanges found in millions of sentences, and can riff on any fantastical topic — if you ask what it’s like to be an ice cream dinosaur, they can generate text about melting and roaring and so on.）相似的故事我们见过太多了，特别是前几年一个十分经典的电影《她》(Her) 外面，配角关于虚拟助手的身份界线越来越不明晰，把“她”当成了人。但是依据电影的描画，这种错觉其实来自于当代人社交失败、情感决裂、孤单感等一系列自我和社会性的成绩，跟聊天机器人究竟是不是人这一技术性的成绩，压根没有半毛钱关系。作者：鼎点娱乐注册登录平台
新闻资讯 News
- 职业大佐王侃:我父亲是著名演员，...12-04
- “华晨宇伪娘？看到它的最新宣传...12-04
- 达尼的背叛和重生:曾经的苦难，现...12-04
- 达尼的背叛和重生:曾经的苦难，现...12-04