投资世界24小时 -钟睒睒发文回应网络谣言； 80亿，今年最大造车融资诞生； 300亿，福州产业投资母基金签约
06-18
*转载文章不代表本站观点。
本文来自微信公众号“虎秀APP”（huxiu_com） 作者：宇多田 出品：虎秀科技集团 如果说这算是一场精彩的营销事件，那么在过去的两周里，谷歌的人工智能大模型LaMDA引发了巨大的舆论浪潮彻底击溃了三年来努力向大众普及大型模型的OpenAI，以及微软、Meta等科技巨头。
6月初，谷歌算法名叫布莱克·莱莫尼(Blake Lemonie)的工程师以自己的名义在推特上发布了一份长达21页的对话报告，得出了“LaMDA具有人类情感和主观意识”的结论。
造成了爆炸性的冲击。
没有媒体会对智能算法无动于衷。
结果，我们看到了数百条类似的报道：“AI真的觉醒了，谷歌工程师因重大发现被迫休假”。
更有趣的是，此人在谷歌技术伦理学院呆了7年。
早年的工程师强烈要求当局给予LaMDA应有的权利。
谷歌则迅速组织科学家对LaMDA进行多轮测试，最终驳斥了这一“意识兴起论”。
但从来没有人关心过官方的言论。
公众至今仍对LaMDA精彩流畅的对话细节印象深刻——他不但领悟了《悲惨世界》文字的精髓，而且对难度极高、难度极高的中国佛教经典《景德传灯录》也有小小见解（下图） ）在大洋的另一边。
“人工智能确实正在朝着意识的方向发展。
我感觉我正在和一些聪明的东西说话。
”同样在这个月，Google副总裁Blaise Agüera y Arcas亲自写了一篇关于《经济学人》的营销解读文章，然后加点火。
尽管他的言论被许多科学家描述为“很好听，但都是废话”。
这段对话摘自工程师和LaMDA的对话细节。
前者要求算法解释一个佛教故事的含义，算法的答案与答案没有太大区别。
正如我们之前关于GPT3的系列报道一样，LaMDA也是近年来流行的“自然语言处理大模型”家族的一员——由LaMDA建立的一套参数高达1亿的神经网络预测算法模型。
处理大量文本。
2016年5月的谷歌开发者大会上，LaMDA被CEO皮查伊愉快地介绍给了大家。
据称，它使谷歌内部受益，提高了其网络搜索和自动文本生成的能力。
未来预计将进军“语音市场”，性能将超越亚马逊Alexa和苹果Siri。
其训练数据来自包括问答网站、维基百科等在内的超过万亿个单词，涉及多个角色的对话模式。
这个庞大的数据库对于算法生成不同风格的文本非常有帮助——尤其是在和你聊天的时候，自然、生动、流畅、富有哲理都是“基本功”。
当然，我们已经在OpenAI的大模型GPT3上体验到了这种能力。
因此，如果你能了解大模型独特的运行机制，并且看过大模型续作的新闻报道和《哈利·波特与红楼梦》的文本，那么你对LaMDA的表现。
英国卫报曾用GPT-3——《你害怕了吗？人类》写过一篇专栏，几乎没有逻辑或语言错误。
总的中心思想是“虽然我是一个会思考的机器人，但是别害怕，我不会毁灭你，我是人类命运共同体”。
显然，这一事件与过去几十年来持续不断的关于“算法意识崛起”的幻觉、谎言和争论如出一辙。
然而，最接近风暴中心的AI科学家却多次感叹——他们始终没有被这些说法所感动，他们的骂声也变得更加激烈和无奈。
“废话！LaMDA和它的表兄弟（这里指的是其他公司发布的大型模型，包括GPT3）都不是特别聪明。
”美国著名机器学习专家、心理学教授加里·马库斯撰文愤怒批评媒体和谷歌工程师误导公众，“他们所做的只是匹配模式并从人类语言统计数据库中提取数据。
很酷，但他们只是将一系列单词放在一起，而对它们背后的世界没有任何连贯的理解，什么单词与给定的上下文相匹配，只是自动完成的最佳版本，但没有感知！”有趣的是，整个AI界的反对声一直铺天盖地，当我试图请大模型算法工程师谈谈他对算法意识觉醒的看法时，他强忍着翻白眼的冲动，向我问道。
：“作为一个多年来关注人工智能领域的人，为什么会提出这样一个（愚蠢的）问题？”同为心理学专家的马库斯形容布莱克·莱莫尼的表现是“爱上了它”。
这确实是另一个合理的解释：从我们小时候对待电子宠物的方式，到现在我们经常表现出的家人般的调侃Siri的智力，甚至到在电子游戏中表达对NPC的疯狂喜爱……可以说， ，人类非常有能力对非人类产生同理心和同理心，而随着现实与科幻之间的界限变得越来越模糊，我们也将处于一个长期的黑暗过渡时代——变得越来越难以自拔。
容易上当受骗。
事实上，早在2000年，这样一个“算法成大师”的故事就发生在Facebook身上——当时国内外大量知名媒体都使用了这样一个标题——《Facebook两个机器人在使用自己语言交流，项目迅速被关停》。
事实是，每个系统其实都有自己的“语言”（为什么你认为机器人需要说“人类能听懂的语言”。
以自动驾驶系统为例，你在无人驾驶汽车中看到的道路驾驶界面与系统看到的界面完全不同）。
Facebook 的工程师要求两个名为 Alice 和 Bob 的程序相互交谈，只是为了促进“生成对抗网络”的发展。
所谓“关停”只是改变了发展战略。
对于整件事情，Facebook后来不得不写了一篇博文来澄清。
但有趣的是，最初的新鲜感褪去之后，几乎没有人愿意去关注那些艰涩难懂的技术解释。
只能感叹7年后，尽管这样的荒唐事件早已充斥在我们的日常生活中，但大量有相关认知基础的人（包括很多知识分子）仍然愿意相信，并乐于相信。
他们大多沉浸在这种虚无缥缈的未来幻想中，却对潜伏在自己身边已久的危险漠然。
事实上，我们正在陷入一个精心策划的陷阱——被这些科幻故事所引导，被媒体舆论引导，越来越依赖主观印象而不是科学证据来做出判断。
“我们确实应该关注意识和感知，但焦点已经模糊了。
”因提出“大型模型的现实危害”而被解雇的谷歌人工智能伦理团队前负责人蒂姆尼特·格布鲁认为，大多数关于算法的讨论都仅限于技术方面，但我们并没有看到它造成的危害掉进我们脚下的泥土里。
“我们完全被引入歧途。
布莱克·勒莫因是无休止的技术炒作的受害者，这种炒作分散了人们对人工智能引发的无数道德和社会正义问题的注意力。
”这些问题包括：LaMDA是如何被训练的，它有产生有害文本的倾向。
以及多年来它所造成的“人工智能殖民主义”和误导性的商业应用——还记得各种购房和校园面部识别应用吗？美国也曾发生过至少三名无辜者因人脸识别错误而被捕判刑的悲惨事件。
《麻省理工科技评论》指出，过去几年，越来越多的学者开始意识到，人工智能的影响正在复制“欧洲殖民历史”的经济模式——暴力夺取土地、榨取资源、剥削人民，以牺牲穷人为代价，让富人和有权势的人变得更富有。
比如，那些市值超万亿元的云计算数据中心、汽车巨头的自动驾驶系统背后，是数以万计来自委内瑞拉等贫困国家的廉价数据标签劳动力。
因此，格布鲁在接受媒体采访时拒绝讨论该机器的感知能力。
因为“在所有涉及机器危险的现实世界中，这只是‘人类伤害其他人类’。
”如果我们把聊天机器人当成好朋友、好亲人，那么它们背后的公司和其他机构会不会对我们有歪理邪说呢？但另一方面，如果我们认为算法不值得尊重，那么技术的利用本质上是否只是强化了对彼此和自然环境的利用？鉴于国外关于LaMDA事件的讨论的多样性和丰富性，自我觉醒的紧迫性对我来说并不奇怪。
七年前，当人工智能技术繁荣的号角在硅谷和中国同时吹响时，硅谷的多位顶尖科学家就已经表达了对“人工智能与人性的激烈对抗”的担忧。
当时，我们对人工智能、大数据等前沿技术感到非常惊讶和欣喜。
我们对当时许多关于“种族偏见和技术剥削”的悲观预测感到困惑，也对谷歌内部的一波又一波的谣言感到困惑。
为又一波“科技歧视游行”感到困扰； 2016年Facebook因数据泄露遭受洪水袭击时，对Facebook漠不关心；对欧洲人工智能技术立法的争议和重复感到不耐烦……娱乐至死，商业化和技术带来的便利已经占据了我们的大脑。
我们为科技企业的产品和技术竞赛喝彩，永无止境地追求企业市值的飙升。
衡量科学家和企业家的唯一标准是“技术”和“商业”。
但它只欠缺“人性”。
因为我觉得这似乎与技术无关，与我自己无关。
所以现在回想起来，很多人，包括我自己，都得为自己的愚蠢、短视、狭隘付出代价。
后来，当我们遇到数据泄露、面临买卖时，对企业的批评就变得激烈，但效果甚微。
今年9月，一篇优秀的专题文章《外卖骑手，困在系统里》将企业利益、算法与人性之间的冲突带入了中国公众的视野。
这也是国内关于算法伦理最广泛的讨论。
直到现在，我还记得文章中算法的社会学意义——“在社会学家尼克·西尔弗看来，算法不仅是由理性程序形成的，而且是由制度、人类、跨环境和普通文化生活形成的。
”然而虽然揭示了现状，但解决方案却极其苍白，因为它涉及到整个城市操作系统的改造，不能简单地强调“程序员的社会科学理念的滋养”。
因此，虽然带来了巨头公司的微微低头，但却没有得到最终可行的解决方案——小哥依然陷入算法和个人利益的困境，而我们也陷入外卖小哥带来的流量困境中。
后来，令我们惊讶的是，同样的困境和矛盾也出现在印尼出租车巨头Gojek及其摩托车出租车司机团队之间。
但后者建立了类似于开发者社区的集体力量——他们建立了数百个驾驶员社区，帮助彼此学习个人技能，以“欺骗”算法误判自己的偏好；还有精通技术的人开发消除未经授权的APP生态，调整和优化帐户，减少对Gojek自己的算法团队的依赖。
更重要的是，这次“反击”真正表明“机构、人类、交叉环境以及对文化生活和生活的理解都是算法的一部分”——Gojek提供露营地休息，地方当局批准定期聚会、小吃摊和清真寺是雅加达没有住房的年轻人的临时住所。
图片来自麻省理工学院：骑手们聚集在路边摊等小基地，吃点东西，给手机充电，交流一些路上安全的小窍门。
好吧，我们也思考一下这些技术和大数据的商业方向，糟粕是开发过程中必不可少的一部分。
只要你小心一点，你就可以避开它，它不会落在你身上。
后来的一切，包括河南红码，让公关文案中那些曾经充满未来科技想象的故事变得越来越恶心。
我也真正认识到，当前的争议和后果是一种任何人都无法逃避的自我审判。
请记住，昨天加在他身上的技术枷锁将来也一定会加在你身上。
因此，在对待LaMDA的超自然事件时，我们必须穿透它所激发的恐惧、惊讶和兴奋以及通过谎言制造的炒作，打破现实与科幻的界限。
“对于未来，人们应该关注人类的福祉，而不是机器人的权利，”格布鲁坚信。
我还想补充一点，唤醒正确的科技意识，就是在为自己未来的福祉而奋斗。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-18
06-18
最新文章
首先告诉我什么是智能汽车！
盲盒明星卡的暴利与泡沫：2元卡卖700万，直播卖卡月入百万
黑色星期五轰轰烈烈地回来了，结果这些中国企业扛起了全场
锂电池隔膜疯狂扩产：兴源材料欲夺回C位？
当我考上缅语专业时：凌晨三点我还在走廊里背单词，毕业后，我不仅仅是一名翻译者
被遗弃，被收获？老年人上网到底有多难？
海外日报 -今年，我国自主研发游戏海外实际销售收入实现两位数增长；三星电子正式成立机器人业务团队36氪海外·15分钟前
腾讯音乐：爱、相信、坚持