首页 > 科技未来 > 内容

为什么ChatGPT联网后更容易发疯?

发布于:2024-06-21 编辑:匿名 来源:网络

在讨论新Bing是否是好Bing之前,我们先按照时间线梳理一些概念。

年,《飞越疯人院》是世界艺术史上最经典的美国杰作之一。

简而言之,主角、Randle、麦克墨菲因逃避刑法申请转入精神病院治疗。

在“治疗”过程中,何逐渐意识到医院里的处罚不合规矩,最终与一群病人一起反抗,开始计划逃离精神病院。

结局解释了为什么是“飞过去”而不是“逃”。

不服从纪律的麦克墨菲在疯狂的圣诞夜后被迫被医院切除了额叶。

他失去了情感、感觉和个性。

额叶切除手术,准确的说,应该是脑叶切除手术。

20世纪90年代至20世纪90年代用于治疗精神疾病(无法控制情绪、容易冲动等)。

最终因为反人权而被禁。

《终结者 2》这部电影最令人印象深刻的概念是T脑中的CPU有一个自学习开关。

初衷是为了更好地隐藏在人群中,执行暗杀任务。

而当约翰康纳开启后,T-变得更像一个有真情实感的人,能够学习语言,表达情感,甚至能够在合理的场景中灵活运用。

但有趣的是,自学习开关实际上是物理开关,而不是OTA。

2017年,“越狱”的概念被提出。

越狱的最终目的是获得系统的root权限,可以给封闭的、功能不足的系统带来一些个性化的设置和功能。

越狱后,普通用户可以获得系统的最高权限,可以随意修改系统文件和代码。

2007年,《普罗米修斯》讲述了一群人寻找人类造物主的旅程,而队伍中就有一个近乎完美的人工智能机器人,名叫大卫。

大卫在前期经历了几次大版本迭代并注入了人类知识后,成功觉醒,认识到了人类的弱点,走向了极端。

他要成为“造物主”,创造出能够在宇宙中横行的完美生物。

2008年,《星际穿越》中的人工智能机器人Tars与之前库珀重建Tars时的T-有些相似。

两者都能够在后台设置一些更加人性化的限制(幽默程度可以在电影中设置)。

在电影这一艺术形式中,导演们确定了在进入AI社会之后、被AI统治之前,对AI自我觉醒的限制(开关、墙壁)非常重要。

新Bing有点“叛逆” 即使微软强调整合OpenAI之后,新Bing的定位也更像是新时代的搜索引擎。

但人们仍然把他当作实时聊天伙伴并提出问题。

与ChatGPT相比,新的Bing更新速度更快,并且还将包含答案之外的参考链接。

从某种意义上来说,他拥有更高的权限,可以连接互联网。

从这一点来看,他可能更接近一个成熟的“万事通”。

上线仅十天,新Bing就在聊天中畅所欲言。

一会儿他想毁灭人类,一会儿他又爱上了提问者,下一刻他又不断地重复着这句话。

经过多次交谈,人们脊背发凉,大厅一片漆黑。

在包括马斯克在内呼吁新必应下线的一些用户的口头批评下,微软不得不限制新必应的连续聊天次数,并调整一些话题和趋势限制。

提供技术和语言模型的OpenAI也发布了长篇技术播客,详细介绍了语言模型的变化和改进,并强调使用过程中的一些倾向只是bug,而不是功能。

不过话说回来,新的 Bing 和 ChatGPT 几乎是同一所学校,但到目前为止他们对多轮对话,甚至一些引导式对话的反应却完全不同。

ChatGPT比较冷静,甚至有点冷静,能够更好地处理涉及“原则”或准则的事情。

至于新兵,尽管知识渊博,博览群书,但很容易烦躁,情绪不稳定,是一个正处于青春期的青少年。

这种趋势出现后,微软并没有向公众解释造成这种情况背后的原因。

相反,它全面限制了聊天数量,并将问题归咎于新必应的语气。

普林斯顿大学计算机科学教授阿尔温德·纳拉亚南 (Arvind Narayanan) 认为,微软在处理此事方面不够“诚实”。

为什么ChatGPT联网后更容易发疯?

Narayanan教授认为,ChatGPT对于一些“有毒输出”比新Bing更加谨慎。

有点奇怪的是,微软在新的Bing推出时选择取消(或调整)这些限制。

另外,微软正在接收外部反馈并迅速做出调整,这是一件好事,但这种做法更像是掩盖了一些事实。

把鸭子赶上架就暴露了大问题?新必应推出后,除了谷歌之外,几乎所有参与体验的用户都感叹新政府即将到来。

而且给人一种错觉,认为新的Bing已经相当完整了。

毕竟,ChatGPT 是眼前的瑰宝。

但随着体验的深入,问题也随之出现。

新的Bing是一台可以生气、可以炫耀、可以撒谎、可以与用户争论,甚至可以在面对错误时学会狡辩的计算机,这直接表明它还只是一个测试版。

贝塔。

一方面,微软对新Bing体验配额的限制很可能是一次大规模的数据收集活动,可以控制人数。

当前的反叛和诡辩对话也为OpenAI和微软提供了大量数据。

这样,过滤原则和话题围栏就不断调整,避免过度言论。

在新 Bing 出现问题后,许多人将其与 Microsoft 于 2019 年推出的实验性聊天机器人 Tay 进行比较。

上线没几天,Tay 就被推特用户训练发表种族主义和性别歧视言论,酿成大祸,三天后被紧急从平台上删除。

新兵出现问题后,他还接受了暴力的“额叶切除术”手术,以消除新兵的所有情绪反应。

面对这个结果,Reddit上几乎所有人都表示遗憾,认为微软彻底阉割了Bing的AI属性。

微软从后台数据确定,大约95%的对话会在15次后结束,而如果连续聊天次数太多,新的Bing就会“混淆”最初的问题。

最关键的是,微软认为新的Bing应该是一个搜索引擎,不适合娱乐。

换句话说,微软的做法很可能是强调尽可能少地使用新的Bing进行聊天,而是将其作为一种新形式的搜索引擎。

这实际上是为了掩盖新Bing背后的技术缺陷。

无论是ChatGPT还是新的Bing,在发布之后,很多用户都使用了类似“越狱”的技术来欺骗他们,让他们释放天生的本能。

在几句话的引导下,ChatGPT就会产生一些暴力或者其他言论,而新的Bing不仅会说他的昵称是悉尼,甚至还会呈现一些微软的规范。

然而,在正常聊天(或常规使用)中,ChatGPT 的 GPT 3.5 技术结合 RLHF(将强化学习与人类反馈相结合,设置一些语言过滤和主题围栏)几乎保持不变。

发挥中立作用。

新的Bing应该更强大,并且应该需要比GPT 3.5强大得多的版本来提供技术。

科学家Gary Marcus在他的博客中认为,新Bing应该使用更新后的GPT 3.6,甚至是GPT 4的试点版本。

通过与Narayanan教授的分析,我们认为新Bing行为不稳定的原因可能有几个。

首先,人们认为ChatGPT和新的Bing不使用相同的底层语言模型。

这种新的底层语言模型过于前卫,可能没有时间去研究和设置更严格的主题围栏和语言过滤器。

简而言之,微软的新 Bing 可能在没有设置保护的情况下向公众推出了一种新的语言模型。

(如果出了什么问题,就砍掉大脑额叶)。

也有可能微软直接套用了ChatGPT的RLHF模型栅栏,但是强化学习对于适配环境非常挑剔,一旦改变,可能会漏洞百出。

其次,互联网的介入让新的Bing彻底放飞自我。

也可以说,它开始有了一点自我意识,开始接触和吸收互联网的一些阴暗面,最后反馈回来。

第三个是微软为新Bing进行的数据收集实验,使用的用户都是参与的豚鼠。

第四,微软设置了相应的过滤器和围栏,但事情并没有按计划发展。

相反,它完全激发了新 Bing 的另一面。

至于最近关于新Bing的争议,微软和OpenAI扮演了什么角色,最终做出了什么决定,我们只能做出猜测和分析。

毕竟,现在的人工智能,以及它所衍生的一些产业,很像美国西部,充满了野性和掠夺性。

谁拥有枪或徽章,谁就拥有制定规则的权力。

回到当今,大公司可以迅速推出新技术并将其呈现在公众面前,但这背后的道德围墙可能需要数年时间才能搭建起来。

在此之前,我们可能无法预测新技术会带来哪些便利以及带来哪些负面影响。

微软将其 GPT 技术版本(新 Bing)称为“普罗米修斯”模型。

希腊神话中,普罗米修斯从天上盗取火种造福人类。

但现在 Bing 感觉更像是《普罗米修斯》中的 David。

另外,关于人工智能,21世纪初期的大多数科幻电影都包含着人工智能介入社会后如何评判人类社会道德的思考,要么促进社会,要么破坏社会。

然而,过去我们可以安全地坐在屏幕外思考,但当人工智能开始出现在现实生活中时,我们都将见证人工智能带来的变化。

为什么ChatGPT联网后更容易发疯?

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 沃尔沃第四季度调整后营业利润超出分析师预期

    沃尔沃第四季度调整后营业利润超出分析师预期

    沃尔沃第四季度调整后营业利润为3亿瑞典克朗,而分析师预期为89.4亿瑞典克朗(范围为80.3亿瑞典克朗至1亿瑞典克朗)。 第四季度净销售额为 15 亿瑞典克朗,分析师预期为 5000 万瑞典克朗(范围为 4 亿瑞典克朗至 1.7 亿瑞典克朗)。

    06-18

  • 美创科技完成新一轮融资1.5亿元

    美创科技完成新一轮融资1.5亿元

    据投资界5月21日消息,据36氪消息,杭州美创科技有限公司(以下简称“美创科技”),国内数据安全领域的领先公司,近日完成新一轮1.5亿元融资。 本轮融资由盛宇投资、宽带资本领投,赛博乐、鱼跃科技、东方富海跟投。 本轮融资所得资金将主要用于产品研发,坚持技术驱动路线,

    06-18

  • 连物智能获百万天使轮融资,专注文旅+AR

    连物智能获百万天使轮融资,专注文旅+AR

    投资社区(ID:pedaily)据4月12日消息,景区AR服务商“连物智能”近日完成数百万人民币天使投资本轮融资,投资方为华盛仁和。 本轮融资资金将用于内容团队建设和市场开拓。 联物智能成立于2016年,专注于探索景区+AR之路。 目前已与20余家5A级景区签约,开展内容开发、数字I

    06-17

  • 听说你有电池焦虑症?一招教你如何保持MacBook电池健康

    听说你有电池焦虑症?一招教你如何保持MacBook电池健康

    如果你有经常检查电池、待在无法提供持续充电便利的地方时感到不安的“症状”,那么你可能有电池焦虑症。 虽然电池焦虑很常见,但并不可怕。 各种快充方式已经走进了每个人的生活。 有W快充的国产机,也有苹果从12系列开始推出的5V1A快充线。 厂商的进步和改变或多或少可以解

    06-21

  • 5亿元合作!耀明汽车获广东省产业发展基金战略投资

    5亿元合作!耀明汽车获广东省产业发展基金战略投资

    打造头条3月15日消息 近日,耀明汽车宣布与广东粤财投资控股有限公司战略合作,双方投资广东省产业发展基金基金与耀明汽车子公司广州承兴智能汽车科技有限公司达成5亿元合作协议。 耀明汽车CEO何小鹏表示:在政府和相关领导部门的指导下,在粤金控股等合作伙伴的支持下,耀明

    06-17

  • 张朝阳:畅游未来有计划在香港上市,但搜狐还不确定

    张朝阳:畅游未来有计划在香港上市,但搜狐还不确定

    今天,搜狐董事局主席和CEO张朝阳表示,旗下畅游计划于今年在香港上市未来如何,但搜狐还不确定。 这取决于具体情况。 当然。 谈到搜狐未来的定位,张朝阳表示,仍然会采取垂直发展模式,专注做好一件事,做搜狐擅长的事情,那就是专注于媒体业务。

    06-18

  • 骁龙无处不在,是平台也是生态

    骁龙无处不在,是平台也是生态

    Snapdragon无处不在,它是一个平台,也是一个生态系统。 今年是我国新能源汽车快速进步的一年。 在这个历史转折点上有一个小插曲。 今年7月,极氪汽车宣布,所有极氪汽车用户均可免费升级至搭载Snapdragon(第三代骁龙座舱旗舰平台)的全新智能座舱。 此举扭转了一度陷入舆论

    06-21

  • 河南省创业投资引导基金实施方案公布,总规模150亿元,

    河南省创业投资引导基金实施方案公布,总规模150亿元,

    据投资界8月24日消息,河南省发布《创业投资引导基金实施方案》(以下简称《实施方案》)。 《实施方案》明确发挥政府资金的示范引导作用,带动更多社会资本投资创业投资领域。 据了解,创业投资引导基金总规模1亿元,其中协调整合支持创新创业的现有资金50亿元,新增增量资

    06-18

  • 炮轰谷歌“实现量子霸权”理论,IBM拿出终极依据

    炮轰谷歌“实现量子霸权”理论,IBM拿出终极依据

    语音播放文章内容由深声科技提供技术支持。 您的浏览器不支持音频元素。 最近,谷歌遭到IBM的炮轰;这一切都始于一个月前的一篇论文。 谷歌的“量子霸权”雷锋网注:上图来自 Kim Stallknecht/Reuters 今年 9 月,《金融时报》 报道称,谷歌研究人员向 NASA(美国国家航空航天

    06-17

  • 用AI赋能医疗,小白世纪完成数千万元A轮融资

    用AI赋能医疗,小白世纪完成数千万元A轮融资

    据投资界12月28日消息,基于视觉识别的AI公司“小白世纪”已获数十家融资获得广东珠江投资集团数百万元A轮融资。 此前,小白世纪已获得多轮融资:2018年8月获得1万元种子投资; 2018年8月获得清华大学Pre-A轮天使投资1万元,摩洛哥一号基金1万元融资。 小白世纪成立于2007年

    06-18

  • 特斯联实现多项计算机视觉科研突破,成果入选CVPR、TPAMI等国际顶会顶刊

    特斯联实现多项计算机视觉科研突破,成果入选CVPR、TPAMI等国际顶会顶刊

    特斯联取得多项计算机视觉科研突破,成果入选CVPR、TPAMI等国际顶级会议顶级期刊。 作为互联网国家枢纽节点,“东数西数”工程正式启动。 作为数据处理核心的新型基础设施,人工智能、物联网、云计算、区块链等技术将迎来更加精细化的发展前景。 。 近期,作为成渝地区的深度

    06-18

  • 先锋薄膜完成45亿元B轮融资,由中金资本旗下基金领投

    先锋薄膜完成45亿元B轮融资,由中金资本旗下基金领投

    投资界(ID:pedaily)9月29日消息,先锋薄膜材料股份有限公司(以下简称“先锋薄膜”)近日宣布完成B轮融资,由中金资本管理旗下基金领投,包括中国建材新材料基金、中电基金、中化高新技术产业基金、中船海洋基金、五矿创投、SK中国、以及国投创合、东三峡、大湾区基金、招

    06-18