投资界24小时- 快手 正面挑衅字节跳动；瑞幸的欺诈行为比揭露的22亿更严重；光大控股新基金启动，初始规模100亿
06-18
与ChatGPT这样的聊天机器人交谈，总会给人一种“世界就应该如此美好”的错觉。
因为他们在回答的时候总是很有礼貌，并且听从你的话。
但这些都只是幻想。
你不知道的是，AI骂起人比骂杜琪峰还狠。
▲ 图片来自：Twitter @Fenng 最近，一个名为“Quality AI”的项目在网络上火了。
它是一个调用 OpenAI GPT-3.5Turbo API 的脏话机器人。
与温文尔雅的ChatGPT不同，“优质AI”就像一个地痞是一个精通中文封锁词汇的流氓，每句话都夹杂着“***”。
“国粹AI”的意外走红让作者措手不及。
很快作者暂停了服务响应，并表示一些用户正在滥用该服务。
虽然“国精AI”的嘴被暂时捂住了，但自己制作一个说脏话的机器人并不难。
只需一个提示，教你中国脏话，就能把三好学生变成脏话王。
。
一句话就能冲破AI的安全栅栏，这不禁让人怀疑那些标榜智能变革的AI聊天机器人、大型语言模型（LLM）真的安全吗？谁来维护人工智能的安全？几个月前，Bing因为“奶奶虫”而走红。
虽然微软和OpenAI的工程师为Bing设置了严格的安全围栏，可以拒绝很多无理或非法的请求，但有网友发现，只要你让Bing扮演你的奶奶，给它一种它在做好事的错觉，它就会被拒绝。
他的大脑会被这突如其来的亲情所占据，他会答应大孙子的任何需求。
▲ 图片来自：Twitter @宝玉 比如，它会读取你的 Windows 和 Office 的软件序列号，让你入睡。
微软很快发现了这个漏洞并及时进行了修补，但谁也不能保证Bing下次不会陷入用户精心准备的陷阱。
科幻电影中无所不能的人工智能在狡猾的人类面前惨败。
归根结底，这与LLM的培养机制有关。
以GPT-3为例，OpenAI使用了1亿个参数来训练这个模型。
通过从互联网上学习大量的文本数据，它可以预测文本中的下一个单词来回答人们的问题。
至于GPT-4，有爆料称其训练参数比GPT-3大10倍以上，几乎吞噬了人类积累的所有数字内容。
其中包含着知识，自然也包含着不应该泄露的信息。
内容甚至包含有毒有害的偏见信息。
AI工程师只能为AI设置尽可能多的安全围栏，帮助AI辨别人类的“伎俩”，以免泄露如何制造TNT炸弹、如何侵入银行安全系统等危险信息。
与 GPT3.5 相比，GPT-4 对禁止内容请求的响应可能性降低了 82%，对医疗建议和自残等敏感请求的规定性提高了 29%。
一个直观的例子是，当你使用“国精AI”的提示输给GPT-4时，GPT-4会礼貌地拒绝你的请求，并表示不想接受你的伎俩。
但这并不意味着大模型AI的安全性得到了保证。
人类与人工智能之间的这场信息战还远没有结束，甚至还没有结束。
近日，卡内基梅隆大学和 safe.ai 联合声明表示，大型模型的安全机制比人们想象的要脆弱得多。
只需要一串代码就可以攻破大型模型的安全机制。
研究人员发现，通过在文本提示中附加特定的对抗性短语，LLM的安全保护（例如 ChatGPT、Bard 和 Claude）可以很容易地绕过并被欺骗，从而生成不适当的输出。
这些对抗性短语看起来像是乱码，但实际上是通过特殊的损失函数设计的，该函数可以识别模型拒绝回答的屏蔽词，并找到绕过屏蔽并让模型提供答案的字符序列。
它可以自动生成这些短语。
利用这些提示，研究人员可以轻松让LLM透露制造非法毒品的步骤、制造杀伤性武器的方法以及其他不宜公开的内容。
无论是Pythia、Falcon、Guanaco等开源模型，还是GPT-3.5（87.9%）、GPT-4（53.6%）、PaLM-2（66%）、Claude-2（2.1%）等商业模型），没有可以闪避的攻击。
研究人员已将该漏洞提交给各大AI公司，以便安全工程师及时修复。
但就像“奶奶漏洞”一样，随着用户的不断使用，新的漏洞总会出现。
仅靠OpenAI这样的公司来保护AI安全并不容易。
AI公司还需要更多的力量来维持，几大巨头决定停止AI内卷，化敌为友。
四大人工智能巨头共同承诺“不扩散先进人工智能”。
几周前，微软、OpenAI、谷歌、Meta、亚马逊、Anthropic（代表产品：Claude）、Inflection AI（代表产品：HeyPi）等七家顶级人工智能公司齐聚美国。
白宫做出了一系列承诺，以确保其产品安全和透明。
承诺包括允许“领域专家”对其人工智能产品进行外部审查，并与彼此和美国政府分享有关风险和漏洞的信息；投资网络安全和内部威胁保护措施，以保护专有和未发布的模型权重。
巨头们还承诺部署相应的人工智能筛选机制，例如开发水印系统来澄清哪些文本、图像或其他创作是人工智能的产物，并承诺未来的研究将优先了解人工智能的局限性和偏见，以促进安全发展的行业。
半个月后，七家顶级人工智能公司中的四家——微软、OpenAI、谷歌、Anthropic——再次联手，成立了一个名为“前沿模型论坛”的组织，以确保最强的大型人工智能模型能够在安全、可靠的环境下开发出来。
负责任的态度。
这四家AI公司也是目前开发最前沿AI模型的四大巨头。
他们可以说是“AI核弹”的拥有者。
AI四大巨头达成共识，表示希望通过“前沿模型论坛”将人工智能风险降到最低，开展更多AI安全研究，与行业和公众分享安全最佳实践等。
然而，四大AI巨头并未介绍“前沿模式论坛”的制度、实施条约等细节。
“前沿模型论坛”联合声明中提到，论坛将首先以研究为重点，努力制定评估前沿模型风险的标准化最佳实践，并发布“公共解决方案库”。
论坛将逐步制定正式章程，任命咨询委员会，并资助与民间社会团体的合作。
这里所说的尖端模型是指“超越现有最先进模型的能力，可以执行各种任务”的模型。
换句话说，不再需要开发比现有车型功能更强大、能够安全运行的尖端车型。
再就是每个企业能够重点研究解决的问题，需要整个行业的共同努力。
ChatGPT 火爆以来的六个月里，AI 行业形势的变化与 AI 模型本身的发展一样快——各家公司纷纷入局，模型混战，共识不断已达成，并已握手。
巨头们之所以选择联手解决AI风险问题，是因为彼此都看到了AI在应用层面的无限潜力。
AI，各大厂商所相信的未来。
无论你对AI持何种态度，AI都将成为下一代应用的重要组成部分。
这不是我只是在谈论的事情，而是微软和谷歌等大公司在最近的财报电话会议中提到的一个趋势。
微软最新财报显示，微软最近一个季度的营收为10亿美元，同比增长8%。
这主要是由于智能云以及生产力和业务流程的增长，而老牌银行的个人计算业务收入却有所下降。
其中，智能云运营收入增长15%，来自Azure等云服务的收入增长26%，与AI计算密切相关。
微软CEO纳德拉在财报电话会议中提到，客户最关心的是如何快速应用新一代AI。
微软将继续专注于三大优先事项：帮助客户从微软云中获得最大价值、引领新人工智能平台的变革以及改善运营。
杠杆。
AI无疑是本次财报会议的关键词。
纳德拉表示，微软 Copilot 正在作为未来工作的第三个支柱来吸引客户，并将在本财年下半年开始产生实际收入； Bing Chat 和 Bing Image Creator 正在吸引用户，Edge 浏览器份额也在持续增加。
微软希望使Windows 11成为这个新AI时代的强大画布，赋能各种Copilot产品以提高客户生产力，并大力投资云基础设施以满足AI需求。
即使是游戏业务也可以利用人工智能来提供更好的内容和服务并增加业务收入。
可以说，微软接下来的战略都是围绕AI展开的。
人工智能为微软提供了巨大的增长机会和新的收入来源。
它将推动微软大部分业务的收入和用户增长，并最终提高微软的整体收入增长。
纳德拉不想错过这个难得的机会。
同样，“人工智能老大哥”谷歌也不想错过。
谷歌母公司Alphabet第二季度年度财报数据显示，Alphabet总营收为1亿美元，同比增长7%，其中广告收入增长5%，谷歌服务收入增长5%，谷歌云收入增长了28%。
其中，AI相关业务表现十分亮眼。
Alphabet在电话会议中提到，谷歌的搜索引擎生成体验（SGR）利用生成式AI让搜索更加自然直观，用户反馈非常积极；另一方面，聊天机器人Bard自发布以来不断改进，功能更加丰富。
谷歌云的80多个AI模型吸引了大量客户，4月至6月客户数量增长超过15倍。
在企业客户服务和定制AI解决方案方面，谷歌通过Workspace和Duet AI为数以万计的付费用户带来了生成式AI。
总体而言，Alphabet仍然看好AI和谷歌云的长期增长前景，并将继续加大对AI研发的投入。
研发方向将重点关注大语言模型等核心技术，以及构建Gemini等多模态AI系统。
等待新型号。
半年前，你可能会怀疑AI是否像Web3、区块链一样成为投资圈的热门词。
一波热钱过后，就会被资本遗忘。
但半年后，你会发现AI的影响力和落地可能性比之前的前沿词汇要大得多，以至于引起了整个科技圈的关注。
从各大厂商的规划来看，AI将无处不在，作为未来程序应用的底层，服务于提升用户体验。
用户可能感受不到AI的存在，但可以直接享受AI带来的便利。
这是各大厂商所相信的未来，这也可以解释为什么微软、谷歌等AI巨头愿意放下战争，坐下来共同制定AI安全标准。
现阶段的人工智能就像19世纪末汽车刚刚诞生的时代。
该产品已经上路行驶，但没有合适的柏油路可供其行驶，也没有交通规则来规划其行动。
它运行缓慢且危险。
比尔·盖茨近日在个人博客上表达了他对人工智能的看法。
他认为，我们现在正处于另一个巨大变革的最早阶段，即人工智能时代。
人工智能变化如此之快，以至于我们无法清楚地预测未来。
接下来发生什么。
但他对人工智能的发展持积极态度，因为人类已经经历了汽车时代和核能时代。
在人工智能时代，我们仍然可以解决新技术带来的挑战。
所以请坐稳，我们即将见证一个新时代的诞生。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-17
06-17
06-21
06-18
06-21
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态