圆通快递：1月份快递产品收入30.13亿元，同比增长74.87%
06-17
*转载文章不代表本站观点。
本文来自微信公众号“量子比特AI”（QbitAI） 作者：派恩·萧箫·金磊“AI确实可能会杀死人类”。
这并非危言耸听，而是OpenAI CEO奥特曼的最新观点。
这一观点是奥特曼在与麻省理工学院科学家研究员莱克斯·弗里德曼两个小时的谈话中透露的。
不仅如此，奥特曼最近谈到了围绕ChatGPT的诸多问题，并承认连OpenAI团队都根本不明白它是如何“进化”的：从ChatGPT开始，AI已经发展出了推理能力。
但没人可以解释为什么会出现这种能力。
唯一的方法是向 ChatGPT 提出问题并从其答案中探索其想法。
针对马斯克在推特上的“危险论”，他直言：马斯克是我心中的英雄，我支持并理解他的担忧。
虽然他在推特上很混蛋，但我希望马斯克能看到我们在解决 AGI 安全问题上有多么努力。
此外，在这次对话中，奥特曼还提到了很多棘手的话题，比如：ChatGPT和GPT-4的开发内幕。
GPT-4 是人类有史以来实现的最复杂的软件。
您如何看待 ChatGPT？越狱……网友看完这段对话，纷纷直呼：两个AI巨头用大家都能听懂的方式谈论AI，请多做这样的采访。
那么接下来，我们就来看看他们的深度对话。
GPT-4内幕曝光 GPT-4是本次对话中谈论最多的部分。
它是如何训练的？训练模型时如何避免算力浪费？如何解决AI回答不同价值观的人的问题？首先是训练过程，仍然是预训练+RLHF，但是透露了一些具体的细节。
GPT-4早在去年夏天就已经接受了训练，并且一直在进行对齐工作，以使其表现更符合人类的需求。
与预训练数据集相比，RLHF 使用的数据非常少，但效果却是决定性的。
对此，奥特曼透露了一些数据来源，包括一些开源数据集和一些合作伙伴提供的数据集。
当然，数据集中有一些来自 Reddit 论坛的表情包，但数量不多。
奥特曼遗憾的是，如果问题多一些，答案可能会更有趣。
即便如此，团队乃至奥特曼本人仍然无法完全解读GPT-4。
目前的解读方式仍然是不断地向它提问，通过它的答案来判断它的“思维训练”。
在不断的测试中，OpenAI发现，从ChatGPT开始，GPT系列已经发展出了推理能力。
虽然ChatGPT大多数时候是作为数据库来使用的，但它确实具有一定的推理能力。
至于这个能力是如何出现的，目前还没有人能够回答。
然而，大型模型的训练往往需要大量的计算能力。
对此，奥特曼再次提到了OpenAI独特的训练预测方法：即使模型很大，团队目前有办法仅通过部分训练来预测整个模型的性能，就像预测1年是否-老宝宝可以通过SAT考试。
这一点在GPT-4论文和官方博客中也有更详细的介绍。
最后，奥特曼承认 GPT-4 确实在处理不同价值观的人方面存在问题。
临时的解决办法是向用户开放更改系统消息的权限，也就是ChatGPT中经常看到的“我只是一个语言模型……”。
通过更改系统消息，GPT-4 比对话中提出的请求更容易承担其规定的角色并更认真地对待它，例如告诉 GPT-4 像苏格拉底一样说话或仅以 JSON 格式回答问题。
那么，对于GPT系列来说，谁最有可能被载入人工智能史册呢？奥特曼并不认为是GPT-4：从可用性和RLHF的角度来看，ChatGPT无疑是最具里程碑意义的一个，其背后的模型并不像产品的实用性那么重要。
最擅长练太极的CEO GPT-4论文，没有透露参数规模、训练数据集大小等更多细节，被外界批评越来越不开放。
在这次采访中，奥特曼面对主持人的质问始终守口如瓶。
GPT-4预训练数据集有多大？奥特曼只是简单介绍一下，有公共数据集、来自合作伙伴的内容（例如GitHub提供的代码）和来自互联网的内容。
就像ChatGPT也能写的那种网络八篇文章一样，只有在谈论Reddit时，才透露网络模因占训练数据的比例很小，“否则ChatGPT可能会更有趣。
” GPT-4模型有多少个参数？奥特曼只是说之前疯传的万亿参数都是谣言，然后就传了出去。
我认为人们被规格竞赛所吸引，就像他们过去被 CPU 时钟竞赛所吸引一样。
如今人们不再关心手机处理器有多少赫兹，而是关心这个东西能为你做什么。
然而，奥特曼对一项声明持肯定态度——“GPT-4 是人类实施过的最复杂的软件。
”但当主持人莱克斯突然抛出一些关于GPT-4的尖锐观点时，奥特曼的反应可谓是“AI般的冷静”（狗头）。
比如关于前段时间闹得沸沸扬扬的GPT-4越狱问题。
仅仅 30 分钟，斯坦福教授就诱导 GPT-4 制定了越狱计划，并将其全部展示出来。
对此，奥特曼表示，就像当年iPhone也面临被“黑”或越狱的问题（比如当年的App Store免费越狱版）一样，这并不是一件无法解决的事情。
奥特曼甚至承认，他当时越狱了他的第一部 iPhone，甚至认为这在当时是一件很酷的事情。
但现在没有多少人尝试越狱苹果，因为它足够简单，无需越狱即可使用。
奥特曼表示，OpenAI的回应是一样的，那就是让自己的功能足够强大。
他甚至表示愿意在这方面给予用户更多的权限，以了解他们想要什么。
此外，莱克斯还提到了马斯克对奥特曼的批评。
虽然奥特曼是马斯克提拔的人才，但现在马斯克不仅退出了他们共同创立的OpenAI，而且对OpenAI的现状也非常不满，经常在推特上批评该公司。
我捐资1亿成立的非营利组织是如何变成市值1亿的营利性公司的？如果这是合法的，为什么其他人不这么做呢？作为OpenAI现任CEO，奥特曼并未直接回应此事。
相反，他取笑马斯克在航天领域经常受到“老前辈”的批评。
这一系列的采访和提问让人想起在ChatGPT发布后，奥特曼在回答记者关于将ChatGPT集成到微软Bing和Office中的问题时的回答：你知道我不能对此发表评论。
我知道你知道我不能对此发表评论。
你知道我知道你知道我不能对此发表评论。
既然如此，为什么还要问呢？ GPT的“偏见”不会消失。
GPT在迭代过程中不可避免地存在“偏见”，不可能保持完全中立。
当主持人提到ChatGPT和GPT-4存在偏见的问题时，奥特曼是这样回应的。
ChatGPT刚推出时，还不是一个成熟的产品。
它需要不断的迭代，而在迭代的过程中，光靠内功是无法完成的。
ChatGPT技术的“提前”推出，是为了汲取外界的集体智慧和能力，同时让世界参与到“塑造AI”的过程中。
不同的人对问题有不同的看法，所以在这个过程中，“偏见”的问题是不可避免的。
就连奥特曼也在言语中透露：在GPT中，“偏见”永远不会消失。
他将外部参与建设GPT比作“公共领域建设的权衡”。
GPT产生的答案是个性化控制的结果，而迭代过程则是对“个性化”过程的更精准的控制。
有趣的是，在此期间，奥特曼还在推特上暗暗刺伤马斯克：我们正在找回被推特摧毁的多样性。
（嗯，奥特曼认识一些词。
）当然，说到ChatGPT，其背后的公司也不能被忽视。
OpenAI在成立之初就树立了两个旗帜：1、非营利； 2.通用人工智能。
情报（AGI）时至今日，八年过去了，这两面旗帜也发生了巨大的变化：AGI的旗帜依然高高举起，而非营利的旗帜已经摇摇欲坠。
对此，奥特曼也单独回应。
对于OpenAI“非营利性”逐渐弱化，奥特曼直言：很早以前，我就意识到非营利不是长久之计。
OpenAI的研究仅仅依靠非营利组织筹集的资金是远远不够的，商业化是必然的选择。
但后来奥特曼也试图“弥补”，称目前的商业化程度仅限于满足投资者和员工的固定回报，剩余资金仍将流向非营利组织。
说到AGI，当OpenAI声称自己是通用人工智能时，仍然有很多人嘲笑它。
现在已经做出了GPT-4这样的产品，回过头来看，嘲讽的声音越来越少了。
当面临诸如“GPT-4 是 AGI 吗？”之类的问题时奥特曼直接给出了他对AGI的理解：AGI所拥有的知识应该超过人类科学知识的总和，并且具有创造性。
能够促进基础科学的发展；但目前所有的 GPT 都无法做到这一点。
为了实现 AGI，我们需要扩展当前的 GPT 范式。
至于如何扩展，这是目前所欠缺的。
值得一提的是，在谈到AGI时，奥特曼在接受采访时眼睛里难得一亮。
他带着“科研人员的理想情怀”提出了一句金句：也许AGI是一个永远无法到达的乌托邦，但这个过程会让人类变得越来越强大。
但奥特曼并不否认过于强大的AGI“可能杀死人类”的想法：我必须承认有一定的可能性（AI杀死人类）。
许多关于人工智能安全和挑战的预测被证明是错误的，我们必须面对这一点，并尽早找到问题的解决方案。
还有一件事 在谈话结束时，莱克斯·弗里德曼还试图让奥特曼给年轻人一些建议。
奥特曼直接拿出了“反鸡汤文学”：网上的“成功学习”帖子太诱惑，建议不要听太多建议。
。
我只是忽略了这些建议并达到了现在的水平。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-18
06-06
06-18
06-18
06-18
最新文章
首先告诉我什么是智能汽车！
盲盒明星卡的暴利与泡沫：2元卡卖700万，直播卖卡月入百万
黑色星期五轰轰烈烈地回来了，结果这些中国企业扛起了全场
锂电池隔膜疯狂扩产：兴源材料欲夺回C位？
当我考上缅语专业时：凌晨三点我还在走廊里背单词，毕业后，我不仅仅是一名翻译者
被遗弃，被收获？老年人上网到底有多难？
海外日报 -今年，我国自主研发游戏海外实际销售收入实现两位数增长；三星电子正式成立机器人业务团队36氪海外·15分钟前
腾讯音乐：爱、相信、坚持