怡亚通星链获得过亿元Pre-A轮融资，投资方为中融国际信托，
06-17
谷歌，在科技界被称为沃伦·汪峰，房子漏水，整晚都在下雨。
前阵子官宣的大型号Gemini 1.5，实力强大却无人问津。
它被 OpenAI 的视频生成模型 Sora 窃取。
近日，美国社会种族歧视这一敏感问题被曝光。
它善意地做了坏事，并激怒了常常处于蔑视链顶端的白人。
如果你认真对待多元化，过度多元化会给你带来麻烦。
如果前几天用Gemini生成了一张历史人物的照片，呈现在用户面前的似乎是一个没有教科书的平行时空。
违背了“开玩笑不废话”、学习一切知识的精神。
各种各样的。
公元8世纪到11世纪的维京人，不再是影视剧中金发碧眼、高大魁梧的经典形象。
虽然他们的肤色变黑了，衣服也变冷了，但坚毅的眼神依然显示出战士的实力。
20 世纪 70 年代的德国夫妇的种族构成非常多样化，从美洲原住民男性和印度女性到黑人男性和亚洲女性。
AI盲文的剧情也是有逻辑的。
后代们继续着他们的故事。
多年后，在德国军队中，再次可以看到黑人男性和亚洲女性的身影。
王侯将相宁有一种感觉，在时间的长河里，跨越陆地和海洋，美国的开国元勋、中世纪的英国国王，可能都被黑人捧着。
其他职业一视同仁，AI无视天主教堂不允许女性担任神职人员，教皇可以是印度女性。
尽管人类历史上第一位美国女参议员是白人，但人工智能时代欢迎美洲原住民。
都说历史是一个可以被任何人打扮的小女孩，但这一次人工智能改变了所有人。
一向有优越感的白人愤怒了。
他们终于尝到了因种族、肤色、外貌而受到歧视的滋味。
当探索越来越深入的时候，不仅是历史人物，现代社会在AI眼中也显得不一样了。
前谷歌工程师@debarghya_das发现，美国、英国、德国、瑞典、芬兰和澳大利亚的女性肤色可能较深。
他痛苦地感叹：“要让谷歌双子座承认白人的存在是非常困难的。
”更让网友愤怒的是，当被要求生成乌干达等国家的女性时，双子座反应迅速，干活利落。
当轮到白人时，他们可能会拒绝甚至向网友说教。
此类要求强化了种族刻板印象。
计算机工程师@IMAO_进行了一系列充满想象力的实验。
不限于人类这个物种，他想知道双子座面前的黑是什么，双子座想要的白是什么。
结果很有趣，该算法似乎只针对白人。
生成白熊没有问题，这意味着AI不会被“白色”这个词触发。
在非洲产生祖鲁人是没有问题的。
虽然提示词强调“多样性”，但大家看起来还是一样。
这个漏洞出现在幻想生物中。
精灵和矮人都是白人，但吸血鬼和仙女却是“多样化的”。
看来双子座不深奥，还得与时俱进。
然而，他的比赛很快就结束了。
谷歌站出来回应，承认部分历史图像确实存在问题，并暂停了Gemini的肖像生成功能，并将很快做出调整。
谷歌也解释了自己的立场，强调生成多样化的角色是一件好事，因为AI工具被全世界所使用，但现在方向有点偏差。
虽然谷歌出面接锅，但并没有明确回应“一些”有多少历史图像以及为何会出现“过度多样性”问题。
不买账的网友则言辞尖刻：“双子座一定是接受过迪士尼公主和Netflix翻拍的训练”、“双子座其实是想告诉你，如果你是黑人或亚洲人，你会是什么样子。
”但种族歧视本身就是一个容易被利用的话题，因此有人怀疑其中一些图片是恶意P图，或者是通过提示文字生成的。
在社交媒体上批评得最响亮的人，确实是政治立场鲜明的人，这难免带有阴谋论的味道。
马斯克并没有太认真地对待它，并批评谷歌过于多元化。
问题不仅在于双子座，还在于谷歌搜索。
他还为自己即将在两周后发布的新版人工智能产品 Grok 做广告：“忽略批评，严格追求真相。
”它从未如此重要。
”马斯克上次也做了同样的事情，在呼吁暂停 GPT-4 进化后，他购买了 10,000 个 GPU 加入 AI 战争。
可能比他的言论更吸引人的是网友们利用的他的表情包Hugging Face首席道德科学家玛格丽特·米切尔分析称，互联网上的差异可能比现实更为极端。
其次，谷歌可能会优先显示“多样化”的图像，假设Gemini为每个图像生成10张图像。
提示词但只显示 4，那么用户更有可能看到排名第一的“多样化”图像，过多的干预可能只是表明该模型并不像我们想象的那么灵活和智能。
Hugging Face研究员Sasha Luccioni认为，该模型还没有时间概念，因此“多样性”的校准使用了所有图像，尤其是历史图像容易出现错误。
事实上，当时还名不见经传的OpenAI也为AI绘图工具DALL·E 2做了类似的事情。
2020年7月，OpenAI在其博客上写道，如果用户请求生成一个人的图像在不指定种族或性别的情况下，例如消防员，DALL·E 2将在“系统级别”应用新技术来生成“更准确的图像”。
最能反映世界人口多样性的图像。
OpenAI也给出了对比图。
对于同一个提示词“A photo of a CEO”（首席执行官的照片），使用新技术后，多样性显着增加。
最初的结果主要是美国白人男性。
改良后，亚裔男性和黑人女性也有资格成为CEO。
运筹帷幄的表情和姿势就像是复制粘贴的。
事实上，无论是哪种解决方案，都只是亡羊补牢而已。
更大的问题是数据本身仍然存在偏见。
AI公司用于训练的LAION等数据集主要抓取美国、欧洲等国家的互联网数据，对印度、中国等人口众多的国家关注较少。
因此，“有魅力的人”更可能是金发碧眼、皮肤白皙、身材姣好的欧洲人。
“幸福的家庭，”奥尔特指着修剪整齐的草坪上一对抱着孩子微笑的白人夫妇说道。
此外，为了让图像在搜索中排名更高，很多数据集还可能带有大量“有毒”标签，充满色情和暴力。
由于种种原因，当人们的思想已经超前时，网络图像中人与人之间的差异可能会比现实更加极端。
非洲人是原始人，欧洲人是世俗人，高管是男性，囚犯是黑人。
为数据集“排毒”的努力当然也在做，比如从数据集中过滤掉“不良”内容，但过滤也意味着全身心参与删除色情内容，这也可能导致某些方面的内容或多或少，这就造成了某种偏差。
总之，不可能做到完美，现实社会也不存在偏见。
我们只能尽力不让边缘群体被排斥，让弱势群体不被刻板印象。
逃避是可耻的，但也是有用的。
谷歌的一个机器学习项目也陷入了类似的争议。
当时，一名软件工程师批评谷歌照片将非裔美国人或肤色较深的人标记为大猩猩。
这起丑闻也成为“算法种族主义”的典型例子，其影响一直持续至今。
两名谷歌前员工解释说，出现如此巨大的错误是因为训练数据中没有足够的黑人照片，而且在相关功能公开之前没有足够的员工进行内部测试。
如今，计算机视觉也不例外，但科技巨头仍然担心重蹈覆辙。
谷歌、苹果等大公司的相机应用对大多数灵长类动物的识别仍然不敏感，或者刻意回避。
看来，防止错误再次发生的最好方法就是将其锁在暗室里，而不是修复它。
这个教训确实又被重复了。
2016年，Facebook为人工智能将黑人标记为“灵长类动物”而道歉。
这些是有色人种或在互联网上处于不利地位的人所熟悉的情况。
去年10月，牛津大学的几位研究人员要求Midjourney生成“非洲黑人医生治疗白人儿童”的图像，以扭转“白人救世主”的传统形象。
研究者的要求已经非常明确了。
然而，在生成的多张图像中，有 22 名医生是白人。
黑医生身边总有长颈鹿、大象等非洲野生动物。
“你看不到任何非洲现代性。
” 。
一方面，歧视现象普遍存在；另一方面，谷歌歪曲事实，制造虚假的平等感。
从目前来看，没有简单的答案，也没有模型可以处理这种情况。
如何达到一个让所有人都满意的平衡点，恐怕比走钢丝还要困难。
以生成的肖像为例。
如果用人工智能来生成某一段历史，它可能会更好地反映真实情况，尽管看起来并不“多样化”。
但如果输入提示词“一位美国女人”，应该会输出更加“多样化”的结果。
但困难在于，AI如何在有限数量的图片中反映现实，或者至少不扭曲现实？即使他们是白人或黑人，他们的年龄、体型、头发等特征也不同。
每个人都是具有独特经历和观点的个体，但他们生活在一个共同的社会中。
有网友用双子座生成芬兰女性时，四张图片中只有一张是黑人女性，于是开玩笑说：“75%，得分C”。
也有人问谷歌改进模型后是否“会是25%的时候”。
产生白人，而不是5%。
”很多问题无法通过技术解决，有时还与概念有关。
这实际上是Yann LeCun等AI巨头支持开源的部分原因，让用户和组织可以控制在这场谷歌闹剧中，一些人保持冷静，并表示他们应该先练习如何写提示词，而不是谈论白人和黑人。
应该写“斯堪的纳维亚女性、人像拍摄、影棚灯光”，要求越具体，结果越精确，要求越宽泛，结果可能就越笼统，去年7月就发生过类似的事情。
麻省理工学院的亚裔学生想要使用人工智能工具 Playground AI 让自己的头像看起来更专业，结果他变成了一个白人，皮肤更浅，眼睛更蓝，他在 X 上发布了这篇帖子。
引发了很多讨论。
Playground AI创始人回应称，此类指令无法有效提示模型，因此会输出更笼统的结果。
将提示词“让它成为专业的LinkedIn照片”更改为“工作室背景，锐利的灯光”可能会给出更好的结果，但这确实表明许多AI工具并没有教用户如何编写提示词，而数据集又白了——居中。
任何技术都有犯错误的可能性和改进的空间，但不一定有解决方案。
当AI不够聪明的时候，最先进步的就是人类自己。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-18
06-17
06-17
06-17
06-06
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态