上市首日价格涨幅超30%！极氪“闪电IPO”，市值直追小鹏
06-21
*转载文章不代表本站观点。
本文来自微信公众号“数据实践者”（gh_ff93f12e），作者：库珀如果你在马路上行驶，突然前方拐角出现一辆无人驾驶汽车，你会继续坚持自己的道路优先，还是会你放手了吗？先让它过去吧？目前，我们大多数人都能在涉及其他人的情况下表现出善意，但我们是否能对自动驾驶汽车表现出同样的善意还不得而知。
来自慕尼黑大学和伦敦大学的国际研究团队利用行为博弈论方法进行了一项大规模分析研究，以了解人们是否会通过人工智能（AI）与其他人类平等合作。
该研究发表在《iScience Research on AI》杂志上，发现早期人们对人工智能的信任程度与人类相同：大多数人都希望遇到愿意合作的人。
区别在于后续行动，人们倾向于利用它来为自己谋利。
回到交通示例，一名人类驾驶员可能会给另一名人类驾驶员让路，但不太愿意给自动驾驶汽车让路。
这项研究将这种不愿与机器妥协的现象视为未来人类与人工智能互动的标志。
新的挑战，这个漏洞不仅需要更智能的机器，还需要更好的以人为本的策略。
“人们期望人工智能像真正的人类一样友好和合作。
然而，他们并没有比人类更多地回报这种善意并利用人工智能，”慕尼黑大学行为博弈论专家 Jurgis Karpus 博士解释道。
哲学家和第一位参与这项研究的作者。
“算法开发会产生进一步的影响，”尤吉斯·卡普斯 (Jurgis Karpus) 说。
“如果人类不愿意在路上屈服于礼貌的自动驾驶汽车，那么自动驾驶汽车是否应该少一点礼貌，多一点攻击性，以提高效率？”合作与利用场景（来源：iScience） 4 个游戏和 2 个假设 随着人工智能体逐渐获得自主决策的能力，未来人类将与他们合作或一起做出决策。
过去几年，人工智能在国际象棋、围棋、星际争霸等游戏中表现优于人类。
然而，在日常社交场合，大多数都不是零和博弈。
并不是一方获胜，另一方失败。
相反，人工智能需要与人类合作，实现最终的互利共赢。
而合作时，往往会涉及妥协和风险：一个人可能不得不为了集体的利益而牺牲一些个人利益，并面临其他人可能不合作的风险。
经济博弈是检验人们合作的有效工具。
最近的一些行业研究表明，当由两个或两个以上人类决策者组成的群体面临集体问题时，多个机器人的存在可以帮助人机群体中的人类。
然而，这并不意味着人类愿意与人工智能进行一对一的合作。
人们对机器的回报往往少于对人的回报。
更重要的是，人类在社交互动环境中与机器合作较少的原因仍然无法解释。
有时，一旦人类知道他们正在与机器交互，合作关系就会破裂。
会崩溃。
人们似乎不信任预测算法和人工智能在复杂决策任务中协调行动的能力。
因此，研究人员提出了两个假设：第一个假设（H1）聚焦于“期望”。
当合作可以带来互惠互利，但因对方可能自私而不合作存在风险时，人类就会“预测”与人工智能的合作。
可能比与人类的合作更少。
第二个假设（H2）聚焦于“算法剥削”：当人们期望与另一方合作时，如果对方是人工智能代理，他们会比对方是人工智能代理时更倾向于利用对方的善意。
一个人。
如果这一假设推向极端，H2 将预测人类将毫无疑虑地利用合作但无感知的人工智能。
为了测试和澄清一个或两个假设是否成立，研究人员运行了四种著名的一次性游戏：信任、囚徒困境、小鸡和猎鹿。
游戏（Stag Hunt），总共进行了9次实验。
当人们看到利用人工智能的机会时，与人工智能的协作组件就会减少（来源：iScience）人类对利用人工智能更感兴趣。
当人们被告知他们正在与人工智能代理或匿名人互动时，他们会如何反应？ ？研究人员进行了一些统计分析。
在实验 1 中，参与者参加了信任游戏，每个参与者被分配为游戏中第一或第二玩家的角色，并面对人类或人工智能代理作为合作伙伴。
如果第一个玩家合作，第二个玩家就可以决定游戏的最终结果。
第二个玩家认为背叛（play*）符合她自己的利益，并且合作对双方都有利（play+）。
因此，只有当第一个参与者期望第二个参与者做出同样的回应时，合作才值得，但对于第二个参与者来说，合作是不值得的，因为潜在的更高个人回报的前景会导致第二个参与者背叛。
对于玩家来说存在风险。
通过实验，研究人员得到了第一个结果：当人类与人类互动时，大多数扮演角色一的参与者（74%）会选择合作，而大多数扮演角色二的参与者（75%）会选择合作。
也会有类似的反应。
在与AI代理互动时，扮演玩家角色的大多数参与者（78%）也选择了合作。
然而，在扮演次要角色的参与者中，与人工智能代理的合作率（34%）明显低于与人类的合作率。
尽管选择行为存在差异，但人们对人类和人工智能作者决策的期望是相同的：79％的参与者希望与人类作者合作伙伴合作，83％的参与者希望与人工智能代理合作。
这些结果支持假设 H2，但不支持 H1：人们期望人工智能体像人类一样合作或仁慈，但如果有机会，他们更愿意利用仁慈的人工智能体，而不是利用仁慈的人类。
那么，参与者之间更加对称的风险分配是否有助于恢复团队等合作？为了验证这一点，研究人员分别进行了实验2和实验3，其中参与者玩囚徒困境游戏，参与者玩懦夫游戏。
研究发现，当人与人互动时，一半的参与者（49%）在囚徒困境中合作，而大多数参与者（69%）在懦夫游戏中合作。
当与 AI 代理交互时，两种游戏中的合作率均显着下降：囚徒困境中的合作率降至 36%，懦夫游戏中的合作率降至 56%。
尽管选择行为存在差异，但对人类和人工智能的期望与作者的决定相结合。
在囚徒困境中，59%的参与者期望他们的伴侣是人类，52%的参与者期望与人工智能代理合作；在懦夫博弈中，67% 的人期望人类合作，70% 的人期望得到 AI 代理的合作。
在期望伴侣能够良好合作的参与者中，在囚徒困境中与人工智能代理的合作率为 54%，在懦夫游戏中为 57%，显着低于与人类的合作率（分别为 71%）。
% 和 73%）。
这些结果也支持 H2 假设，但不支持 H1 假设，并将之前的发现扩展到具有对称分布风险的游戏：当智能体是 AI 智能体时，人们更热衷于利用智能体的预期仁慈。
在实验4中，参与者参加了猎鹿游戏。
结果显示，当人们与人类互动时，大多数参与者（86%）进行了合作，而与人工智能代理（80%）的合作率并不显着。
不同之处。
研究人员观察到，人们与人工智能合作较少的主要原因并不是为了超越机器而进行的激烈竞争。
当单方面背叛没有什么好处时，人们也愿意冒险并与人工智能体合作，就像与人类合作一样，以实现互利共赢的结果。
当行为者与人工智能代理互动时，他们更有可能出于自身利益而这样做，相反，当他们与人类互动时，他们更有可能出于共同利益而合作。
这表明，尽管人们与人工智能代理合作的可能性与与人类合作的可能性相同，但合作的动机是不同的。
除了这四个实验之外，研究人员还进行了实验5-8和实验9，结果与H2的假设一致。
人工智能法律需要进一步完善 研究人员表示，这些测试结果为重新思考人类与人工智能之间的社交互动提供了新的基础，同时也提出了新的道德警告。
迄今为止，大多数关于人工智能的警告都集中在它们可能是恶意的以及可能不公平地对待人类的风险，因此当前的政策旨在确保人工智能将单方面、公平地为人类的利益服务。
2017年制定的阿西洛玛人工智能原则（Asilomar AIprinciples）得到了人工智能、政界、商界和学术界众多专家的认可。
例如，原则建议“人工智能研究的目标不应该是创造无向智能，而应该是创造有益的智能”。
同样，欧盟委员会将公平视为人工智能必须遵守的四项道德要求之一。
然而，在这项研究中，研究人员的发现增加了一个不同的警告：如果行业和立法者公开宣称人工智能默认是仁慈的，那么人类可能会更容易决定利用其合作性质。
因此，拥有无条件服从和合作的机器可能并不会让我们未来与人工智能的互动更加道德和互利。
这指出了当前人工智能政策讨论中的一个盲点：如果我们想将人工智能融入人类社会，我们需要重新思考人类将如何与它们互动。
此外，先进人工智能算法的开发需要更大规模的研究。
人工智能代理将根据之前对人与人之间社交互动的观察来模拟人类行为。
随着时间的推移，机器将能够使用自己与人类互动的数据：如果人工智能通过学习人类如何以不同的方式对待合作，人工智能最终可能会减少与人类的点对点合作。
在这种情况下，错误不在于我们的算法，而在于我们自己。
对于这项研究的局限性，研究人员表示，需要进一步研究人类与人工智能之间的合作，以将研究结果外推到经济博弈之外的现实世界。
目前的研究成果旨在为人工智能的进一步研究提供依据。
智能与人类的交互提供了概念证明。
进一步探索的一个途径是，当人工智能主体的行为直接造福或伤害他人时，人类愿意与人工智能主体合作，而人工智能主体可能代表他人的利益。
此外，研究人员观察到，算法开发是在人工智能赚取的积分转换成金钱流向人工智能代理所代表的机构的环境中进行的，但这并不等同于允许人工智能代理所代表的机构。
特定第三方利益。
由于人工智能代理本身并不直接从金钱中受益，因此需要进一步研究来探索人工智能代理的哪些“奖励”对其他人来说是明确且真正重要的。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-17
06-18
06-06
06-18
最新文章
首先告诉我什么是智能汽车！
盲盒明星卡的暴利与泡沫：2元卡卖700万，直播卖卡月入百万
黑色星期五轰轰烈烈地回来了，结果这些中国企业扛起了全场
锂电池隔膜疯狂扩产：兴源材料欲夺回C位？
当我考上缅语专业时：凌晨三点我还在走廊里背单词，毕业后，我不仅仅是一名翻译者
被遗弃，被收获？老年人上网到底有多难？
海外日报 -今年，我国自主研发游戏海外实际销售收入实现两位数增长；三星电子正式成立机器人业务团队36氪海外·15分钟前
腾讯音乐：爱、相信、坚持