首页 > 科技未来 > 内容

人类与人工智能合作有哪些危险?

发布于:2024-06-17 编辑:匿名 来源:网络

“科技是懒人推动的!”相信大家在“抓鱼”或者“躺着”的时候,都用过这句话来为自己找借口。

从蒸汽机的工业革命到计算机的数字革命,技术进步确实在某些方面赋予了人类越来越多的资本。

作为最有前途的下一代平台,AI技术会让人类变得“懒惰”吗? 看起来确实如此,但这并不是什么好消息。

根据《机器人与人工智能前沿》杂志上发表的一项新研究,当人类与人工智能和机器合作时,他们真的会变得懒惰。

主持这项研究的第一作者·Cymek表示:“团队合作既可以是福,也可以是祸。

”那么,在AI时代,人类最大的危机不是被机器取代,而是“懒到退化”? 机器助手让人类“放松警惕”。

有了机器这样一个强大的帮手,人类将会变得更加“有野心”。

德国柏林工业大学的研究人员向 42 名参与者提供了电路板的模糊图像,并要求他们检查是否存在缺陷。

一半的参与者被告知,他们正在制作的电路板已经被一个名为 Panda 的机器人检查过,并标记出了缺陷。

实验:模拟电路板质量控制的视觉搜索任务|《机器人与人工智能前沿》研究 事实上,机器人“熊猫”在实验过程中检测到了94.8%的缺陷。

所有参与者都看到了扫描电路板的相同图像,当研究人员仔细观察参与者的错误率时,他们发现那些与 Panda 一起工作的人在任务后期发现的缺陷较少,因为他们成功地看到了 Panda标记许多缺陷。

两组参与者几乎检查了整个棋盘表面,花时间进行搜索,并对自己的努力给予了更高的评价。

结果,与机器人一起工作的参与者平均发现了 3.3 个缺陷,而单独完成任务的参与者平均发现了 4.23 个缺陷。

两组参与者检测到的缺陷的平均值和标准差|《机器人与人工智能前沿》“这表明参与者在与机器人伙伴一起工作时可能不太专心检查电路板,”研究称。

“我们研究的参与者似乎仍然努力检查电路板,但似乎在进行检查时花费了较少的脑力劳动和对采样信息的关注。

“这意味着,如果他们被告知机器人已经检查了一个零件并体验了机器人的可靠性,他们会发现更少的缺陷。

他们潜意识地认为“熊猫”不太可能错过缺陷,从而产生“社会惰性”效应。

这项研究的意义对于依赖严格质量控制的行业尤其重要。

作者警告说,即使人类注意力短暂放松(可能是由于过度依赖机器人的准确性),也可能会损害安全。

“轮班时间较长、任务变得例行公事、工作环境提供的绩效监控和反馈较少时,动力的丧失往往会更大。

这在制造业中很常见,尤其是在制造业,”Onnasch 说。

“这在安全相关领域很常见,重复检查可能会对工作结果产生负面影响。

”当然,研究人员的测试也存在一些局限性。

例如,样本量不够大,并且很难在实验室中模拟“社交偷懒”,因为参与者知道他们正在被监视。

“主要的限制是实验室环境,”Cymek解释道。

“为了了解人机交互中失去动力问题的严重程度,我们需要走出实验室,在真实的工作环境中与经验丰富的工人一起检验我们的假设,他们通常与机器人一起工作。

”人机协作”已经发生。

事实上,在实验室之外,人机合作带来的“退化”早已在现实世界中发生。

在自动驾驶领域,存在一种类似于“社交惰化”的现??象,称为“自动化自满”,这种现象通常是由于自动化辅助而导致分心造成的。

今年3月,一辆载有安全官员的Uber自动驾驶汽车在亚利桑那州撞死了一名骑自行车的人。

警方分析发现,如果安全员当时看路,本可以将车停在受害人前方12.8米处,避免悲剧发生。

美国自动驾驶汽车造成的死亡人数CNN 特斯拉经常因为与自动驾驶汽车相关的事故而成为美国媒体和监管机构的焦点。

一个典型的场景是,特斯拉司机在使用 Autopilot 时睡觉或玩游戏,从而引发致命车祸。

在当前的人工智能热潮中,机器取代人类的预测越来越接近现实。

一方面认为机器会为人类服务,另一方面则认为人类会不小心创造出邪恶的东西。

在医疗领域,IBM开发的AI系统“Doctor Watson”曾向癌症患者给出不安全的用药建议。

今年的一篇论文指出,生成式人工智能已经可以通过美国医疗执照考试的三个部分。

类似的转移假设是,如果未来人工智能为人类诊断和治疗,然后由人类医生来照顾,人类医生会不会遭受“社交偷懒”和“自动化自满”的问题? 上述研究报告的作者指出:“人类和机器人能力的结合显然提供了许多机会,但我们也应该考虑人类-机器人团队中可能出现的意想不到的群体效应。

当人类和机器人共同完成一项任务时,就会发生这种情况。

”可能会导致团队成员失去动力,并更有可能出现社交惰化等效应。

”还有人担心人工智能可能会损害人类的思维和创造力,削弱人际关系,并分散人们对现实的整体注意力。

Pi 是来自硅谷生成型人工智能明星初创公司 Inflection 的聊天机器人,它被设计为一个友好的、支持性的伴侣。

创始人表示,Pi是一个帮助人们应对孤独的工具,可以作为一个可以倾诉的人。

批评者称,它提供了一种逃避现实的方式,而不是与真实人类的互动。

现在,人与工具之间的关系已经发展到了一个新的水平。

所有工具的诞生,其实都让人类变得懒惰了。

例如,扫地机阻止人们打扫房屋,而手机则消除了写下电话号码的需要。

但AI技术与以往技术的不同之处在于,更多的思考和选择任务交给了AI,而后者基本上是一个黑匣子,这更像是思维自主权的转移。

当人们完全将驾驶决策交给自动驾驶、将医疗诊断交给人工智能系统时,潜在的成本可能与不记得电话号码的成本完全不同。

开发了历史上第一个聊天机器人的计算机科学家 Joseph Weissenbaum 曾将科学比作“一种令人上瘾的药物”,随着剂量的增加,它会变成“慢性毒药”,比如将计算机引入一些复杂的人类活动可能会导致无法使用的地步。

返回。

当人们把思考和判断的权力交给机器作为“参考”时,“社交惰化”和“自动化自满”的恶魔也可能潜伏在内心,并可能随着任务的重复而成为慢性毒药。

人类与人工智能合作有哪些危险?

人类与人工智能合作有哪些危险?

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 上汽集团:一季度汽车销量同比增长68.24%

    上汽集团:一季度汽车销量同比增长68.24%

    上汽集团今日晚间公布,3月份汽车销量为49.29万辆,去年同期为23.15万辆。 一季度汽车销量达到1万辆,同比增长68.24%。

    06-18

  • 汽车服务商全友汽车完成数千万Pre-A轮融资

    汽车服务商全友汽车完成数千万Pre-A轮融资

    据投资界(ID:pedaily)8月2日消息,近日,汽车经销商全流程在线服务商北京全友汽车售后及保险业务网络科技有限公司(以下简称全友车)完成由汽车行业投资方联合领投的数千万Pre-A轮融资。 据官方报道,截至6月底,全友汽车凭借旗下首款产品“车百灵保险智能管家”,已与北京

    06-18

  • 快手磁引擎推出“短视频明日之星计划”,全面赋能短视频商家品牌经营

    快手磁引擎推出“短视频明日之星计划”,全面赋能短视频商家品牌经营

    为全面赋能短视频商家品牌经营,4月12日,快手磁引擎“” 《星引力》短视频商界春季私人派对在京举办。 快手磁引擎副总裁、短视频商界负责人、袁帅及其团队还邀请了奥美中国首席增长官陈蓉《晚年之美》创始人李士柯、“米奥凯蒂”联合创始人朱桔菁以及来自全国各地的短视频商

    06-17

  • 睿小麟获500万天使轮融资利用机器人提高儿童英语学习效率

    睿小麟获500万天使轮融资利用机器人提高儿童英语学习效率

    据投资界1月30日消息,睿小麟宣布获得1万天使轮融资,投资方为启诚金禾基金。 据悉,本轮融资将用于产品研发和早期市场培育。   睿小麟是一家成立于12月的苏州教育科技公司。 睿小麟将认知领域的科研成果与人工智能技术相结合,打造了儿童互动系统,为儿童创造自然的英语语

    06-18

  • 字节跳动确认:将持有TikTok Global 80%股份,交易不涉及算法或技术转让

    字节跳动确认:将持有TikTok Global 80%股份,交易不涉及算法或技术转让

    造头条,9月21日上午,字节跳动官方确认已与甲骨文、沃尔玛达成原则共识关于TikTok合作,并澄清了一些有关三方合作的传闻。 关于“TikTok Global的主要股东是美国投资者,字节跳动将失去对TikTok的控制权”的说法。 字节跳动表示,TikTok Global是字节跳动持股10%的子公司,总

    06-17

  • 联手国际巨头,源耀集团完成亿元规模战略融资

    联手国际巨头,源耀集团完成亿元规模战略融资

    据投资界(ID:pedaily)9月10日消息,近日,该领域的民营企业源耀集团国内农牧业饲料原料企业(以下简称“耀明集团”)旗下大数据交易板块、生物发酵板块、工业互联网板块(凉巴巴)分别完成数千万人民币融资。 值得一提的是,在本轮融资中,源耀集团成功引入了全球农业食品

    06-18

  • 纳新微IPO:北大80后市值270亿

    纳新微IPO:北大80后市值270亿

    今年最贵IPO诞生。 投资界-天天IPO获悉,今日(4月22日),苏州芯片公司纳芯微电子正式登陆科创板。 IPO发行价成为今年人民币每股最贵新股,开盘涨幅达8.7%,随后市值达1亿元。 同时,也成为今年少有的未破发的芯片新股之一。 纳欣伟背后是一位80后的北大学生。 公司创始人王

    06-17

  • 7nm EUV芯片来了!三星宣布将于今年6月开始量产

    7nm EUV芯片来了!三星宣布将于今年6月开始量产

    集微网消息:据businesskorea报道,三星电子将于今年6月开始量产7纳米(nm)极紫外(EUV)芯片。 三星电子计划于 6 月推出采用 7 纳米 EUV 工艺制造的应用处理器 (AP) Exynos。 该处理器预计将用于今年下半年发布的 Galaxy Note 10 旗舰机型。 到目前为止,新款 Galaxy Note

    06-06

  • Rgenta宣布完成5200万美元A轮融资,由阿斯利康中金医疗产业基金

    Rgenta宣布完成5200万美元A轮融资,由阿斯利康中金医疗产业基金

    投资社区(ID:pedaily)11月29日消息,Rgenta治疗公司(简称:Rgenta)宣布完成1万美元系列融资A轮融资。 本轮融资由阿斯利康中金医疗产业基金领投,KIP资本、Delos资本及现有投资者持续跟投。 Rgenta于2016年获得种子轮投资,主要投资方包括BI创投基金(BIVF)、经纬创投、

    06-17

  • 英雄体育融资6000万美元,中国电竞企业加速进军全球

    英雄体育融资6000万美元,中国电竞企业加速进军全球

    投资界(ID:pedaily)据2月25日消息,中国电子竞技赛事运营公司英雄体育VSPN(以下简称英雄体育) VSPN)进行B+拓展海外市场A轮融资已筹集10,000美元。 本轮融资主要投资方包括PAC(Prospect Avenue Capital)、国泰君安国际、南丰集团,广源资本继续担任独家投资方。 据悉,

    06-17

  • 对比分析:选择最好的国外在线客服系统的关键因素

    对比分析:选择最好的国外在线客服系统的关键因素

    .wp-block-column h3{margin-left:0} 在全球化的商业环境中,选择合适的国外在线客服系统对于提高客户满意度至关重要经验和拓展国际市场至关重要。 了解和比较不同系统的关键因素可以帮助您做出最佳选择。 技术兼容性和集成能力 技术兼容性是选择在线客服系统时首要考虑的因素

    06-18

  • 多家险企上榜!2020年四季度保险消费投诉同比增长超22%

    多家险企上榜!2020年四季度保险消费投诉同比增长超22%

    多家保险公司上榜! 2020年第四季度,保险消费投诉同比增长超过22%。 今年四季度,银保监会及其派出机构共受理转发保险消费投诉8起,同比增长22.82%。 其中,涉及财产保险公司的案件3起,同比增长13.86%;涉及人身保险公司案件5起,同比增长31.25%。

    06-18