首页 > 科技未来 > 内容

人类与人工智能合作有哪些危险?

发布于:2024-06-17 编辑:匿名 来源:网络

“科技是懒人推动的!”相信大家在“抓鱼”或者“躺着”的时候,都用过这句话来为自己找借口。

从蒸汽机的工业革命到计算机的数字革命,技术进步确实在某些方面赋予了人类越来越多的资本。

作为最有前途的下一代平台,AI技术会让人类变得“懒惰”吗? 看起来确实如此,但这并不是什么好消息。

根据《机器人与人工智能前沿》杂志上发表的一项新研究,当人类与人工智能和机器合作时,他们真的会变得懒惰。

主持这项研究的第一作者·Cymek表示:“团队合作既可以是福,也可以是祸。

”那么,在AI时代,人类最大的危机不是被机器取代,而是“懒到退化”? 机器助手让人类“放松警惕”。

有了机器这样一个强大的帮手,人类将会变得更加“有野心”。

德国柏林工业大学的研究人员向 42 名参与者提供了电路板的模糊图像,并要求他们检查是否存在缺陷。

一半的参与者被告知,他们正在制作的电路板已经被一个名为 Panda 的机器人检查过,并标记出了缺陷。

实验:模拟电路板质量控制的视觉搜索任务|《机器人与人工智能前沿》研究 事实上,机器人“熊猫”在实验过程中检测到了94.8%的缺陷。

所有参与者都看到了扫描电路板的相同图像,当研究人员仔细观察参与者的错误率时,他们发现那些与 Panda 一起工作的人在任务后期发现的缺陷较少,因为他们成功地看到了 Panda标记许多缺陷。

两组参与者几乎检查了整个棋盘表面,花时间进行搜索,并对自己的努力给予了更高的评价。

结果,与机器人一起工作的参与者平均发现了 3.3 个缺陷,而单独完成任务的参与者平均发现了 4.23 个缺陷。

两组参与者检测到的缺陷的平均值和标准差|《机器人与人工智能前沿》“这表明参与者在与机器人伙伴一起工作时可能不太专心检查电路板,”研究称。

“我们研究的参与者似乎仍然努力检查电路板,但似乎在进行检查时花费了较少的脑力劳动和对采样信息的关注。

“这意味着,如果他们被告知机器人已经检查了一个零件并体验了机器人的可靠性,他们会发现更少的缺陷。

他们潜意识地认为“熊猫”不太可能错过缺陷,从而产生“社会惰性”效应。

这项研究的意义对于依赖严格质量控制的行业尤其重要。

作者警告说,即使人类注意力短暂放松(可能是由于过度依赖机器人的准确性),也可能会损害安全。

“轮班时间较长、任务变得例行公事、工作环境提供的绩效监控和反馈较少时,动力的丧失往往会更大。

这在制造业中很常见,尤其是在制造业,”Onnasch 说。

“这在安全相关领域很常见,重复检查可能会对工作结果产生负面影响。

”当然,研究人员的测试也存在一些局限性。

例如,样本量不够大,并且很难在实验室中模拟“社交偷懒”,因为参与者知道他们正在被监视。

“主要的限制是实验室环境,”Cymek解释道。

“为了了解人机交互中失去动力问题的严重程度,我们需要走出实验室,在真实的工作环境中与经验丰富的工人一起检验我们的假设,他们通常与机器人一起工作。

”人机协作”已经发生。

事实上,在实验室之外,人机合作带来的“退化”早已在现实世界中发生。

在自动驾驶领域,存在一种类似于“社交惰化”的现??象,称为“自动化自满”,这种现象通常是由于自动化辅助而导致分心造成的。

今年3月,一辆载有安全官员的Uber自动驾驶汽车在亚利桑那州撞死了一名骑自行车的人。

警方分析发现,如果安全员当时看路,本可以将车停在受害人前方12.8米处,避免悲剧发生。

美国自动驾驶汽车造成的死亡人数CNN 特斯拉经常因为与自动驾驶汽车相关的事故而成为美国媒体和监管机构的焦点。

一个典型的场景是,特斯拉司机在使用 Autopilot 时睡觉或玩游戏,从而引发致命车祸。

在当前的人工智能热潮中,机器取代人类的预测越来越接近现实。

一方面认为机器会为人类服务,另一方面则认为人类会不小心创造出邪恶的东西。

在医疗领域,IBM开发的AI系统“Doctor Watson”曾向癌症患者给出不安全的用药建议。

今年的一篇论文指出,生成式人工智能已经可以通过美国医疗执照考试的三个部分。

类似的转移假设是,如果未来人工智能为人类诊断和治疗,然后由人类医生来照顾,人类医生会不会遭受“社交偷懒”和“自动化自满”的问题? 上述研究报告的作者指出:“人类和机器人能力的结合显然提供了许多机会,但我们也应该考虑人类-机器人团队中可能出现的意想不到的群体效应。

当人类和机器人共同完成一项任务时,就会发生这种情况。

”可能会导致团队成员失去动力,并更有可能出现社交惰化等效应。

”还有人担心人工智能可能会损害人类的思维和创造力,削弱人际关系,并分散人们对现实的整体注意力。

Pi 是来自硅谷生成型人工智能明星初创公司 Inflection 的聊天机器人,它被设计为一个友好的、支持性的伴侣。

创始人表示,Pi是一个帮助人们应对孤独的工具,可以作为一个可以倾诉的人。

批评者称,它提供了一种逃避现实的方式,而不是与真实人类的互动。

现在,人与工具之间的关系已经发展到了一个新的水平。

所有工具的诞生,其实都让人类变得懒惰了。

例如,扫地机阻止人们打扫房屋,而手机则消除了写下电话号码的需要。

但AI技术与以往技术的不同之处在于,更多的思考和选择任务交给了AI,而后者基本上是一个黑匣子,这更像是思维自主权的转移。

当人们完全将驾驶决策交给自动驾驶、将医疗诊断交给人工智能系统时,潜在的成本可能与不记得电话号码的成本完全不同。

开发了历史上第一个聊天机器人的计算机科学家 Joseph Weissenbaum 曾将科学比作“一种令人上瘾的药物”,随着剂量的增加,它会变成“慢性毒药”,比如将计算机引入一些复杂的人类活动可能会导致无法使用的地步。

返回。

当人们把思考和判断的权力交给机器作为“参考”时,“社交惰化”和“自动化自满”的恶魔也可能潜伏在内心,并可能随着任务的重复而成为慢性毒药。

人类与人工智能合作有哪些危险?

人类与人工智能合作有哪些危险?

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 周大生:1-2月净利润约2.18亿元,同比增长36%

    周大生:1-2月净利润约2.18亿元,同比增长36%

    周大生公告称,根据公司初步核算,今年1-2月,公司实现营业收入收入约23.19亿元,同比增长0.11%;实现归属于上市公司股东的净利润约2.18亿元,同比增长36.01%。

    06-18

  • 高通侯明娟:5G、XR等技术深度融合将为媒体发展赋能新机遇

    高通侯明娟:5G、XR等技术深度融合将为媒体发展赋能新机遇

    中国发展网8月9日至12日,世界5G大会(W5GC)在黑龙江哈尔滨举行。 本次大会的主题是“共建5G生态,促进共创互利”。 旨在汇聚全球5G发展的最新成果和观点,搭建5G创新链、产业链、供应链紧密融合的平台,构建良好生态,为5G赋能。 它能为千千万万个行业注入活力。 高通全球副

    06-06

  • AI芯片公司耐能获得超过2500万美元新一轮融资,将加速自动驾驶技术落地

    AI芯片公司耐能获得超过2500万美元新一轮融资,将加速自动驾驶技术落地

    投资界(ID:pedaily)12月22日消息,耐能宣布近日获得新一轮融资超过1万美元。 融资。 本轮最大投资额来自OEM/ODM巨头光宝科技,参投的还有General Branch、凌钜、Sand Hill Angels、Gainels等。 据悉,光宝科技的投资资金将作为战略合作的一部分,主要用于推动智慧城市技术

    06-17

  • 浙江省推出微信公交订票服务,已覆盖全国274个城市

    浙江省推出微信公交订票服务,已覆盖全国274个城市

    浙江省居民可通过微信“城市服务”购买长途汽车票!进入微信城市服务平台即可享受便捷的“浙江省长途汽车票”服务。 从快速查询、购买长途汽车票,到微信支付,一站式的查询、购票体验,是腾讯互联网+推动便捷交通的又一实施案例。 截至目前,腾讯互联网+城市服务平台长途汽车

    06-18

  • 人造肉公司周零STARFIELD获愉悦资本、经纬中国数千万元融资

    人造肉公司周零STARFIELD获愉悦资本、经纬中国数千万元融资

    据投资界3月12日消息,周零STARFIELD宣布完成数千万元融资。 本次融资由愉悦资本、经纬中国、美国知名植物基投资机构New Crop Capital及其专注于中国市场投资的合作伙伴Dao Foods International共同投资。 据目前披露的信息,这是国内创新型人造肉企业完成的最高金额融资。

    06-18

  • 史上最薄的苹果产品容易弯曲吗?新iPad Pro暴力测试来了

    史上最薄的苹果产品容易弯曲吗?新iPad Pro暴力测试来了

    新iPad Pro在性能、屏幕等各方面都有不少亮点。 不过,最让人惊叹的还是这款平板电脑的“薄”:11英寸版本为5.3毫米。 13 英寸型号的厚度为 5.1 毫米,比 iPod Nano 还要薄。 然而,如此轻薄的机身却让人担心这款平板电脑缺乏耐用性,可能会“弯曲”。 毕竟,苹果的轻薄产品也

    06-21

  • 控维通信完成数千万A轮融资

    控维通信完成数千万A轮融资

    据投资界8月13日消息,据36氪报道,宽带卫星通信解决方案供应公司控维通信近日获得高新新君领投的投资首都。 集百投资、南京创投集团参与的A轮融资。 此前投资方包括中科之星、中科图灵、南京麒麟创投等。 本轮融资主要用于控维通信最新卫星通信技术的研发以及GEO和GEO的升级

    06-18

  • 最牛的85后估值达到2000亿

    最牛的85后估值达到2000亿

    今年最震撼的融资诞生了。 五一期间,硅谷传来消息——据科技媒体TechCrunch报道,ChatGPT母公司OpenAI于美东时间4月28日完成1亿美元融资,投后估值达1亿美元(约1亿元人民币)。 ,成为全球最新、成长最快的独角兽。 大佬们齐聚一堂。 本次融资分为两部分:一是老虎环球管理

    06-17

  • GlobalFoundries 宣布将投资 10 亿美元在纽约建设工厂,以提高芯片产量

    GlobalFoundries 宣布将投资 10 亿美元在纽约建设工厂,以提高芯片产量

    芯片制造商 GlobalFoundries 周一表示,将在纽约马耳他总部附近建设第二家工厂,并斥资 10 亿美元增加现有工厂的产量以增加产量。 解决全球普遍存在的芯片短缺问题。 这位首席执行官还表示,有关英特尔收购 GlobalFoundries 的报道只是猜测,该公司维持明年上市的计划。 GF

    06-08

  • 移动运营商T-Mobile周一遭遇全美国通信中断,短信和电话均无效

    移动运营商T-Mobile周一遭遇全美国通信中断,短信和电话均无效

    刚刚,根据DownDetector和社交媒体上的用户报告,移动运营商T-Mobile、Verizon和AT&T的客户在美国各地打电话时突然遇到意外电话。 服务于下午 2 点 20 分左右中断。 东部时间。 据了解,今年4月,Sprint与T-Mobile完成了价值1亿美元的合并,成为美国第三大电信运营商,仅次于

    06-18

  • 如何打破海量红包“收到不退回”? (这是发红包的链接)

    如何打破海量红包“收到不退回”? (这是发红包的链接)

    近日,某知名地产公司高管在发红包时说“不转发红包就会被移出群”,引发热议给一个群发红包。 很多人因为身体不适而退团。 不对此事发表评论,“不转发就踢”的做法,其实折射出该公司“社区裂变”推广模式的隐痛。 近年来,“私域流量”受到不少企业的青睐。 其中,通过社区

    06-18

  • 世界第一!无人巡逻车驶入机场禁区,驭势科技迎来又一个里程碑

    世界第一!无人巡逻车驶入机场禁区,驭势科技迎来又一个里程碑

    回望当前的时间点,今年对于驭势科技来说并不是一个好年头。 2020年11月28日,香港国际机场管理局宣布,今年9月正式推出的驭势科技无人驾驶巡逻车运营里程超过1万公里。 而且,这是全球首款用于机场禁区巡逻的无人机。 从外观上看,这款无人巡逻车基于宝骏KiWi EV车型打造。

    06-18