首页 > 科技未来 > 内容

AI换脸骗走了跨国公司近2亿,警惕这些新骗局

发布于:2024-06-21 编辑:匿名 来源:网络

新的一年新时代,除了和财神爷搞好关系外,守住自己的钱袋子也很重要。

技术实现的过程往往就是色情内容和诈骗套路的演变史。

趁着假期还剩下钱,可以教会长辈警惕新的人工智能骗局,从而实现“有爱的一家人”的“共同繁荣”。

比“假靳东”更能骗人的AI博主还有很多《大话西游》都说人类生于人类,恶魔生于恶魔,代码产生的AI没有父母,但我想假装它是有血有肉的,这样你就会误会它是一个人。

最近,视频号涌现出了很多“俄罗斯美女”。

她们个个皮肤白皙,美丽动人。

他们的普通话很流利,但句子碎片和发音很奇怪,语调和鼻音不清楚。

当然,考虑到他们作为外国人的身份,有口音似乎是理所当然的。

他们充满热情,热爱中国文化。

他们给视频打上“俄罗斯姑娘在中国”、“中俄友谊”等标签,给观众带来了牛筋肠、大排骨、羊奶粉、腌黄瓜等“家乡特色菜”。

、巧克力、手工皂。

她们有着看似皱眉却又不皱眉的烟熏眉,看似开心却又不开心的眼睛。

除了带货,他们也发表了自己的看法。

他们相信爱无国界,相信平淡就是真理。

他们感叹这里的繁荣,想和父母在一起。

我姐姐也接手了。

他们可能就是失散多年的姐妹。

叶连娜和艾琳娜长得一模一样,IP都来自山东。

它们聚在一起如火球,分散如星星,分布在世界各地。

Lina 来自上海,Nina 来自安徽,Irene 来自河北,Katya 来自辽宁,Alyssa 来自福建。

这些俄罗斯美女都是AI,平台贴心地给她们贴上了标签。

我们可以从他们夸张的模糊背景、乱糟糟的头发、重复的表情和动作以及过于接地气的线条来辨别出差异。

但评论区的中老年人看不出来,真心希望他们留下来。

回信时,“俄罗斯美女”只顾着自己的使命,不动声色地完成了一场软骗局。

被美貌所吸引是人类的天性,无论年龄大小。

小红书的AI美妆博主用时尚、网络化的角色,秒杀老少皆宜。

“西装精英男”、“白袜运动生”、“清纯欲望女神”。

乍一看,我只是以为他们是真人,照片也很夸张。

这时,看手仍然是识别是否是AI的唯一方法,因为人脸比较平坦,容易学习,而手具有三维结构,更加耗费人力。

不用说,手指数量过多,指关节扭动得如此小心,除非必要,不露出双手,非常可疑。

同样,肌肉、四肢、服装等细节也可能存在明显缺陷。

其余的识别方法越来越形而上、直观:画风油腻、文案浑浊、没有生活气息、光影效果不自然、眼睛毫无生气、脸太精致完美,只有静态图片,没有视频,单看一张图片很难确定,但多看几张就可以发现,任何姿势都是同一个表情。

小红书AI博主@cyberAngel_是一名职业软件工程师,AI绘画是他热爱发电的爱好。

使用人工智能的事实并不隐藏。

帖子标题写着“AI绘画”,账号简介也写着“我只是一个没有情感的机器人”。

▲ 图片来自:小红书 @cyberAngel_ 同时,@cyberAngel_ 认为未来人工智能画作的真假辨别将会越来越困难。

人工智能生成和人工智能检测相互发展。

创作者们更加意识到人工智能与真人不同,所以我们会努力让这部分变得“像”真人。

比如,如果AI制作的美少女过于完美,可以适当模糊,增加一点“电影感”。

即使AI美妆博主不那么真实,类似《俄罗斯美女》的剧情也出现了。

该平台已明确提示“疑似含有AI创作信息”。

还有人在评论区留下彩虹屁,甚至索要衣服链接。

似乎真假问题将不可避免地让位于美即正义。

当粉丝数量增加时,AI美妆博主可以通过多种方式变现。

有的自力更生,通过广告等方式将流量变现,有的则付费知识、卖课程、卖定制模型。

按照@cyberAngel_的说法,“新媒体有新媒体变现方式,科技有技术变现方式。

” ▲真人模特、AI“俄罗斯美女”、“好看博主”,有点像曾经骗取中老年女性情感和金钱的“假靳东”,但更可怕更有想象力的是,“假靳东”的技术含量很少,是通过下载或打包购买的深情声音,“一看就是假的”。

AI水平再高,有时候也不是那么容易辨别的,只能说,当我们在网上看到帅哥和美女时,最好不要以为他们是真人,也不要太真诚。

除了通过“好看博主”、“俄罗斯美女”广撒网,AI还能精准瞄准。

也就是说,AI不仅能编织温柔的家乡,还能变身PUA大师。

常见的AI诈骗类型是,骗子伪造来电显示和熟人的声音,告诉接到电话的中老年人,他们的孙子有麻烦了。

他们要么犯了什么事,需要钱来解决问题,要么就处于危险之中。

交了赎金才获救。

国外已报道多起此类电话诈骗案,情节相似,有绑架、受伤、酒后驾车追尾等。

类似的事情在中国也发生过,尤其是利用“时空差”编造绑架留学生骗取家长的行为。

这个动作本身并不新鲜,而且已经流行了好几年了。

但由于技术发展,对算力、样本等方面的要求降低了,效果更加真实,骗局也更容易实施。

只需一美元、一分钟的高品质音频,AI 语音克隆领域的领导者 ElevenLabs 就可以让您立即掌握 29 种语言和多种音调,同时保留您自己的口音、语调和节奏。

虽然如今的Elevenlabs一再保证只有你可以克隆自己的声音,并且有一个验证过程来证明这个声音属于你,但这也是为了弥补。

当Elevenlabs在2016年首次推出测试版时,泰勒·斯威夫特等名人的克隆声音已经满天飞。

我无法决定人工智能泰勒·斯威夫特会说什么。

不过,虽然对方可以伪造来电显示和声音,但如果当事人头脑清醒,挂断电话,重新输入手机号码,并主动联系亲人,谎言往往会是自欺欺人。

-击败。

与语音通话相比,视频通话可能会让相信“眼见为实”的中老年人对生活更加怀疑。

不知道屏幕另一边谁是人还是狗的老笑话永远不会过时,而且在技术上实现起来并不困难。

比较常见的操作是通过虚拟摄像头软件和AI换脸功能与对方聊天。

一家为公安机关提供技术支持的深圳科技公司接受央视采访时表示,在视频聊天中进行实时换脸时,无论是头像还是朋友圈里的照片,上传图像后,特征识别只需要大约30秒,然后AI开始构建模型,建模完成后实时转换。

您可能仍然对一对一的视频持谨慎态度,但一对多的“专业团队”又如何呢?近日,某跨国公司香港分公司因AI被骗1万美元。

受害人是一名财务人员。

他收到英国总部“CFO”发来的邮件,受邀参加一场涉及“秘密交易”的视频会议。

会上,不仅有“CFO”,还有几位熟悉的“同事”。

参加会议的同事并未真正到场。

AI换脸骗走了跨国公司近2亿,警惕这些新骗局

骗子下载了公开视频,通过Deepfake伪造了真人的面部和声音,然后应用到视频会议中。

为了避免泄露秘密,“CFO”单方面下达了命令。

“同事”没有与受害人沟通,视频很快就被挂断。

诈骗者继续通过电子邮件和其他方式与受害者联系。

▲ 警方演示了如何使用 Deepfake 伪造多人视频会议。

虽然得到了调查结果,但也有网友怀疑这只是内部人士。

跨国公司的风险管控措施不得而知,但可以肯定的是,AI换脸还可以延伸到很多地方,从最早的色情片换头,到直播间的假明星带货。

庆幸的是,人工智能尚未完善,识别方法仍然简单可行。

如果是通过AI的换脸视频,摄像头的原始画面转换成几层时会消耗大量的算力,而且声音和画面往往会出现延迟。

另外,你可以引导对方做一些动作,比如张嘴、大幅度摇头、手指在脸前来回移动等。

如果AI换脸,“脸”可能会变成“脸”。

变形和有缺陷。

除了突破技术bug之外,还有一个屡试不爽的绝招,那就是问一些你知道、我知道、他不知道的隐私问题,或者编造谎言、故意耍花招,看看对方如何对方回应。

当然,技术的缺乏只能解决暂时的困难。

我们不妨从战略上鄙视它,从战术上关注它。

我们不能以为自己不会被骗。

可能高端游戏还没有出现。

人工智能欺诈并不新鲜,但新的数字鸿沟已经出现。

今年被称为生成式人工智能元年。

但技术推广相对滞后。

也许大多数普通人更清楚的是,看似并不新鲜,但近年来日益普及的科技是如何影响我们的日常生活的呢?每个人都明白,技术是一把双刃剑。

Elevenlabs让有语言障碍的人可以说话,HeyGen让Swift可以对口型中文而无需翻译,妙芽相机让人们足不出户即可获得精致的证书。

事实证明,技术的光明面和黑暗面没有对错之分,它们只是客观存在。

然而,对于很多中老年人来说,智能手机和互联网原本是不可理解的,现在AI又来惹麻烦了。

AI时代,文字、声音、图片、视频都可能是假的,甚至组合出现。

骗子伪造的身份更加具体,诈骗更具针对性和真实性,使得中老年人更容易上当受骗。

用魔法对抗魔法,用科技攻防科技,是一场猫捉老鼠的游戏,中老年人可能无法很快消化。

我们不妨从诈骗的本质入手,减少中老年人上当受骗的可能性。

无论技术如何发展,许多诈骗手段始终如一:窃取隐私,利用恐惧、贪婪和情感价值编造故事,冒充熟人或包装自己以获取信任,以金钱为最终目标。

AI时尚教皇出道后,一位拥有近万粉丝的X(原推特)V感叹:“我以为教皇的羽绒服是真的,没想太多,我活不下去了”科技的未来。

”对于中老年人来说,更难适应看到的不一定是真的、图片不一定是真的这个规律。

我们可以向他们展示一些简单、传统但仍然有效的方法。

一类是谨慎行事,不要轻易相信网络内容,不接骚扰电话,不点击陌生链接,尽量不要在网上过度暴露人脸、声音、指纹等个人生物识别信息。

互联网。

尤其是接到可疑电话或短信时,不要盲目相信“片面之言”。

无论对方是谁,在金钱问题上他们都有多种观点。

使用多种方法验证对方身份。

如果对方说你的家人出了什么事,请再次给他们回电话。

打电话确认这是否属实。

另一种是积极主动、有准备的。

中老年人有自己偏爱的媒体。

家人可以将政府部门微信公众号等渠道的反诈骗内容转发给他们。

如果条件允许,还可以向中老年人展示如何使用ChatGPT等AI工具。

当然,对于不懂智能手机的老人来说,尽量从源头解决问题。

银行卡最好不要绑定微信或者支付宝,只存少量零钱。

人工智能诈骗成功只是最终结果,但防范人工智能诈骗可以随时开始。

科技应该服务每一个人,引领潮流,为后人照亮数字世界的灯塔,探索未知的水下珊瑚礁。

只有这样,我们才能共同走向技术不被恐惧、合理利用的未来。

AI换脸骗走了跨国公司近2亿,警惕这些新骗局

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 今年以来,美国科技行业已裁员5万多人; Ideal MEGA的订单远低于预期;阿里巴巴否认盒马大润发将出售给中粮

    今年以来,美国科技行业已裁员5万多人; Ideal MEGA的订单远低于预期;阿里巴巴否认盒马大润发将出售给中粮

    Ideal MEGA 目前的实际订单与预期相差甚远。 3月17日消息,据LatePost报道,理想公司预计24小时内MEGA订单量在1000台左右,但最终结果未达预期,只实现了目标的一半。 MEGA宣布半个月内已接到近台湾订单,本月MEGA产能为台湾。 “销量离目标还很远。 ” 据理想内部人士透露,

    06-17

  • 月泉仿生完成数千万天使轮融资

    月泉仿生完成数千万天使轮融资

    据投资界(ID:pedaily)8月14日消息,大旗月泉仿生科技表示,以“源于自然、科技创新领军企业北京大旗悦泉仿生科技有限公司(以下简称“悦泉仿生”)近日成功完成天使轮融资。 本轮投资方为北京中关村发展集团启航投资(以下简称“启航仿生”)。 融资所得将用于推动高自由通

    06-17

  • 良品铺子:一季度净利润1.02亿元,签约新店28家,

    良品铺子:一季度净利润1.02亿元,签约新店28家,

    良品铺子(19.SH)发布一季度报告。 一季度实现营业收入25.74亿元,同比增长34.83%;实现归属于上市公司股东的净利润1.02亿元,同比增长16.06%。

    06-18

  • 世界上第一个活体机器人诞生:可编程、自愈、由超级计算机设计

    世界上第一个活体机器人诞生:可编程、自愈、由超级计算机设计

    科学家创造了世界上第一个由青蛙干细胞产生的活体自愈机器人。 当地时间1月13日,佛蒙特大学在其官网发布新闻稿,宣布佛蒙特大学和塔夫茨大学的研究团队联合利用非洲爪蟾早期胚胎中的基因进行研究。 皮肤细胞和心脏细胞创造了第一个活体机器人,称为异种机器人。 该研究于1月

    06-17

  • “碳平衡科技”完成千万级天使轮融资,元和本源领投

    “碳平衡科技”完成千万级天使轮融资,元和本源领投

    投资社区(ID:pedaily)2月11日,碳中和数字解决方案服务商“碳平衡科技”宣布已获得数据千万元天使轮融资,由元和元电领投。 此前,去年8月,碳平衡科技获得了饿了么联合创始人汪渊的种子轮融资。 新一轮融资将主要用于团队发展、产品迭代和市场开拓。 上海碳平衡科技有限公

    06-18

  • 哈尔滨:“共和国长子”的冰与火

    哈尔滨:“共和国长子”的冰与火

    作为马背上民族的发源地,哈尔滨是一座只有几年近代历史的“没有城墙的城市”。 2000年,俄罗斯在东北地区修建中东铁路,哈尔滨获得了建城历史机遇。 20世纪50年代,因为一位领导人的一句话,从北方冰城摇身一变,成为“共和国长子”。 随着时代的变迁,哈尔滨的面貌不断被重

    06-18

  • 知识库大模型:未来智能的核心驱动力

    知识库大模型:未来智能的核心驱动力

    .wp-block-column h3{margin-left:0} 在这个快速发展的数字时代,知识库大模型已经成为技术创新的前沿。 这些模型不仅仅是数据的集合,它们代表了人工智能的未来,是机器学习和深度学习领域的重要里程碑。 智能的核心是大知识库模型,通过整合海量数据和复杂算法,提供前所未

    06-17

  • 苏州洪芯完成数千万Pre-A轮融资,中芯资本领投

    苏州洪芯完成数千万Pre-A轮融资,中芯资本领投

    投资界(ID:pedaily)10月10日消息,多线程DSP处理器设计公司苏州洪芯完成数十轮融资数百万Pre-A轮融资,本轮融资由中信资本领投。 本轮募集资金将主要用于产品研发和公司运营。 苏州洪芯成立于2018年12月,公司总部位于苏州,主要从事DSP处理器和SOC芯片的研发、设计和销售

    06-18

  • 甘李药业抢IPO,启明创投医疗投资迎来收获期,合伙人梁颖宇董事独家解读医疗投资长周期背后的奥秘

    甘李药业抢IPO,启明创投医疗投资迎来收获期,合伙人梁颖宇董事独家解读医疗投资长周期背后的奥秘

    进入新的一年,启明创投在医疗健康领域的投资逐渐迎来收获期。   5月25日,甘力药业发布上市招股书。 招股说明书显示,本次IPO拟募集资金15亿元。 甘李药业创始人甘忠如直接和间接持有所控制公司股份合计44.46%;甘李员工持有的旭特宏达持有甘李药业9.4%的股份;香港启明创

    06-17

  • 谷歌正式公布3款新设备,此前多轮泄密均已得到证实

    谷歌正式公布3款新设备,此前多轮泄密均已得到证实

    今年手机行业有两大奇迹。 一是华为Mate 60系列将在没有任何公告或发布会的情况下开售,二是Pixel 8系列将在前几个月正式发布。 一些用户对此开玩笑说:“人的一生中有三件事是不可避免的:死亡、税收和谷歌硬件泄露。 ”当然,谷歌可能不会像华为那样“标新立异”。 即使产品

    06-21

  • 「亿嘉达」完成数千万元Pre-A轮融资,专注泌尿及盆底健康领域

    「亿嘉达」完成数千万元Pre-A轮融资,专注泌尿及盆底健康领域

    投资界(ID:pedaily)10月20日消息,近日,亿嘉达医疗科技(上海)有限公司(以下简称“亿嘉达”)完成数千万元Pre-A轮融资。 本轮融资由辰德资本领投,朗玛峰创投和老股东华创资本跟投,普万资本担任财务顾问。 本轮融资将用于亿嘉达泌尿及盆底健康产品的持续创新、临床研究

    06-18

  • 苹果是如何走出iPhone销售危机的?

    苹果是如何走出iPhone销售危机的?

    和往常一样,在微软、亚马逊、谷歌相继发布财报后,苹果公司截至2020年9月28日的Q4财季财报却迟迟在10月30日传来。 (雷锋网注:财报季度与自然季节不同)本次财报营收超出市场预期。 财报一出,苹果股价在盘后交易中上涨近2%,市值稳定在万亿美元以上。 苹果首席执行官蒂姆库

    06-18