首页 > 科技未来 > 内容

AI换脸骗走了跨国公司近2亿,警惕这些新骗局

发布于:2024-06-21 编辑:匿名 来源:网络

新的一年新时代,除了和财神爷搞好关系外,守住自己的钱袋子也很重要。

技术实现的过程往往就是色情内容和诈骗套路的演变史。

趁着假期还剩下钱,可以教会长辈警惕新的人工智能骗局,从而实现“有爱的一家人”的“共同繁荣”。

比“假靳东”更能骗人的AI博主还有很多《大话西游》都说人类生于人类,恶魔生于恶魔,代码产生的AI没有父母,但我想假装它是有血有肉的,这样你就会误会它是一个人。

最近,视频号涌现出了很多“俄罗斯美女”。

她们个个皮肤白皙,美丽动人。

他们的普通话很流利,但句子碎片和发音很奇怪,语调和鼻音不清楚。

当然,考虑到他们作为外国人的身份,有口音似乎是理所当然的。

他们充满热情,热爱中国文化。

他们给视频打上“俄罗斯姑娘在中国”、“中俄友谊”等标签,给观众带来了牛筋肠、大排骨、羊奶粉、腌黄瓜等“家乡特色菜”。

、巧克力、手工皂。

她们有着看似皱眉却又不皱眉的烟熏眉,看似开心却又不开心的眼睛。

除了带货,他们也发表了自己的看法。

他们相信爱无国界,相信平淡就是真理。

他们感叹这里的繁荣,想和父母在一起。

我姐姐也接手了。

他们可能就是失散多年的姐妹。

叶连娜和艾琳娜长得一模一样,IP都来自山东。

它们聚在一起如火球,分散如星星,分布在世界各地。

Lina 来自上海,Nina 来自安徽,Irene 来自河北,Katya 来自辽宁,Alyssa 来自福建。

这些俄罗斯美女都是AI,平台贴心地给她们贴上了标签。

我们可以从他们夸张的模糊背景、乱糟糟的头发、重复的表情和动作以及过于接地气的线条来辨别出差异。

但评论区的中老年人看不出来,真心希望他们留下来。

回信时,“俄罗斯美女”只顾着自己的使命,不动声色地完成了一场软骗局。

被美貌所吸引是人类的天性,无论年龄大小。

小红书的AI美妆博主用时尚、网络化的角色,秒杀老少皆宜。

“西装精英男”、“白袜运动生”、“清纯欲望女神”。

乍一看,我只是以为他们是真人,照片也很夸张。

这时,看手仍然是识别是否是AI的唯一方法,因为人脸比较平坦,容易学习,而手具有三维结构,更加耗费人力。

不用说,手指数量过多,指关节扭动得如此小心,除非必要,不露出双手,非常可疑。

同样,肌肉、四肢、服装等细节也可能存在明显缺陷。

其余的识别方法越来越形而上、直观:画风油腻、文案浑浊、没有生活气息、光影效果不自然、眼睛毫无生气、脸太精致完美,只有静态图片,没有视频,单看一张图片很难确定,但多看几张就可以发现,任何姿势都是同一个表情。

小红书AI博主@cyberAngel_是一名职业软件工程师,AI绘画是他热爱发电的爱好。

使用人工智能的事实并不隐藏。

帖子标题写着“AI绘画”,账号简介也写着“我只是一个没有情感的机器人”。

▲ 图片来自:小红书 @cyberAngel_ 同时,@cyberAngel_ 认为未来人工智能画作的真假辨别将会越来越困难。

人工智能生成和人工智能检测相互发展。

创作者们更加意识到人工智能与真人不同,所以我们会努力让这部分变得“像”真人。

比如,如果AI制作的美少女过于完美,可以适当模糊,增加一点“电影感”。

即使AI美妆博主不那么真实,类似《俄罗斯美女》的剧情也出现了。

该平台已明确提示“疑似含有AI创作信息”。

还有人在评论区留下彩虹屁,甚至索要衣服链接。

似乎真假问题将不可避免地让位于美即正义。

当粉丝数量增加时,AI美妆博主可以通过多种方式变现。

有的自力更生,通过广告等方式将流量变现,有的则付费知识、卖课程、卖定制模型。

按照@cyberAngel_的说法,“新媒体有新媒体变现方式,科技有技术变现方式。

” ▲真人模特、AI“俄罗斯美女”、“好看博主”,有点像曾经骗取中老年女性情感和金钱的“假靳东”,但更可怕更有想象力的是,“假靳东”的技术含量很少,是通过下载或打包购买的深情声音,“一看就是假的”。

AI水平再高,有时候也不是那么容易辨别的,只能说,当我们在网上看到帅哥和美女时,最好不要以为他们是真人,也不要太真诚。

除了通过“好看博主”、“俄罗斯美女”广撒网,AI还能精准瞄准。

也就是说,AI不仅能编织温柔的家乡,还能变身PUA大师。

常见的AI诈骗类型是,骗子伪造来电显示和熟人的声音,告诉接到电话的中老年人,他们的孙子有麻烦了。

他们要么犯了什么事,需要钱来解决问题,要么就处于危险之中。

交了赎金才获救。

国外已报道多起此类电话诈骗案,情节相似,有绑架、受伤、酒后驾车追尾等。

类似的事情在中国也发生过,尤其是利用“时空差”编造绑架留学生骗取家长的行为。

这个动作本身并不新鲜,而且已经流行了好几年了。

但由于技术发展,对算力、样本等方面的要求降低了,效果更加真实,骗局也更容易实施。

只需一美元、一分钟的高品质音频,AI 语音克隆领域的领导者 ElevenLabs 就可以让您立即掌握 29 种语言和多种音调,同时保留您自己的口音、语调和节奏。

虽然如今的Elevenlabs一再保证只有你可以克隆自己的声音,并且有一个验证过程来证明这个声音属于你,但这也是为了弥补。

当Elevenlabs在2016年首次推出测试版时,泰勒·斯威夫特等名人的克隆声音已经满天飞。

我无法决定人工智能泰勒·斯威夫特会说什么。

不过,虽然对方可以伪造来电显示和声音,但如果当事人头脑清醒,挂断电话,重新输入手机号码,并主动联系亲人,谎言往往会是自欺欺人。

-击败。

与语音通话相比,视频通话可能会让相信“眼见为实”的中老年人对生活更加怀疑。

不知道屏幕另一边谁是人还是狗的老笑话永远不会过时,而且在技术上实现起来并不困难。

比较常见的操作是通过虚拟摄像头软件和AI换脸功能与对方聊天。

一家为公安机关提供技术支持的深圳科技公司接受央视采访时表示,在视频聊天中进行实时换脸时,无论是头像还是朋友圈里的照片,上传图像后,特征识别只需要大约30秒,然后AI开始构建模型,建模完成后实时转换。

您可能仍然对一对一的视频持谨慎态度,但一对多的“专业团队”又如何呢?近日,某跨国公司香港分公司因AI被骗1万美元。

受害人是一名财务人员。

他收到英国总部“CFO”发来的邮件,受邀参加一场涉及“秘密交易”的视频会议。

会上,不仅有“CFO”,还有几位熟悉的“同事”。

参加会议的同事并未真正到场。

AI换脸骗走了跨国公司近2亿,警惕这些新骗局

骗子下载了公开视频,通过Deepfake伪造了真人的面部和声音,然后应用到视频会议中。

为了避免泄露秘密,“CFO”单方面下达了命令。

“同事”没有与受害人沟通,视频很快就被挂断。

诈骗者继续通过电子邮件和其他方式与受害者联系。

▲ 警方演示了如何使用 Deepfake 伪造多人视频会议。

虽然得到了调查结果,但也有网友怀疑这只是内部人士。

跨国公司的风险管控措施不得而知,但可以肯定的是,AI换脸还可以延伸到很多地方,从最早的色情片换头,到直播间的假明星带货。

庆幸的是,人工智能尚未完善,识别方法仍然简单可行。

如果是通过AI的换脸视频,摄像头的原始画面转换成几层时会消耗大量的算力,而且声音和画面往往会出现延迟。

另外,你可以引导对方做一些动作,比如张嘴、大幅度摇头、手指在脸前来回移动等。

如果AI换脸,“脸”可能会变成“脸”。

变形和有缺陷。

除了突破技术bug之外,还有一个屡试不爽的绝招,那就是问一些你知道、我知道、他不知道的隐私问题,或者编造谎言、故意耍花招,看看对方如何对方回应。

当然,技术的缺乏只能解决暂时的困难。

我们不妨从战略上鄙视它,从战术上关注它。

我们不能以为自己不会被骗。

可能高端游戏还没有出现。

人工智能欺诈并不新鲜,但新的数字鸿沟已经出现。

今年被称为生成式人工智能元年。

但技术推广相对滞后。

也许大多数普通人更清楚的是,看似并不新鲜,但近年来日益普及的科技是如何影响我们的日常生活的呢?每个人都明白,技术是一把双刃剑。

Elevenlabs让有语言障碍的人可以说话,HeyGen让Swift可以对口型中文而无需翻译,妙芽相机让人们足不出户即可获得精致的证书。

事实证明,技术的光明面和黑暗面没有对错之分,它们只是客观存在。

然而,对于很多中老年人来说,智能手机和互联网原本是不可理解的,现在AI又来惹麻烦了。

AI时代,文字、声音、图片、视频都可能是假的,甚至组合出现。

骗子伪造的身份更加具体,诈骗更具针对性和真实性,使得中老年人更容易上当受骗。

用魔法对抗魔法,用科技攻防科技,是一场猫捉老鼠的游戏,中老年人可能无法很快消化。

我们不妨从诈骗的本质入手,减少中老年人上当受骗的可能性。

无论技术如何发展,许多诈骗手段始终如一:窃取隐私,利用恐惧、贪婪和情感价值编造故事,冒充熟人或包装自己以获取信任,以金钱为最终目标。

AI时尚教皇出道后,一位拥有近万粉丝的X(原推特)V感叹:“我以为教皇的羽绒服是真的,没想太多,我活不下去了”科技的未来。

”对于中老年人来说,更难适应看到的不一定是真的、图片不一定是真的这个规律。

我们可以向他们展示一些简单、传统但仍然有效的方法。

一类是谨慎行事,不要轻易相信网络内容,不接骚扰电话,不点击陌生链接,尽量不要在网上过度暴露人脸、声音、指纹等个人生物识别信息。

互联网。

尤其是接到可疑电话或短信时,不要盲目相信“片面之言”。

无论对方是谁,在金钱问题上他们都有多种观点。

使用多种方法验证对方身份。

如果对方说你的家人出了什么事,请再次给他们回电话。

打电话确认这是否属实。

另一种是积极主动、有准备的。

中老年人有自己偏爱的媒体。

家人可以将政府部门微信公众号等渠道的反诈骗内容转发给他们。

如果条件允许,还可以向中老年人展示如何使用ChatGPT等AI工具。

当然,对于不懂智能手机的老人来说,尽量从源头解决问题。

银行卡最好不要绑定微信或者支付宝,只存少量零钱。

人工智能诈骗成功只是最终结果,但防范人工智能诈骗可以随时开始。

科技应该服务每一个人,引领潮流,为后人照亮数字世界的灯塔,探索未知的水下珊瑚礁。

只有这样,我们才能共同走向技术不被恐惧、合理利用的未来。

AI换脸骗走了跨国公司近2亿,警惕这些新骗局

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 打造德国版“去哪儿”,Omio获新一轮1亿美元融资

    打造德国版“去哪儿”,Omio获新一轮1亿美元融资

    投资圈(ID:pedaily)8月21日消息,据36氪报道,Omio在德国完成1亿美元融资、新的和已有的投资者参与了本轮融资,但公司并未透露具体名单。 该公司之前的投资者包括Temasek、Kinnevik、高盛、NEA 和凯鹏华盈。 据了解,Omio是Naren Shaam于2008年创立的旅游交通预订平台,其

    06-18

  • “睿刀医疗”完成亿元A轮融资,德通资本投资

    “睿刀医疗”完成亿元A轮融资,德通资本投资

    投资社区(ID:pedaily)9月1日消息,据36氪报道,不可逆电穿孔技术公司——上海睿刀医疗科技有限公司已完成1亿元A轮融资。 投资方为德通资本,并与银行达成战略合作。 本轮融资将用于公司的产品研发、优化升级、适应症拓展及临床试验。 睿刀医疗成立于2001年,是一家专注于不

    06-18

  • 头部医美连锁联合丽哥获得数亿元D轮融资,大陈财智独家投资

    头部医美连锁联合丽哥获得数亿元D轮融资,大陈财智独家投资

    投资圈(ID:pedaily)据3月31日消息,顶级医美连锁联合丽格(北京)医疗美容投资连锁有限公司(以下简称“联合丽格”) )获得D轮融资,大辰财智独家投资数亿元。 本轮融资后,联合利格将进一步巩固领先地位,探索创新业务,引领美丽经济发展,更好地为经济内循环做出贡献。

    06-17

  • 北卡罗莱纳州农业技术州立大学与北卡罗莱纳州立大学合作

    北卡罗莱纳州农业技术州立大学与北卡罗莱纳州立大学合作

    Silicon Semiconductor 北卡罗莱纳州农业技术州立大学与北卡罗莱纳州立大学和南加州大学领导的区域创新中心合作,推出了大型-规模微电子共享项目,以桥接并加速实验室到晶圆厂的转型。 2016年,美国国防部拨款2.38亿美元在全国范围内建立涉及多个机构的八个中心,以促进经济增

    06-06

  • 米飞科技A轮融资过亿元,启明创投领投

    米飞科技A轮融资过亿元,启明创投领投

    投资圈(ID:pedaily)9月6日消息,近日,中国领先的半导体晶圆厂自动化设备公司米飞科技宣布完成A轮融资融资规模超亿元。 本轮融资由启明创投领投,金浦智能、宏业资本跟投。 本轮融资将用于扩大公司经营规模、加大研发投入、拓展海外市场。 米飞科技核心团队来自国内外一线

    06-17

  • 中国恒大:今年前四个月实现合同销售金额2213亿元,同比增长4%

    中国恒大:今年前四个月实现合同销售金额2213亿元,同比增长4%

    5月4日,中国恒大在香港联交所公告称,今年4月,集团物业实现合同销售额0.41亿元,同比增长4.5%;今年1-4月累计合同销售额1亿元,同比增长4.1%。

    06-18

  • 移动AR技术开发商时行科技获战略投资

    移动AR技术开发商时行科技获战略投资

    据投资界(ID:pedaily)1月25日消息,天眼查信息显示,杭州时行科技有限公司(以下简称:时行科技)发生战略投资注册资本、高级管理人员、投资者等多项工商变更,包括新增阿里巴巴(中国)网络技术有限公司为股东,持有16.67%股份,认购金额为40万元。 资料显示,时星科技是

    06-18

  • 酒店B2B预订平台好巧网获1.2亿元B+轮融资

    酒店B2B预订平台好巧网获1.2亿元B+轮融资

    据投资界2月21日消息,国际酒店资源整合与分销B2B平台好巧网近日宣布获得A轮融资。 合资公司获得国家中小企业发展基金与招商局资本投资1.2亿元B+轮融资。 据悉,本轮融资将主要用于增强技术实力、完善服务体系、引进更多人才。   好侨网成立于2007年,是一家专注于国际酒店

    06-17

  • 我快撑不住了,650亿的明星公司要破产了

    我快撑不住了,650亿的明星公司要破产了

    这个世界有时候真的很幽默。 2019年12月,一家名为SmileDirectClub(SDC)的美国公司上市,市值立即达到90亿美元(约合人民币1亿元)。 两位年龄均不足30岁的创始人也成为最年轻的亿万富翁。 SDC是一家通过互联网销售隐形牙套和牙齿矫正的公司。 它声称可以绕过牙医,显着降低

    06-17

  • 今天的  Redmi,像极了最初的那个小米

    今天的 Redmi,像极了最初的那个小米

    现在的红米很像当初的??小米。 在我眼里,对手只有一个,那就是荣耀。 在12月10日红米K30系列及AIoT智能新品发布会的采访环节中,刚刚上任小米中国区总裁的小米公司副总裁和红米品牌总经理卢伟冰并没有隐藏自己的挑战目标。 当然,对于卢伟冰来说,这次发布会恰逢红米品牌首款

    06-18

  • 金华女裤快手年销千万条,快手电商“金华裤”主题活动助力金华商户持续爆款

    金华女裤快手年销千万条,快手电商“金华裤”主题活动助力金华商户持续爆款

    浙江金华一直是女装行业知名在中国,金花女装凭借着高性价比的服装深受消费者的认可,而在细分品类中,金华女装休闲裤也凭借产地优势,不断向全国各地输送高品质的裤子。 近日,为进一步帮助金华产业带商家做好生意,快手电商聚焦当地裤业,推出“金华裤,超酷”产业带溯源活

    06-17

  • 梅赛德斯发布第一辆电动卡车,“司机友好卡车”上线

    梅赛德斯发布第一辆电动卡车,“司机友好卡车”上线

    穿越城市、跨越国家,卡车几乎无处不在。 无论货物大小,卡车都是最重要的货物运输方式。 目前,卡车几乎承担了内陆货物运输的80%以上。 仅在中国、欧盟、日本、美国和独联体国家,每年通过卡车运输的货物就超过6万亿吨。 那么,卡车又怎能错过电气化浪潮呢? ▲图片来自:IR

    06-21