元评估将如何创造新形式的欺诈和欺骗

我们的人类沉迷于模糊真实与捏造之间的边界的技术。实际上,目前最热门的两个领域是由他们能有效地欺骗的定义

我们的人类沉迷于模糊真实与捏造之间的边界的技术。实际上,目前最热门的两个领域是由它们能够有效地欺骗我们的:元和人工智能的有效性。

当涉及到Metaverse时,VR和AR技术的目标是欺骗感官,使计算机生成的内容看起来像现实世界中的体验。在AI方面,艾伦·图灵(Alan Turing)著名地扔下了手套,指出对人类水平的AI的最终考验是成功地欺骗我们,以使我们相信它是人类。

无论您是否期待这些技术,它们的欺骗力量都会很快改变社会。当我写这篇文章时,正在投资数以万计的虚拟世界,这些虚拟世界实现“暂停怀疑”,而额外的投资正在努力用AI驱动的头像来填充这些虚拟世界,这些化身看起来,听起来和行动如此真实,以至于我们赢得了胜利能够说出实际人和虚拟人(或我称之为“ Veeple”)之间的区别。

我知道您在想什么 – 您将能够分辨出区别。

好吧,根据兰开斯特大学和加州大学伯克利分校的研究人员最近发表的一项令人震惊的研究。他们使用称为gan的复杂形式(生成的对抗网络),创建了人造人的面孔(即,逼真的假货),并将这些假货呈现给数百个人类受试者,以及真实面孔的混合。他们发现人工智能已经变得如此有效,我们人类无法再判断真实面孔和虚拟面部之间的区别。那不是他们最可怕的发现。

研究人员还要求他们的测试对象对每个人的“可信度”进行评分,并发现我们人类发现AI产生的面孔更加值得信赖。正如我在最近的一篇学术论文中所描述的那样,这个结果极有可能广泛使用AI产生的人代替人类演员和模型,尤其是在元元中。那是因为与虚拟人士合作将更加便宜,更快,如果他们被认为更值得信赖,他们也会更具说服力。

这不是我担心的Metaverse的技术,而是这些技术将为大公司提供的极端力量。控制荟萃平台的公司将能够以我们从未见过的级别监视用户,跟踪虚拟生活的各个方面:您走的地方,做什么,与谁在一起,与谁在一起,说什么以及看起来什么在。他们甚至会监视您的面部表情和声音变形,以评估您对周围世界的反应时。

而且不要愚弄您在虚拟世界中不会花太多时间。你会。那是因为增强现实将使我们周围的虚拟内容飞溅。苹果,元,微软,Google和其他人推出时尚的以消费者为中心的AR眼镜,眼镜将成为我们数字生活的必需设备。这种过渡将像从翻转手机到智能手机的转变一样快。毕竟,如果没有AR眼镜,您将无法获得很快填补我们世界的大量神奇内容。

一旦Big Tech将我们带入了他们的荟萃平台,他们将使用所有可用的工具来驱动利润。这意味着将消费者定位为AI驱动的虚拟人,他们参与促销对话。我知道这听起来很令人毛骨悚然,但是这些对话代理人将以极高的精度为目标,实时监控我们的情绪,以便他们可以调整其促销策略(即销售推销)以最大程度地提高说服力。是的,这将是用于掠夺性广告的黄金矿山,这是对该技术的合法使用。虚拟人员的欺诈性用途是什么?

这使我陷入了Metaverse中的身份盗窃。在最近的Microsoft博客文章中,执行副总裁查理·贝尔(Charlie Bell)指出,跨国公司的欺诈和网络钓鱼攻击可能“来自熟悉的面孔 – 从字面上看,就像一个冒充您同事的头像。”我强烈同意。实际上,我担心劫持或效仿化身的能力可能会破坏我们的身份感,使我们永远不确定我们遇到的人是真实的还是优质的假货。

而且这种数字模仿不需要AI技术的进步。我之所以这样说,因为冒名顶替的化身可以由隐藏在虚拟立面后面的人类欺诈者控制。这消除了对AI自动化的需求。取而代之的是,AI只需要用于实时声音改变,即可允许犯罪分子模仿朋友,同事或其他值得信赖的人物的声音。这些技术已经存在并且正在迅速改进。

邪恶的双胞胎和数字精灵

准确地复制一个人的外观和声音通常被称为创建“数字双胞胎”。就在上个月,NVIDIA的首席执行官詹森·洪(Jensen Haung)使用卡通式数字双胞胎(Digital Twin)提供了主题演讲。他说,忠诚度将在未来几年中迅速发展,AI发动机自主控制双胞胎的能力也将在多个地方自主控制您的双胞胎。是的,数字双胞胎即将到来。这就是为什么我们需要为我所说的“邪恶双胞胎”做准备:看起来,声音和表现的准确的虚拟复制品,就像您(或您认识和信任的人),并且用于欺诈目的。这种形式的身份盗用将发生在元评估中,因为它是针对深层捕捞,语音仿真,数字扭曲和AI驱动的化身开发的当前技术的直接合并。

这意味着平台提供商需要开发同样强大的身份验证技术,这将使我们能够立即确定我们是否正在与期望的人(或他们的授权数字双胞胎)互动,而不是欺诈性地部署以欺骗我们的邪恶的双胞胎。如果平台不早点解决这个问题,则在欺骗的雪崩中可能会崩溃。

但是,在所有方向的技术中,我们热切采用的技术产生了最大的影响,无论是积极还是负面的。这使我想到了我担心的是元评估中最强大的强制形式:电子生活促进者或精灵。这些AI驱动的化身将是Siri和Alexa等数字助手的自然演变,因为它们从当今的声音变成了明天的人格化的数字生物。

Big Tech将把这些AI代理商推销为虚拟生活教练,这些教练在您浏览Metaverse时在整天都持续存在。而且,由于增强现实将是我们通往虚拟内容的主要门户,因此这些数字精灵将与您无处不在,无论您是购物,工作,沿着街上走路还是只是闲逛。而且,如果平台提供商实现了目标,您将把这些虚拟生物视为生活中可信赖的人物 – 熟悉的朋友,有益的顾问和一个有爱心的治疗师之间的混合在一起,这听起来很令人毛骨悚然,这就是为什么Big Tech可能会使它们变得可爱且无威胁,具有无辜的特征和举止,看起来更像是一个神奇的角色,而不是跟随您的人类大小的助手。这就是为什么我发现“小精灵”一词如此合适的原因,因为它们可能是一个可爱的仙女,精灵或格林林盘在您的肩膀上的可爱的童话,一个小的拟人化角色,可以在您的耳朵上窃窃私语或在您面前飞出来提请您注意虚拟或增强世界中的物品。

如果我们不推动元法规,这些生活的促进者可能会成为有史以来最有效的说服工具,巧妙地指导我们迈向从产品和服务到政治消息传递和宣传的赞助内容,并以可爱的微笑和咯咯笑的笑声来做这一切。我知道这听起来很未来派,但这并不遥远。根据技术的当前状态,到2030年,数字精灵和邪恶的双胞胎在我们的虚拟生活中可能很普遍。

到2030年代初,数字精灵可能是我们增强生活的共同特征。

原创文章,作者:小虾,如若转载,请注明出处:http://www.dsonekey.com/2884.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息