合成媒体:AI生成的字符传播虚假信息

在过去的几年中,许多策略和策略已被用来产生和传播在线错误信息。但是,最近的一种方法可以利用人工智能创造光的力量

在过去的几年中,许多策略和策略已被用来产生和传播在线错误信息。但是,最近的一种方法可以利用人工智能的力量创建以虚构角色准确性的照片,据称是记者或田野专家,对我们的社会构成了严重而新颖的威胁。

AI生成的字符属于称为合成介质的广泛伞,该媒体依赖于一种称为“生成对抗网络”(GAN)的技术,在该技术中,两个网络竞争创建经过交叉检查以确定它们是否现实的照片。现在可以使用许多网站和应用程序来生成这些照片,而无需任何技术背景,它们令人信服。

合成媒体和虚假信息

关于虚假信息活动,AI生成的字符以三种主要方式使用。

第一个申请是创建声称自己是专家或记者的捏造人员,以说服公众有关特定传达的信息。例如,在2020年7月,一份调查报告揭示了一个虚构的作者网络,该网络在保守的媒体上发表了专栏文章,例如华盛顿审查员和美国思想家。该网络还在诸如Al Arabiya和耶路撒冷邮报等中东媒体上出版,主题从对各个海湾国家的赞美到批评伊朗。

2022年2月,Facebook删除了一个自称是基辅新闻编辑的虚构角色网络。该网络发表了文章,称西方出卖了乌克兰,乌克兰是一个失败的国家。

第二个应用程序是创建假帐户,以使更多的普通角色传播捏造的内容。 2021年8月,研究中心发现了一个由350个假社交媒体帐户组成的网络。该网络的目标(也使用AI生成的照片)是使西方和认可中国国家的宣传合法化。另一个例子是一个名为“犹太复国主义春天”的Facebook页面,该页面使用假账户传播虚假信息,而有利于当时的首席部长本杰明·内塔尼亚胡(Benjamin Netanyahu)。第三个申请是针对特定个人的目标。例如,在2020年7月,一份新闻报道详细介绍了一位完全制作的英国学生的故事,他发表了一篇文章,指责两名激进主义者是“已知的恐怖分子同情者”。

虚假战争中的新战线

合成媒体技术的进步非常迅速。最近的一项研究发现,AI生成的面孔与真实的面孔无法区分,甚至被认为更值得信赖。

我们如何反击?有几种可能性。已经提出了各种法律,但有些学者持怀疑态度,表明对技术的使用不仅是违反言论自由的违宪行为,而且可能会造成比其解决的更多问题。

科技公司可能会提供更好的解决方案。例如,Facebook一直在研究如何通过反向工程来检测AI生成的照片。该公司还发起了DeepFake检测挑战。此外,现在还有一些应用程序(例如Chrome扩展名)来检测假档案照片。但是即使在这里,也可能会有意想不到的后果。一项研究表明,在选民中提高公众对深层技术的认识使他们不信任所有政治视频,甚至是合法的视频。合成媒体似乎在未来几年和几十年中对社会稳定构成了重大威胁。

原创文章,作者:点数网,如若转载,请注明出处:http://www.dsonekey.com/4211.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息