这年,随著全球超过60个国家举行国家选举,我们进入了历史上最大的选举周期之一。然而,这个选举季节正面临著由于AI驱动的虚假信息而加剧的不稳定情势,使政治风波更加加剧。
当前最常见的虚假信息形式包括用于新闻文章和社交媒体帖子的人造文本,以及受到操控的图片和深度伪造视频。例如,就在最近,泰勒·斯威夫特就成为了一张虚假图片的受害者,该图片显示她在支持前总统唐纳德·川普的竞选。如果斯威夫特没有针对这一虚假图片发表公开声明,她的粉丝可能会被引导投向特定的选择——考虑到她庞大的粉丝基础,这可能会对选举结果产生重大影响。
SC媒体观点专栏由值得信赖的SC媒体网络安全领域专家撰写。这里阅读更多观点._
坏人散布虚假信息的原因有三:操控公共舆论、破坏对机构的信任、以及利用社会分裂。他们这样做是出于政治、金融或意识形态的利益。在美国的选举中,坏人旨在通过改变叙事来影响公共舆论、侵蚀信任、模糊现实,甚至引发恐慌,以破坏民主。
虚假信息的战术与技术并不新奇。与那些存在了几十年的网络钓鱼攻击和其他社会工程威胁相似,虚假信息利用人类情感来驱动行动——例如,点击连结、打开附件或分享虚假信息。然而,生成式AI进一步扩大了这些运动的规模和精度,使坏人能够根据行为或倾向针对个体和群体,从而使虚假信息更加广泛且更难被检测。
简而言之,生成式AI让坏人能够进行更复杂的攻击,欺骗我们。想想社交媒体算法如何运作,以便为我们提供希望看到的内容。虚假信息的运作方式与此相似。当虚假内容符合某些意识形态或利用现有担忧时,人们往往易于相信,并进而行动。这是人类的自然反应。
从我们消费的内容到我们如何与之互动,再到其对我们决策的影响,AI在我们数字生活中的影响力与潜意识对我们行为的影响力相当。因此,我们需要提高AI素养,以了解AI工具的能力及如何保护自己免受虚假信息的侵害。以下是一些开始的方式:
Leave a Reply