深度假冒技术与人工智慧的挑战

重要要点

• 人工智慧（AI）与深度假冒技术的快速发展引起了关注。
• 深度假冒技术创造出逼真的影像、视频和音频，主要影响名人与高管。
• 对于一般民众而言，当前的威胁尚不明显，但随著技术的普及与发展，未来风险可能增加。
• 企业需关注更加常见的身份诈骗，例如文件伪造与合成身份诈骗。
• 采用先进的身份验证技术，包括生物识别等，能有效抵御诈骗行为。

人工智慧（AI）— 特别是 —
和深度假冒技术正吸引大量媒体关注，大家对于这项技术的潜力感到兴奋，也对其应用形式快速发展感到担忧。从创作艺术肖像到帮用户撰写电子邮件，生成式AI正无所不在。

将这种技术提升到了新高度，能创造出逼真的影像、视频和声音。举例来说，教皇身穿白色羽绒外套，以及威尔·史密斯吃意大利面的冒牌影像都是AI能创造的真实感强烈的人物图像。

这些概念性样本展现了AI的多样性与娱乐性，但对于98%的普通人来说，我们会成为目标吗？没有人会对我们的影像或声音感兴趣吗？随著这些技术的日益成熟，深度假冒对企业和普通消费者的诈骗威胁有多真实？

虽然目前这方面的风险尚未完全显现，但当技术变得具成本效益和可扩展性时，网路犯罪分子可能会发现获利的方法。这并不意味著我们应该掉以轻心。AI和深度假冒技术的迅速演变足以让企业重新评估现有的身份保护措施，以确保未来不会处于劣势。

虽然 AI 和深度假冒成为热门讨论话题，但相较于此，还有许多其他更迫切的问题需要关注。例如，企业应该担心的是文件伪造和合成身份诈骗这种更传统的诈骗形式。

深度假冒技术的现实

媒体报导和社交媒体上所展现的深度假冒案例大多集中于名人、政治人物和大企业的首席执行官——这些人因拥有大量可供寻找的照片、视频和音响录音而成为焦点。尽管媒体将深度假冒技术描绘成一种威胁，然而根据当前的音频/视频深度假冒和AI技术，普通人现在并不会成为这种诈骗的目标。

技术进步速度飞快。生成式机器学习、影像生成的进步以及合成语音生成技术正在以前所未有的速度进展，使得深度假冒的开发对于黑客来说变得更加容易，传统的网络防护则更难以保护。今天这些技术的力量与威胁虽然明显，但尚未足够成熟以至于坏人能够在大规模上部署。

大多数消费者虽然对深度假冒有所了解，但还未感到有必要担心。最近的一项研究显示，虽然有三分之二的消费者曾听说过深度假冒，但只有12%的人表示担心这项技术可能会冒充他们。

但历史告诉我们，如果存在诱惑且进入门槛不