Deepfake 欺诈行为正在激增，标志着企业安全的令人担忧的趋势。
诈骗者现在可以伪造高管的声音，操纵股价并策划数百万美元的诈骗。专家表示，尽管各公司纷纷加强防御，但许多公司仍未做好应对这一快速发展的威胁的准备。
IBM 杰出工程师兼 IBM 安全服务部首席技术官 Srinivas Tummalapenta 警告称：“不良分子的进入门槛很低。”只需 5 美元和一分钟的语音样本，诈骗者现在就可以冒充 CEO，这可能会对公司财务和声誉造成严重破坏。
Deepfakes 是利用人工智能技术制作的极为逼真的数字伪造品。这些经过处理的视频或录音可以让人觉得某人在说或做一些他们从未说过或做过的事情，这对区分数字媒体中的真实与虚构构成了重大挑战。
这种威胁的规模令人震惊。根据 Onfido 的《2024 年身份欺诈报告》，深度伪造的数量增加了 3,000%。
而且风险很高。从精心设计的垃圾邮件到篡改的高管视频，企业欺诈的形势正在迅速演变。“你可以影响股票市场，”图玛拉彭塔指出。
银行已经处于警戒状态，并在呼叫中心使用实时语音分析。但许多公司仍需做好准备。“资金无法使用，”图玛拉彭塔解释说，公司往往在受到攻击之前无法意识到威胁。
在最近的一次事件中，诈骗者利用人工智能技术冒充法拉利首席执行官贝内代托·维尼亚（Benedetto Vigna），实施精心策划的诈骗。
法拉利的一位高管收到了来自未知号码的可疑短信，该号码自称是维尼亚。短信中附有首席执行官的照片，暗示将进行一项重大收购，并请求帮助。
这位反应敏捷的高管识破了骗局，阻止了骗局的发生。其他人就没有这么幸运了。图玛拉彭塔说，制作令人信服的假货非常简单，而检测则需要复杂的工具。
对抗威胁
IBM 正在与 Reality Defender 合作，该公司的技术可以检测被操纵的语音、视频和图像内容。Tummalapenta 演示了该系统如何分析语音样本，将原始录音识别为完全匹配，将机器生成的样本识别为高度操纵。
实时检测系统对于银行等行业至关重要。Tummalapenta 描述了一种系统，该系统“实时分析语音数据包，使系统能够检测假冒并指示分析师采取适当的措施。”
该高管还强调了通过深度伪造进行市场操纵的可能性。他警告说：“首席执行官的公开演讲可能会被操纵，以影响股市。”
然而，许多公司尚未实施强有力的防御措施。“虽然技术和集成商已经可用，但许多公司尚未拨出资金来解决这个问题，”Tummalapenta 指出。
他强调，人工智能助长了虚假媒体的产生，但创新的应对措施也在迅速发展以跟上步伐。困难在于企业是否认识到风险，并优先考虑和资助这些防范数字操纵的措施。
随着攻击的增多，公司越来越意识到风险，尤其是对高层管理人员的风险。“我们收到了一些公司高管受到影响的咨询，询问如何保护他们的高管，”Tummalapenta 解释道。
教育和意识仍然是有效防御战略的重要组成部分。“我们正在教育人们，”图玛拉彭塔说。“他们看到的攻击越多，他们就越了解威胁。”
下载 X-Force 威胁情报指数
这篇文章有帮助吗？
是的不
