“明明是首席财务官的声音”，神不知鬼不觉地遭遇的“AI钓鱼”

香港的一家企业。财务部门打来了一个电话。是该公司的首席财务官（CFO）。他说把3500万美元汇到特定账户。接到电话的职员按照CFO的要求执行了这一操作。但该电话是利用人工智能（AI）技术复制CFO的声音并恶意利用的网络攻击。

全球安全企业Acronis通过《上半年结算网络威胁报告》公开了上述AI被恶意利用的网络攻击案例。他还警告说：“包括聊天GPT在内的生成型AI技术已经被用于生成网络攻击和恶意内容。”

代替恶意代码编写、个性化钓鱼邮件。

Acronis根据从全世界100多万个终端收集的数据发布的这份报告警告说：“通常常用的生成型AI使用方法是帮助犯罪分子。”

代表性的是，AI代为撰写恶意电子邮件，大大减少了攻击者的辛苦。可以使用几个关键词创建伪装成银行安全确认或邮件传递失败通知等的钓鱼电子邮件。甚至AI还会将文本翻译成多种语言，根据当地情况进行修改。也可以使用公司网站或社交媒体账号上的信息发送更加个性化的钓鱼电子邮件。

同时，生成型AI也被用于恶意代码的制作。据Acronis介绍，生成型AI模型可以用python、go、rust等语言编写编程代码。也就是说，攻击者无需花很长时间进行前期工作和学习，就可以轻松地编写恶意代码。

生成型AI在理解程序代码方面也表现出了出色的性能。因此，网络犯罪分子可以将源代码粘贴到程序代码中，并询问潜在的漏洞。如果发现漏洞，可以利用重新生成的AI模型为新攻击编写Exploit代码。

用使用我的脸的裸照威胁？犯人是AI。

阿克罗尼斯补充说：“应该利用这种操作技术冒充熟人，摆脱紧急情况。”并补充说：“也可以提高要钱诈骗的可信度。”他还警告说，生成型AI可能会用于性剥削犯罪，即制作包含用户脸部的裸照，如果不支付费用，就会威胁朋友分享照片。

不过，Acronis补充说：“目前很难稳定地检测AI生成的图像、语音和视频。目前对该领域的研究正在积极进行。”

Acronis强调了采取前瞻性网络保护措施的必要性。他强调，要保持网络安全态势，需要结合反恶意软件、端点检测和响应（EDR）、数据泄露防护（DLP）、电子邮件安全、漏洞评估、补丁管理、远程监控和管理（RMM）和备份功能的多层解决方案。

Acronis网络保护研究公司副总裁坎迪·德维斯特说：“今年的威胁量比去年剧增，这表明犯罪分子正在扩大和提高损坏系统和实施攻击的方法。”“为了应对动态的威胁环境，组织需要一个灵活、全面的集成安全解决方案，能够有效地应对所有威胁。”