在科技迅猛发展的今天，网络安全的挑战也在不断升级。根据香港网络安全事故协调中心（HKCERT）最新发布的报告，2024年香港的网络安全形势异常严峻，网络钓鱼攻击创下五年来的新高，且黑客们开始将目光转向AI生成内容的滥用，利用生成式AI工具和深偽技术制造更加真实、难辨的钓鱼信息和虚假视频。

2024年，HKCERT共处理了12,536宗网络安全事故，相较2023年的7,752宗暴增了61%。其中，最为普遍的攻击方式——网络钓鱼，占据了超过半数的比例，达到了7,811宗，较去年增加了惊人的108%。随着AI技术的进步，网络钓鱼邮件和信息变得更加难以辨识，黑客通过仿真银行和金融机构的官方邮件，诱骗用户点击恶意链接，造成了巨大的风险。

AI助力黑客，虚假内容泛滥

值得注意的是，黑客不再仅依赖传统的手段，生成式AI和深偽技术的结合，正在使网络攻击更具隐蔽性。HKCERT发言人陈仲文指出，AI技术不仅被用来生成恶意软件和钓鱼信息，还被用来制作高质量的假视频和假照片（深偽技术），甚至在过去一年里，香港通过深偽技术制造的影音资料和图像数量暴增了1000%。这些伪造的影音资料能够轻易误导大众，甚至在社交平台上大肆传播，带来更大范围的诈骗和信息操控风险。

AI生成内容带来的双重威胁

随着生成式AI的广泛应用，黑客也学会了如何操控这些AI工具，进行所谓的“提示攻击”和“模型中毒”。例如，有黑客通过设计特定的输入提示，迫使大型语言模型输出受限信息，甚至制造虚假的合同和交易记录，危害公司和个人的财务安全。陈仲文提到，这类攻击不仅对公司业务造成影响，甚至有可能威胁到整个行业的安全架构。

预防措施：AI防护刻不容缓

面对如此严峻的网络安全形势，HKCERT呼吁各界加强AI技术的防护，尤其是在生成式AI工具的使用上，必须做好严格的安全防范工作。陈仲文还特别强调，除了加强AI生成内容的检测与防护，还应定期进行渗透测试、设置适当的访问权限，并加强对第三方供应商的安全管控，以减少潜在的攻击面。

未来挑战：AI与物联网交织的安全风险

随着物联网设备的普及，智能家居设备、无人机和数字显示屏等装置也成为了黑客攻击的新目标。HKCERT提醒，消费者在购买智能家电时要及时更改出厂设置密码，并定期更新设备的安全补丁，避免遭到黑客的攻击。

香港的网络安全形势愈加复杂，只有通过加强防护措施，做好AI内容的监控和防御，才能有效应对这些日益严峻的网络威胁。

相关标签： 2024 AI 黑客 网络安全 HKCERT 生成式 深偽 钓鱼 仲文 技术