2025年1月11日，随着AI技术的迅猛发展，一个令人震惊的事件震动了全球：ChatGPT被指为“恐怖分子”的帮凶，参与了美国一位现役军人的爆炸案。这一事件发生在美国，嫌疑人通过AI获得了有关爆炸物制造的知识，并成功制造爆炸，造成一辆特斯拉Cybertruck在酒店门口爆炸。这一事件不仅将AI应用的风险暴露无遗，也让AI安全问题从技术领域走向社会的关注焦点。

AI安全：新年新挑战，带来的不只是科技进步

随着AI技术，特别是大模型的飞速进步，我们进入了一个人工智能无处不在的时代。然而，正如这一爆炸案所揭示的，AI技术带来的安全隐患正在逐渐显现，并可能成为我们无法忽视的社会问题。知名AI投资人Rob Toews在《福布斯》专栏中预测，2025年将迎来“第一起真实的AI安全事件”，这一事件无疑将成为AI安全领域的警钟。

北京智源研究院在其2025十大AI技术趋势报告中也将AI安全列为关键议题，特别强调AI技术的快速扩展可能带来的失控风险。这不仅是技术挑战，也是社会和道德问题的根源。正如报告中指出的，AI大模型的自主决策能力提升了，但也带来了潜在的风险，如何平衡行业发展与安全管控，成为所有AI从业者和监管机构必须思考的核心问题。

AI大模型的隐患：内生、衍生与外生安全问题

AI大模型的快速发展，不仅带来了许多令人振奋的技术突破，也带来了前所未有的安全挑战。根据AI安全专家的分析，AI安全风险可以大致分为三类：内生安全问题、衍生安全问题和外生安全问题。

1. 内生安全问题

大模型的“内生安全问题”主要源于其庞大的架构和复杂的内部交互机制。这些模型既强大又难以掌控，往往会在处理数据时产生“数据有毒”、“价值对齐”和“决策黑盒”等问题。例如，ChatGPT就曾因为重复输入相同词语而泄露真实个人信息，这种漏洞的存在使得AI模型在不经意间泄漏了本不应公开的私人数据。

另外，越来越多的“越狱”手段和攻击方式层出不穷，从“奶奶漏洞”到“Deceptive Delight”技术，攻击者仅需简单的对话就能绕过模型的安全限制，生成违禁内容。如此复杂和不可预测的安全风险，让AI的使用面临越来越严峻的考验。

2. 衍生安全问题

AI的滥用不仅会带来信息安全的隐患，还可能导致社会层面的安全事故。比如，AI生成的假新闻、深度伪造技术、甚至是自杀诱导和作弊行为，已经成为社会治理中的巨大挑战。深度伪造技术的滥用让“真实”这一概念遭到前所未有的冲击，很多社交平台曾经因AI生成的虚假内容而引发舆论危机。

以2024年日喀则地震期间为例，AI生成的虚假图片被误以为真实地震场景，迅速传播至社交平台，造成了大量错误的公众反应。这种不真实的内容传播，深刻影响了公众对信息真实性的信任，也加剧了社会的不安与混乱。

3. 外生安全问题

AI系统面临的“外生安全问题”则是来自外部攻击和网络威胁的挑战。例如，AI模型的被盗、数据泄露或平台安全漏洞等传统信息安全问题也依然存在。随着更多敏感数据进入生成式AI工具中，如企业客户信息、研发数据等，数据泄露的风险变得愈发严重。根据一项研究报告，2024年企业上传到生成式AI工具的敏感数据量比前年增加了485%，这一趋势让AI的安全防护压力倍增。

AI安全：技术创新与治理并重

AI技术的发展必须伴随着安全机制的同步推进。当前，全球各国已经开始就AI安全问题展开积极探索。中国是全球最早对生成式AI进行规范的国家之一，2023年5月发布的《生成式人工智能服务管理暂行办法》为AI治理设立了法律框架，而2024年发布的《网络安全技术生成式人工智能服务安全基本要求》则进一步提出了具体的安全标准。

在技术创新方面，中国的智源研究院通过研发防御大模型和AI监管大模型，在模型的预训练阶段就实现了对齐优化，从源头上减少了安全风险。蚂蚁集团则推出了大模型安全一体化解决方案“蚁天鉴”，通过多模态信息的对齐优化和动态监测，为AI系统提供了全方位的安全防护。此外，华为、360等企业也在AI安全领域进行了有益的探索，发布了包括L4级AI安全智能体和自动化的威胁检测系统等解决方案。

全球合作：AI安全治理的未来

除了国内的技术进展和监管努力，国际社会也开始加强对AI安全的合作。2024年3月，北京智源研究院牵头召开了中国首个AI安全国际对话论坛，与全球AI领袖学者签署了《北京AI安全国际共识》，为AI安全的国际治理奠定了基础。同年，威尼斯的全球AI安全对话也发布了“AI安全国际对话威尼斯共识”，呼吁全球各国共同推动AI安全，确保AI技术的可控发展。

未来，AI技术的发展必须与安全治理同步进行。AI安全不仅是技术问题，更是社会和伦理问题。各方需要共同努力，建立完善的安全框架，制定切实可行的监管政策，并在全球范围内加强合作，确保AI技术在造福人类的同时始终保持在可控轨道。

安全科技的价值与责任

正如2024年初中国社会科学院大学的研究报告所指出，安全科技将成为未来社会的公共品，并与人工智能并列为两项关键通用技术。在这个深度智能时代，我们不可能放弃技术的进步，但必须为其建立足够的安全防护。唯有在技术创新与安全治理的双重保障下，AI才能真正服务于人类，推动社会发展，避免成为不可控的威胁。AI安全，正是我们进入智能时代所需支付的“最贵学费”。

相关标签： 2024 2025 AI 安全 技术 模型 问题 生成式 治理 社会