随着生成式人工智能技术的飞速发展，人工智能（AI）在许多领域的应用变得越来越普遍，从医疗诊断到自动化客服，再到创意生成等。然而，随着这些技术在日常生活中日益渗透，AI安全性的问题也愈加突出。微软的AI安全团队近期发布了一项关于AI安全的报告，揭示了许多关于AI系统薄弱环节的关键发现，挑战了人们关于AI安全的传统假设。报告强调，最有效的攻击方式并非复杂的数学技术，而是通过“快速工程”迅速识别和利用系...
在科技迅猛发展的今天，网络安全的挑战也在不断升级。根据香港网络安全事故协调中心（HKCERT）最新发布的报告，2024年香港的网络安全形势异常严峻，网络钓鱼攻击创下五年来的新高，且黑客们开始将目光转向AI生成内容的滥用，利用生成式AI工具和深偽技术制造更加真实、难辨的钓鱼信息和虚假视频。2024年，HKCERT共处理了12,536宗网络安全事故，相较2023年的7,752宗暴增了61%。其中，最为...
今日凌晨，人工智能领先企业OpenAI正式发布了其最新研究成果，宣布在o1-preview和o1-mini模型中通过增加推理时间和算力资源，有效提升模型的对抗攻击鲁棒性。这一突破性的研究为人工智能在自动驾驶、医疗诊断、金融决策等高风险应用场景中的安全性提供了新的保障，并标志着AI抗攻击技术进入新的发展阶段。提升推理时间，抗攻击能力显著增强在最新研究中，OpenAI团队发现，通过延长模型推理阶段的计...
近日，备受关注的人工智能初创企业 DeepSeek 突然爆出遭受恶意网络攻击的消息，引发业内普遍关注。该公司因其在 AI 领域的技术创新和开源举措而为人瞩目，却在高速发展的同时面临严峻的网络安全挑战。DeepSeek 发言人强调，公司已紧急应对，并已恢复主要服务，但此次事件暴露出的网络安全漏洞无疑给业界敲响了警钟。一、事件回顾：攻击突发引发短暂服务中断1. 攻击时间与现象据内部消息，DeepSee...
2025年2月2日，随着人工智能技术的飞速发展，网络安全领域的威胁也变得更加复杂和隐秘。最近，Gmail用户正面临一场前所未有的网络钓鱼攻击危机，约2.5亿账户正处于黑客攻击的威胁之下。这场被认为是迄今为止最为复杂的网络钓鱼攻击，不仅让普通用户感到震惊，连一些资深的网络安全专家也差点成为受害者。AI赋能黑客，钓鱼攻击更具迷惑性此次攻击的核心手段是黑客利用人工智能技术，伪装成Google客服向Gma...
近日，启明星辰——中国移动网信安全子公司——发布重要安全提醒，揭露多个伪装成DeepSeek平台的钓鱼页面，意图窃取用户登录凭证。此外，在Python软件包索引（PyPI）中，发现恶意软件包“deepseek”和“deepseekai”，这些包在开发者设备上执行后，迅速盗取系统内的敏感信息。针对这些漏洞，启明星辰提醒企业与开发者提升警惕，防范安全隐患。伪装网站“钓鱼攻击”频发根据启明星辰的报告，多...
随着人工智能技术的迅猛发展，AI不仅在提升工作效率和便利生活方面发挥着重要作用，竟然也成为了黑客们的全新工具！近日，Google披露了一项震惊业界的调查报告，指出一些黑客组织正在利用其AI模型“Gemini”进行网络攻击。虽然这些攻击目前仍处于试验阶段，但其潜力和威胁不容小觑，给全球网络安全带来了前所未有的挑战。什么是“Gemini”，它如何帮助黑客？“Gemini”是Google最新发布的AI模...
近年来，围绕人工智能（AI）的炒作层出不穷，媒体大肆报道其如何成为网络犯罪分子的秘密武器。然而，最新的Picus Labs《2025红色报告》却揭示了一个不同的现实：虽然AI在网络安全领域的应用正逐步增多，但迄今为止，AI驱动的攻击并未显著增加，黑客们依然主要依赖传统的攻击手段和技术。报告分析了超过100万个恶意软件样本，显示出攻击者在不断创新，但目前大部分攻击依然依赖于已知的战术、技术和程序（T...
近日，谷歌旗下的电子邮件服务Gmail向全球18亿用户发布了“红色警报”，警告用户警惕通过人工智能（AI）手段进行的诈骗。Gmail表示，黑客可能通过AI技术伪造电话和电子邮件，绕过安全机制并诱导用户提供账号凭证，进而盗取个人信息、银行账户甚至Gmail账户。根据网络安全公司Malwarebytes的分析，黑客通常通过伪装成谷歌安全部门的来电，告知用户其Gmail账户存在可疑登录活动，迫使受害者检...
