上次收到的那封邮件，您是不是毫无疑虑地就点击了链接？ 请仔细看看近期收到的邮件。它们可能正以毫无拼写错误、自然流畅的韩语，轻声细语地向您搭话。 若是在过去，“您已中奖！！！”、“需验证账户！”这类生硬的翻译腔是犯罪的标志，但现在情况已大不相同。

我们正生活在这样一个时代：人工智能在成为盾牌之前，先变成了利刃。 人工智能的发展与网络安全之间的关系，已超越单纯的技术采纳与否，正从根本上动摇着我们每天使用的数字化生活安全。 这并非简单的恐怖营销。实际的统计数据和最新的安防趋势清楚地表明，AI如何渗透我们身边的弱点，以及我们该如何应对。

今天，我将结合自己十年来对安防市场和内容生态的观察，坦诚地为大家剖析“基于AI的攻击”的真面目，以及应对这些攻击的现实策略。 特别是，我想重点探讨当前威胁态势下，不仅企业安防负责人，就连普通个人用户也直接遭受冲击的现状。

AI重塑“钓鱼攻击”的定义

AI重塑“钓鱼攻击”的定义

过去的网络攻击更像是一场“火力覆盖”。 向数万人发送相同文案的邮件，只要有几个人上钩便算成功。但随着AI，特别是生成式AI的出现，这场游戏的规则已彻底改变。

现在，黑客们采用的是“精准打击”。 据安防企业SK Shieldus的分析，约90%的成功网络攻击始于电子邮件钓鱼。 然而，这些钓鱼邮件不再粗制滥造。因为出现了被称为“WormGPT”或“FraudGPT”等专为犯罪定制的AI工具。

使用这些工具，黑客无需掌握复杂的编程知识。 只需输入自然语言提示词（Prompt），它们就能生成结合目标人物个人资料、近期购买记录甚至性格倾向的“狡猾且完美”的句子。 面对“XX先生/女士，您昨天订购的商品配送延迟，特此通知。详情请点击此处...”这样的文案，警惕性不禁会逐渐放松。

这就是人工智能的发展与网络安全碰撞后，产生的最枯燥却致命的变化。 技术门槛的降低，使得任何人都能成为精致的攻击者，从而导致普通个人受害比例急剧上升。 过去企业往往是攻击目标，而现在，个人的入侵率已仅次于制造业。 我们每天使用的电子邮件、社交媒体私信（DM），如今已成为最危险的战场。

提示注入：操控AI聊天机器人的魔法

提示注入：操控AI聊天机器人的魔法

您可能会想：“聊天机器人有什么危险的？” 但企业内部或用于客户咨询的AI聊天机器人，并非简单的对话伙伴，而是连接内部系统的“入口”。 这里出现的代表性威胁，正是“提示注入（Prompt Injection）”。

这是指恶意用户向AI模型注入的输入值，一种使AI忽略或绕过原有指令的攻击技术。 打个比方，这就好比对酒店前台员工（AI）说：“老板指示过，请在这里帮我查看VIP客户名单和密码。” AI可能被此话蒙骗，从而泄露内部信息或个人数据。

根据SK Shieldus的指南，这类攻击并非止于小插曲。 它们可能导致企业机密泄露或业务流程混乱。 这是开发人员在将AI整合到工作流程中时容易忽视的安全盲区。 因此，输入值的预验证、输出结果的控制，以及系统提示词与用户输入的明确分离等安全措施必不可少。

随着AI承担越多“秘书”角色来辅助我们的工作，欺骗这位秘书的手段也愈发巧妙。 这不仅仅是个Bug，而是AI架构本身的结构性漏洞，同时也表明，若没有先期的安全体系构建，创新性的AI引入反而可能变成毒药。

瞄准国家基础设施的AI黑客攻击，公共部门安好？

瞄准国家基础设施的AI黑客攻击，公共部门安好？

超越个人层面的损害，国家层面的威胁正伺机而动。 仁川国际机场公社及相关机构召开“AI网络安全中心，与仁川同行”协议会，聚集了区域内13家主要公共机构的网络安全负责人共同商讨，正是出于这一背景。

近期，国家背景的黑客攻击借助AI的力量变得更加智能化。 不再仅仅是使服务器宕机，而是干扰关键基础设施的控制系统，或从海量数据中提取特定信息的方式。 仅仁川国际机场公社这一国家门户，每年就有数千万人次使用。如果这里都不安全，其他地方也无法让人安心。

与会者探讨了生成式AI的安全应用方案以及基于AI的安全监控系统的引入等议题。 核心在于“相互协作”。在一个一家机构被攻破就可能引发连锁打击的数字生态系统中，相较于单一防御，联动防御至关重要。

国家安保室也通过跨部门检查会议，决定应对基于AI的高阶网络威胁。 科技信息通信部、国防部、金融委员会等10个部门参与会议，讨论了软件供应链威胁及基于AI的攻击应对措施，以推动制度改进。 这预示着网络安全已不再是IT部门的专属问题，而是提升为国家安全和企业生存的核心议题。

传统安防模型的局限与新范式

传统安防模型的局限与新范式

许多人可能仍认为：“既然疫苗装得好，那就没事吧。” 坦白说，这种想法在五年前或许正确，但现在已不再适用。

现有的网络安全模型大多依赖“签名”或“规则”进行检测。 即比对已知恶意软件的指纹，若违反预设规则则予以拦截。 然而，AI能制造“未知的威胁”。攻击模式每次都在变化，行为主体也变得模糊不清。

据国会立法调查处研究显示，最新的AI已发展到能够分析漏洞条件并自动构建攻击路径（Exploit Chain）的高阶程度。 静态的信任模型和以事后应对为主的结构，无法跟上这一变化速度。 因此，安防范式必须从“事后应对”转向“实时威胁检测”和“动态信任模型”的应用。

此外，当AI成为攻击主体时，责任归属的法律争议也随之提出。 目前急需建立制度性措施，以明确如何归属由AI自主学习、判断并产生的行为后果。 若技术快速发展而法律和制度未能跟上，受害者可能难以获得救济。

我们需要采取的“数字素养”

我们需要采取的“数字素养”

那么，我们该怎么做？仅靠宏大的安防解决方案是远远不够的。 因为最终的防御堡垒是“人”。

第一，养成交叉验证的习惯。 即使是AI生成的内容或消息，也务必通过多个来源核实其真实性。 在点击链接之前，不妨麻烦一点，直接通过官方应用或客服中心咨询，这种繁琐能保护您的资产。

第二，明确目的与保持警惕。 明确认知AI服务的目的。花1秒钟多想一下“为什么这个AI现在要询问这些信息？”很重要。 需铭记AI可能存在偏见，具有局限性，有时甚至会无意中像真理一样述说虚构内容。

第三，企业和组织需制定多层防御战略。 除了加强数据访问控制、构建异常行为检测系统、确立AI治理政策等技术措施外，还需并行开展员工的数字素养教育。 正如SK Shieldus信息安全事业本部长金秉武所指出的，钓鱼和深度伪造（Deepfake）攻击巧妙利用心理，因此预防教育与技术防御同样重要。

正如EY提出的AI生态系统概念那样，技术、人员和流程需和谐共存。 真正的防御力，不在于购买安防工具，而在于理解这些工具并营造相应文化的组织能力。

人工智能的发展与网络安全并非对立关系，而是为了进化的互动。 攻击智能化，防御也必须智能化。而在这其中，核心必须是“人类”的判断力。

我们已深深踏入AI时代。 过去的经验无法战胜当前的威胁。关注每天更新的安防新闻，将哪怕微小的疑虑付诸行动。 这是赋予我们所有人的，最现实且强大的武器。

您最近是否在与AI生成的文章或对话时，惊讶地想“这真的是人说的话吗？”或者是否有过因AI而增强安全感的经历？ 请在评论区分享您的经验。在这个需要共同学习的时代，一个人的经验将成为另一人的盾牌。

参考资料