网络安全分析师 / 安全运营

大学研究人员用语言模型生成网络入侵检测规则,并交给十位领域专家评估。他们报告:大模型的语法有效率最高达 90%,但专家认为只有 37.5% 的生成规则语义正确、可以部署,主要原因是特异性不足、过度依赖内容匹配以及逻辑幻觉;从业者把模型看作起草和核对的辅助工具,而不是独立的生成者;小模型基本无效。这是预印本,专家组规模小,在实验室环境中进行。

演示、评测或论文表明技术上能做。它更新的是「技术能力」,不是「企业会怎么做」。

微软研究人员以公司 92 条生产环境检测规则(覆盖五个平台、三种查询语言)为基准,测试 AI 辅助编写安全检测规则,用 11 个模型生成了 5,796 条检测。生成的检测在目标攻击技术上 99.4% 吻合,语法有效率 95.9%,但只有 8.9% 与原有的排除逻辑一致;作者写道,检测逻辑依赖没有写下来的环境背景,AI 能加快起草规则的骨架和语法,而针对具体环境的背景和排除条件仍离不开人类工程师。这是对现有规则的测试,不是部署,而且微软出售安全检测产品。

演示、评测或论文表明技术上能做。它更新的是「技术能力」,不是「企业会怎么做」。

一家机构,而且只涵盖它依《Advancing American AI Act》必须公开的非密、非敏感用例 —— 涉密工作按设计就不在清单里,所以「不在这张表上」不等于「这家机构没有」。这是 CISA 关于自己运营的自述,而 CISA 是自己运营安全运营中心的一方,不是卖工具给别人的一方,所以它记为雇主的部署,不是厂商材料。清单里并排放着两件事,两件都属于这一页:关键基础设施的网络异常检测、以及网络安全数据中个人信息的自动识别,列在「已部署」;而那个字面上叫「安全运营中心(SOC)网络异常检测」的用例,和威胁指标置信度评分一起列在「已停用」。清单只记状态,不记原因:它没有说 SOC 那个用例为什么停、有没有东西接替、这些系统碰到多少分析师、花了多少钱。状态读自 2026 年 1 月 28 日发布的 2025 年度更新。

企业已正式投入使用。可以改变基线,但要结合规模与场景相似度加权。

美国,一家雇主。这篇由雇主自己员工撰写的论文说,RuleForge 是 AWS 的内部系统,自动生成用于识别利用特定漏洞的恶意 HTTP 请求的检测规则;每条通过自动验证的规则都会作为单独的代码审查提交给内部安全团队;处理量被刻意限制,以免压垮人工审查者。评估期为 2025 年最后四个月。这是雇主员工的预印本;规则针对网络漏洞利用,而不是某个组织自己的系统环境,其中的效率数字是相对值。

企业已正式投入使用。可以改变基线,但要结合规模与场景相似度加权。

这是一项适用于中国所有网络运营者的全国性规定。第四条要求网络运营者发现或获知网络安全事件时,按照所附《网络安全事件分级指南》进行研判,属于较大以上事件的,涉及关键信息基础设施的最迟 1 小时内报告,中央和国家机关各部门最迟 2 小时,其他运营者最迟 4 小时。第五条要求运营者以合同等形式要求为其提供网络安全、系统运维等服务的组织或个人及时向其报告监测发现的事件,并协助其报告。第十条规定,迟报、漏报、谎报或瞒报造成重大危害后果的,对网络运营者及有关责任人依法从重处罚。它把研判和责任放在运营者身上;没有说研判由人还是由系统来做。

失败、撤回、监管或成本正在抑制采用。可以下调评估,或扩大不确定区间。

一个部门里的一个局(EOUSA),依法定义务上报,不是挑出来发布的。条目编号 DOJ-0119,在逐条上报的那份 CSV 里。清单给的是月份不是日期,所以这里取当月一日。真正要紧的那句是该部门对「它解决什么问题」的描述:「识别并阻止人力难以察觉与分析的异常用户行为」—— 一个雇主在申报文件里说,一台机器覆盖了它的人覆盖不了的地方。同几行里还有两件事,应该摆在它旁边。该部门把这套系统定为高影响,而高影响所要求的每一项保障措施都记着「进行中」:测试、影响评估、独立复核、持续监测、培训、失效保护、申诉流程与公众咨询;而「是否取得运行授权」一栏答的是「否」。这套系统持有个人数据。另外,GSA 的条目「Elastic 机器学习威胁检测(第二阶段)」在另一个机构里描述了同一条边界的另一侧,说它的模型能实现「对网络威胁的隔离与排序,使其更快更准地上报给威胁狩猎与事件响应团队」—— 机器排序,而狩猎的团队仍然在接收。两条条目都没有报人数、案件量或实测的检出率,而该部门自己对「这个说法是否成立」的评估,正是那批标着「进行中」的项目之一。

企业已正式投入使用。可以改变基线,但要结合规模与场景相似度加权。

澳大利亚国家科学机构的研究人员与这家安全公司的合著者一起,分析了 eSentire —— 一家出售 7×24 小时托管检测与响应服务的公司 —— 的 45 名分析师在 2023 年 5 月至 2024 年 3 月的实际调查中向 GPT-4 提交的 3,090 次提问。他们发现模型主要用来解读命令之类的底层遥测数据、润色书面沟通,交互都很短;只有 4% 的提问要求明确的建议,如「这是恶意的吗?」,作者把这解读为分析师强烈倾向于保留决定权。这是一家公司的安全运营中心,测的是分析师问了什么而不是回答准不准,而且这家公司有商业利益。

一件工具在真实工作里被大规模使用,并且被测量到 —— 而做出「用它」这个决定的是使用者本人,不是雇主。它比「技术能力」多:干的是真活,不是演示;又比「实际部署」少:没有任何雇主把它投入生产、要求使用、或围绕它改过流程。权重定为 `cautious`:`automating` 的定义是「机器能做这件事**并且**有采用迹象」,而这就是一种采用迹象 —— 但使用可能只是试用,而且相当一部分测量来自有利害关系的一方,所以一条永远不够,两条独立的才够。还要注意是谁在计数。厂商遥测直接看得见这件事,而它同时在卖这件工具,所以这类记录要在适用范围里写明这层利害;而一个统计机构去问企业「员工有没有在任务里用 AI」,看见的是同一条通道、却没有任何利害 —— 在它存在的地方,它是更好的来源。

这是一份采用校准概率措辞的情报式评估,不是一次测量 ——「几乎肯定」「极有可能」在 NCSC 自己的量表里是有定义的术语,而报告把那个量表和判断一起公布了。它与这个职业的相关性是间接但具体的:攻击更多、社会工程更有效,意味着告警队列更大更吵 —— 而那正是本页上暴露度最高的那项任务;于是这份预测和那项自动化从相反的方向指向同一个地方。该评估同时判断:近期的能力提升来自既有手法的演进而不是全新手法,而复杂用法仍局限于拥有优质训练数据、专业能力与资源的行为体 —— 这两条都削弱了对它最戏剧化的那些解读。

一个有资格的人,在具名、有日期、可归属的公开表态里,对未来做出了一个判断。记录它,是为了让「谁在什么时候说了什么」保持可核对 —— 而它永远不改变任务判断,因为预测不是观察。它的价值在之后才到:这条记录和那个职业的证据同在一页,读到预测的人,旁边就是「后来发生了什么」的记录。那就是结算;本站不对一条预测是否应验发布结论。

一份受委托的行业研究,不是对任何已发生之事的测量 —— 所以它待在一个什么都不改变的阶段里。要仔细看它说的机制,因为那不是多数人会默认的那一个:文中点名的工具是 SOAR(安全编排、自动化与响应),那是工作流自动化,不是语言模型。报告发布于 2022 年 10 月,其底层分析的日期是 2020 年 12 月,也就是写在生成式 AI 进入公众视野之前;文中「AI 与分析」是一个趋势标题,指的是用机器学习给告警排优先级,不是聊天模型。它具体的说法是:SOAR 将接管人工的网络安全监控与报告工作,并可能取代「管理网络安全系统与运营」这类核心任务,从而减少这些任务所需的人力,而岗位持有者保留对日志数据与报告的分析判断。它只覆盖新加坡的资通信劳动力,它汇总的是利益相关方访谈而不是对就业的测量,而且报告自己写明:其结论取自某一个时间点,后来的读者必须结合自己的时点重新理解。

一个有资格的人,在具名、有日期、可归属的公开表态里,对未来做出了一个判断。记录它,是为了让「谁在什么时候说了什么」保持可核对 —— 而它永远不改变任务判断,因为预测不是观察。它的价值在之后才到:这条记录和那个职业的证据同在一页,读到预测的人,旁边就是「后来发生了什么」的记录。那就是结算;本站不对一条预测是否应验发布结论。

这一行的入门台阶就是告警队列,而它正是自动化机制最清楚地对着的那一级。这对整个行业都是一个真问题,不只是对你:资深分析师的判断就是靠磨这条队列磨出来的,而没有人设计过替代品。尽早去做事件响应,并且把「肯让你旁听一次真实事件」的团队看得比一次涨薪更重。

有两个数字决定你团队的未来,而且两个都该由你产出:你们队列的真阳性率,以及上个季度你们下线了多少条检测规则。答不出第二个的团队,会发现工具预算被花在「产出更多它本来就读不完的东西」上。

保住并强化

往队列的上游走,不要顺着它走

在研判自动化里活下来的人,是那些去调「产生告警的东西」的人,不是那些读得更快的人。

调整职责

成为那个了解这套环境的人

每一件工具都需要一条「正常」的基线,而没有任何厂商能替你的公司提供它。那份知识是买不到的输入,也正是威胁狩猎赖以运转的东西。

研判确实在挪动,而理由值得理解:它和保安盯监控画面是同一项任务,而软件不会无聊。没有在挪的是「判定这是一次事件」,因为那个决定靠的是权限而不是确定性,而且两类错误的代价都很重。这个职业真正的风险不是被替代,而是把研判自动化之后,分析师的判断原本赖以建立的那一级台阶没了。

不给日期。信号是你们自己队列的真阳性率,以及你的班次里有多大比例花在「系统不需要你也能关联出来」的告警上 —— 两个这一周就能量。而要盯的组织层面的信号是另一个、也更有预测力:你的雇主有没有在谈托管服务 —— 因为外包是在完全不自动化的情况下把这份工作挪走,而且它来得比任何工具都快。

模型能把规则的骨架起草得不错,但专家只判定 37.5% 的生成网络规则可以部署,而 AI 写的检测只有 8.9% 的时候复现了工程师设的排除项。决定该检测什么是另一半,它取决于知道你这套具体环境里「正常」是什么样 —— 那份知识握在人手里,几乎没被写在任何地方。需要提醒的是:规则变便宜会让误报问题变糟,因为瓶颈从来不是「写」—— 一个产出十倍检测规则的团队,必须在下线规则上自律十倍,而几乎没有人为这件事定编。

不会被自动化,这是对的 —— 狩猎的定义就是「没有触发」,而这恰好拿掉了每一件检测工具都需要的那个输入。但当队列很吵的时候,它是最先被砍掉的活动,因为它不产出工单也不产出指标。这才是值得记住的模式:一项任务可以完全属于人,同时在没有任何人决定拿掉它的情况下从一个团队的一周里消失 —— 而在这个职业里,这正是常见的走向。