セキュリティアナリスト(監視運用)

大学の研究者が言語モデルでネットワーク侵入検知の規則を生成し、それを十人の分野の専門家に諮った研究である。大きなモデルは最大90%の構文上の有効性を達成したが、専門家が意味的に正しく配備できると見なしたのは生成された規則の37.5%にとどまったと報告しており、その主な理由は、特定性の不足、内容の照合への過度の依存、そして幻覚による論理であった。実務家はモデルを、独立して規則を生み出すものではなく、下書きと検証を支える道具と見ており、小さなモデルはおおむね役に立たなかった。これはプレプリントであり、専門家のパネルは小さく、実験室での設定である。

実演、ベンチマーク、あるいは論文が、その業務をやれることを示している。技術に何ができるかを更新するのであって、雇用主が何をするかを更新するのではない。

Microsoft の研究者が、AIの支援によるセキュリティ検知の作成を、五つのプラットフォームと三つのクエリ言語にまたがる同社の本番の検知92件に照らして試したものであり、十一のモデルで5,796件の検知を生成した。生成された検知は、狙った攻撃手法に99.4%の割合で合致し、95.9%が構文として有効だったが、もとの除外の論理と合致したのは8.9%にとどまった。著者らは、検知の論理は書かれていない環境の文脈に依っていること、そしてAIは骨組みと構文の下書きを速めうる一方で、環境に固有の文脈と除外条件については人のエンジニアが欠かせないままであることを書いている。これは既存の検知に照らした試験であって配備ではなく、そして Microsoft はセキュリティ検知の製品を売っている。

実演、ベンチマーク、あるいは論文が、その業務をやれることを示している。技術に何ができるかを更新するのであって、雇用主が何をするかを更新するのではない。

一つの機関、しかも Advancing American AI Act により公開が義務づけられている非機密・非センシティブのユースケースだけを対象とする。機密の業務は構造上この一覧には入らないので、「この表にない」は「その機関にない」ではない。これは CISA が自分自身の運用について述べたものであり、CISA はセキュリティ運用センターを自ら運用する側であって、他者に道具を売る側ではない。だからこれは雇用者による導入として記録してあり、ベンダー資料としてではない。一覧には二つのことが並んでおり、どちらもこのページに属する:重要インフラに対するネットワーク異常検知と、サイバーセキュリティデータ内の個人情報の自動検出は「Deployment(運用中)」に置かれ、一方で「Security Operation Center (SOC) Network Anomaly Detection」という名前のユースケースは、脅威指標の信頼度スコアリングと並んで「Inactive(停止中)」に置かれている。一覧が記録しているのは状態であって理由ではない:なぜそれが止まったのか、何かが引き継いだのか、何人のアナリストに及ぶのか、いくらかかったのか ―― いずれも書かれていない。状態は 2026年1月28日公開の 2025年 年次更新から読んだ。

雇用主がそれを本番に置いた。基準線を動かしうる——規模と、その場がどれだけ似ているかで重みづけされる。

米国、一雇用主。雇用主自身の従業員による論文は次のように述べている。RuleForgeは、特定の脆弱性を悪用する悪意あるHTTPリクエストを識別する検知ルールを自動生成するAWSの社内システムである。自動検証を通過した生成ルールは、それぞれ個別のコードレビューとして社内セキュリティチームに提出される。人間のレビュー担当者に過大な負担をかけないよう、処理量を意図的に制限した。評価対象は2025年の最後の4か月である。雇用主の従業員によるプレプリントであり、ルールが対象とするのはウェブ上の攻撃で組織自身の資産ではなく、生産性の数値は相対値である。

雇用主がそれを本番に置いた。基準線を動かしうる——規模と、その場がどれだけ似ているかで重みづけされる。

中国のすべてのネットワーク運営者に向けた全国の規則である。第4条は、事案を発見し、あるいは知った運営者に、添付の等級づけの指針に照らしてそれを判定させ、「比較的大きい」以上の等級と判定された事案については、重要情報インフラなら一時間以内、中央の政府機関なら二時間以内、その他は四時間以内に報告するよう求めている。第5条は運営者に、セキュリティや運用保守のサービスを提供する者に対して、検知した事案を運営者へ報告させ、運営者の報告を手伝わせることを求めている。第10条は、報告の遅れ、漏れ、虚偽、隠蔽が重大な害をもたらした場合に、運営者と責任者により重い処罰を定めている。判定と責任を運営者に負わせているが、等級の判定を人が行うのか仕組みが行うのかは述べていない。

失敗、撤回、規制、あるいは費用が導入を抑えている。判断を下げる、あるいはその不確かさを広げることがある。

一つの省のなかの一つの局（EOUSA）であり、公表用に選ばれたのではなく法定義務のもとで報告されたものである。個別報告CSVの項目 DOJ-0119。目録が示すのは月であって日ではないので、ここでは当月一日を採った。要となるのは、この省が「解決する問題」をこう記していることである：「人による検知と分析には微細すぎる異常なユーザー行動の特定と防止」── 雇用主が申告文書のなかで、機械が自分たちの人員には及ばない範囲を覆うと述べている。同じ行にある二つのことを、その隣に置くべきである。省はこのシステムを高影響に分類しており、高影響が要求する保障措置はすべて「進行中」と記録されている：試験、影響評価、独立審査、継続的監視、訓練、フェイルセーフ、異議申立て手続、そして公開協議。運用認可の有無は「いいえ」である。このシステムは個人データを保持している。別に、GSA の項目「Elastic 機械学習による脅威検知（第2フェーズ）」が、別の機関で同じ境界の反対側を描いている：そのモデルは「サイバー脅威の切り分けと順位付けを可能にし、脅威ハンティングおよびインシデント対応チームへのより速く正確なエスカレーションを促す」── 機械が順位を付け、ハンティングのチームはいまも受け取る側にいる。どちらの項目も人数、案件量、実測の検知率を報告しておらず、その主張が成り立つかどうかについての省自身の評価は、「進行中」と印された項目の一つである。

雇用主がそれを本番に置いた。基準線を動かしうる——規模と、その場がどれだけ似ているかで重みづけされる。

オーストラリアの国立科学機関の研究者が、そのセキュリティ会社の共著者とともに、eSentire——24時間年中無休のマネージド検知・対応を売る会社——の45人のアナリストが、2023年5月から2024年3月までの実際の調査のなかでGPT-4に送った3,090件の質問を分析したものである。モデルは主に、コマンドのような低レベルのテレメトリを読み解くことと、書いた連絡文を磨くことに、短いやりとりで使われていた。「これは悪意のあるものか」のような明示的な推奨を求めた質問は4%にとどまり、著者らはそれを、判断の権限を手元に保つことへの強い選好と読んでいる。一社のSOCであり、測っているのは回答がどれほど正確だったかではなくアナリストが何を尋ねたかであり、そしてこの会社には商業上の利害がある。

ある道具が実際の仕事のために大規模に使われていることが測定されており、しかも使うと決めたのが雇用主ではなく働き手である場合。capability の記録より重い——仕事が実演ではなく本物だからである——そして deployment の記録より軽い。どの雇用主もそれを本番に置いておらず、求めてもおらず、その周りに工程も作っていないからである。重みは `cautious` である——`automating` とは、機械がその業務をできることと、採用の兆しがあることの両方を意味し、これは採用の兆しである——しかし利用は試験的でありうるし、測定の多くは利害のある側から来るので、一件では決して足りず、独立した二件で足りる。誰が数えているかに注意すること。ベンダーの計測データはこれを直に見るが、その道具を売っているので、そうした記録は適用範囲にその利害を明記する。統計機関が企業に「働き手は業務でAIを使っているか」を尋ねる場合、同じ経路を何の利害もなく見ており、それが存在するならそちらが良い出典である。

較正された確率の語彙を使う情報機関ふうの評価であって、測定ではない——「ほぼ確実」「可能性が高い」は、この機関自身の尺度の上で定義された語であり、報告書は判断とともにその尺度も公表している。この職業との関わりは間接的だが具体的である——攻撃が増え、人を欺く手口がより効くようになることは、警報の待ち行列がより大きくより騒がしくなることを意味する。それはこのページで最も晒された業務であり、つまりこの予測と自動化は、反対の方向から同じ場所を指している。この評価はまた、当面の押し上げが新奇な手口ではなく既存の手口の進化から来ること、そして高度な使い方は、質のよい学習データと専門性と資源を持つ主体に限られ続けることも判断している——そのどちらも、この評価の最も劇的な読み方に逆らう。

立場のある名指しの人物が、ある日付に、帰属のつく言明として何かを公けに予測した。誰がいつ何を言ったのかが確かめられるまま残るように記録するのであり、そして業務の判断を決して動かさない。予測は観測ではないからである。その価値は後から来る——この記録は、その職業についての証拠と同じページの上に載るので、予測を読む人は、そのあと何が起きたかの記録を隣で読むことになる。それが決算である。この site は、ある予測が当たったかどうかについて何の判定も公表しない。

委託された分野の調査であり、起きたことの測定ではない。だからこれは、何も動かさない区分に置かれている。仕組みを丁寧に読むこと。それは大半の読者が思い込むものではないからである——名指しされている道具は SOAR、すなわちセキュリティの統制・自動化・対応であり、それは言語モデルではなく業務の流れの自動化である。報告書は2022年10月付で、もとになる分析は2020年12月付なので、生成AIが一般に届く前に書かれている。そこに出てくる「AIと分析」は、対話モデルではなく、警報の優先順位づけへの機械学習を覆う流行の見出しである。具体的に主張しているのは、SOAR が手作業でのサイバー監視と報告を引き取り、セキュリティの仕組みと運用の管理といった中心の業務を置き換えうること、それによってそれらの業務に必要な人員が減ること、一方で職に就いている人は記録データと報告の分析を保ち続けること、である。対象はシンガポールの情報通信の働き手のみであり、雇用を測るのではなく関係者への聞き取りを束ねたものであり、そして報告書自身が、その知見はある時点で取られたものであり、のちに読む者がそれぞれの文脈に置き直さなければならないと述べている。

立場のある名指しの人物が、ある日付に、帰属のつく言明として何かを公けに予測した。誰がいつ何を言ったのかが確かめられるまま残るように記録するのであり、そして業務の判断を決して動かさない。予測は観測ではないからである。その価値は後から来る——この記録は、その職業についての証拠と同じページの上に載るので、予測を読む人は、そのあと何が起きたかの記録を隣で読むことになる。それが決算である。この site は、ある予測が当たったかどうかについて何の判定も公表しない。

この分野の入口の段は警報の待ち行列であり、そしてそれは最もはっきりした自動化の仕組みが向けられている段である。それはあなただけでなく、この職業にとって本物の問題である——上級のアナリストが持っている判断は、その行列をすり潰すことで築かれたものであり、その代わりを誰も設計していない。事案の対応に早く近づくこと。そして、本物の事案に同席させてくれるチームは、昇給より値打ちがあると考えること。

あなたのチームの先行きを決める数字は二つあり、そのどちらも自分で出せる——自分の待ち行列の本物の割合と、前四半期に退役させた検知の数である。二つ目に答えられないチームは、すでに読みきれていないものをさらに生み出すことに、道具の予算を使われることになる。

留まって強くする

行列に沿ってではなく、行列の上流へ動く

仕分けの自動化を生き延びるのは、警報をより速く読む人ではなく、その警報を生んでいる設定を調整する人である。

職の形を組み替える

この環境を知っている人になる

どの道具も正常についての基準を必要としており、あなたの会社のためのそれを提供元は供給できない。その知識は何ものも買えない入力であり、そして探索が動いている燃料でもある。

仕分けは本当に動いている。そしてその理由は理解する価値がある——それは警備員がカメラの映像を見張るのと同じ業務であり、ソフトは退屈しない。動いていないのは事案を宣言することである。その判断は確実さではなく権限によって下され、二種類の誤りの代償がどちらも重いからである。この職業にとっての本当の危険は置き換えではない。仕分けを自動化することが、アナリストの判断が築かれていた段を取り除くことである。

日付は出さない。信号は、自分の待ち行列の本物の割合と、一回の勤務のうちどれだけが、自分なしでも仕組みが相関づけられる警報に使われているかである。そのどちらも今週測れる。組織の側の信号は別で、しかもより予測力がある——自分の雇い主が運用受託のサービスの話をしているかどうかである。外部委託は、何も自動化しないままこの仕事を移すし、どの道具よりずっと速く届く。

モデルは規則の骨組みをうまく下書きするが、専門家が展開できると判断したのは生成されたネットワーク規則の37.5%にとどまり、AIが書いた検知がエンジニアの除外条件を再現したのは8.9%にとどまった。何を検知すべきかを決めることはもう半分であり、それは自分の環境で正常がどう見えるかを知っていることに依る——人が握っていて、ほとんどどこにも書かれていない知識である。注意すべきは、規則を書くのが安くなることが誤報の問題を悪くすることである。制約はもともと書くことではなかったからである——検知を十倍出すチームは、それを退役させることについて十倍規律正しくなければならず、そしてそのために人を置く者はほとんどいない。

自動化からは守られている——探索は引き金がないことによって定義される営みであり、それは、どの検知の道具も必要としている入力を取り除く。とはいえ、待ち行列が騒がしいとき真っ先に削られる活動でもある。対応票も指標も生まないからである。それが身につけておく価値のある型である——ある業務は、まるごと人のものでありながら、誰もそれを取り除くと決めないままチームの一週間から消えうる。そしてこの職業では、それが通例の消え方である。