コンテンツモデレーター

デジタルサービス法が半年ごとの報告を求めているために、会社が自ら公表している数字である —— これがそもそもこの件を測定可能にしているものであり、欧州連合のプラットフォームにだけこうした数字が存在し、他ではほとんど存在しない理由でもある。対象期間は2026年1月1日から6月30日、投稿の日付は2026年8月31日。記されているのは:自社ポリシー違反としておよそ1億400万件を削除し、その集計は動画・ライブ配信・広告・商品リスト・コメントにまたがること。そして自動システムが違反コンテンツの94.1%を人のレビューなしに処置したこと。限界は三つあり、一つ目がこの数字の使い方を決める。分母は執行された措置であって、労働時間でも人員でもない:プラットフォームはほぼすべてを自動で処置しながら、なお多くの人を雇っていられる —— 人がなお見る件はシステムが決められなかった件であり、それらは一件あたり遅いからだ。投稿はこの比率の横にモデレーターの人数を公表していないので、ここには雇用についての主張を支えるものは何もない、どちらの方向にも。そしてこれは一つのプラットフォーム、一つの法域である。報告はさらに、この期間に別の八つの加盟国でショップを開始したことにも触れており、つまりその1億400万件の中身の構成も、この半年のあいだ一定ではない。

雇用主がそれを本番に置いた。基準線を動かしうる——規模と、その場がどれだけ似ているかで重みづけされる。

「コンテンツモデレーション」と言うとき人が思い浮かべる入口の仕事 —— 明らかな違反のキューを片づけること —— は、最大級のプラットフォームで自動化率が九割を超えると公表されている、まさにその部分である。その扉から入るということは、いちばん狭い扉から入るということだ。狭まっていないのは、文脈についての判断を要する部分、他人が適用できる形にルールを書ける人を要する部分、そして自動システムを正すために存在する部分である。三つともモデレーションの仕事から届く範囲にあり、どれもそれをやらずには届かない。

あなたの強みは、書かれたルールと現実の事例がどこで食い違うかを知っていることであり、それは分類器にもポリシー文書にも入っていない。具体的な動きは二つ:モデルの学習に使われる「正しく直された事例」を出せる人になること、そして悪い結果がルールから来たのかモデルから来たのかを言える人になること。どちらも、キューの処理量とは違って、社内から見える。

職の形を組み替える

ルールを書く側へ移る

執行が自動化された後、判断が宿るのはポリシーの側である。そしてその席は不釣り合いにキューを回した経験者で埋まる —— 執行できる線を書くには、それを破る事例を知っている必要があるからだ。自動化率が上がっても縮まないのも、この仕事である。

職の形を組み替える

分類器を正す人になる

キューの圧倒的多数を処置するシステムは、正された事例の安定した供給と、「ルールの問題」と「モデルの問題」を見分けられる人を必要とする。その役職は自動化があるからこそ存在し、それに最も適しているのは、正しい答えが何だったかを言える人たちである。

留まって強くする

留まり、ある言語か地域を引き受ける

自動検出は言語によってむらがあり、そのむらは一時的ではなく構造的である:学習データは利用者が最も多いところに存在する。システムがうまく扱えない言語で信頼できる判断であるモデレーターは、自動では片づけられない部分のキューを押さえている。

欧州連合で事業を行う最大級のプラットフォームでは、この数字は公表されている。法律が求めているからだ。そのうちの一社は、2026年6月30日までの半年間に削除したおよそ1億400万件のうち、94.1%を自動システムが人のレビューなしに処置したと報告している。その数字が何を数えているかを読むこと:それは執行された措置であって、労働時間でも職でもない。分かるのは、キューを通る既定の経路がもはや人を経由しないということ。分からないのは、何人がまだ雇われているかである —— 同じ報告書はその横にモデレーターの人数を公表していないし、人がなお見る件は、システムが決められなかった件だからだ。

私たちはそれを「あと何年」では答えない。そしてこの職業では、その理由がとりわけ具体的である:見るべきものは、あなた自身の雇用主が半年ごとに公表している。あなたのプラットフォームの法定透明性報告書を、連続する二つ並べてみること。そこには三つの信号があり、どれも予測を必要としない —— 自動の割合がまだ上がっているのか横ばいになったのか、報告書がモデレーションを言語別に分けていてあなたの言語がそこにあるか、そして自動の割合が上がるのと同時に異議申立ての件数も上がっているか。最後の組み合わせは、システムがより多く片づけ、同時により多く誤っていることを意味する。あなた自身が読み取れる傾向が、しかも雇用主が公表を義務づけられた文書の中にあるなら、それは誰かの示す日付より価値がある。

その割合が指しているのは措置であり、措置の難しさは均一ではないからだ。分類器が決着させるのは自信のある件であり、それは不釣り合いに明白な件である。残るのは争いがあり、文脈に依存し、一件あたり遅いものだ。さらに二つの構造的な要素が、人を脇ではなく環の中に留める:自動的な判断に対する異議申立て —— 欧州の法律は最大級のプラットフォームにこれを必須としている —— と、システム自身が動き続けるために必要とする訂正済みの事例である。そのどれも人数を保証しないし、このページもそう主張しない。説明しているのは、なぜ高い自動化率と継続的な採用が矛盾しないのか、である。

ルールを書くことであって、適用することではない。あるポリシーは、モデルの手で一貫した判断を生む前に、まず二人の人間の手で同じ判断を生まなければならない。そして価値判断を、風刺・取り戻された言葉・報道価値・戦争映像に耐える線に変えるには、それを破る事例を見てきた人が要る。執行を自動化することは、それを誤る代償を下げるのではなく上げる —— 一貫しないルールは、いまや機械の規模で一貫しない結果を生むからだ。正直な但し書きは、自動化しにくいことと、多くの人が就いていることは同じではない、という点である:ポリシーの席はキューの席よりはるかに少ない。