メインコンテンツへスキップ
カテゴリ: 効果
タイプ: エンゲージメント順の推薦が「味方と敵」の内容を報酬で増やし、反復する情報の流れ。見える中間地帯を狭める
起源: この呼び名は説明的で、はっきりした名付け親は確認できない。1970年代の Henri Tajfel らの社会的アイデンティティ研究と、Eli Pariser や Cass Sunstein のフィルターバブル・エコーチェンバー論をつないだもの。実際に測られた部分は2015年以降のエンゲージメントと露出の研究から来ている
別名: networked tribalism（ネットワーク部族化）。政治心理学では政治宗派主義が近い概念。本ページは二つを同じ名として扱わない
先に答えると — アルゴリズム部族化（Algorithmic Tribalism）は、エンゲージメント順のフィードが対立集団を攻撃する投稿を報酬で増やし、同じ陣営の内容をその陣営へ繰り返し返す流れです。その結果、二つの陣営の間にある中間地帯が視界から消えていきます。証拠が最も厚いのは、何が共有されるか、何が推薦されるか、怒りが何を引き出すかです。露出が「固まった敵対的な世界観」に変わる段階は実在しますが一様ではなく、規模の大きいフィールド実験どうしが食い違っています。

​
アルゴリズム部族化とは？

アルゴリズム部族化とは、エンゲージメント順のフィードが「味方と敵」の内容を報酬で増やし、それをそれぞれの陣営へ返すため、陣営の間にある中間地帯が見えにくくなる流れを指します。
政治宗派主義は三つの中核成分からなる。他者化——対立する党派を、自分とは本質的に異なる、あるいは異質なものと見る傾向。嫌悪——対立する党派を嫌い、信頼しない傾向。道徳化——対立する党派を不義の人間と見る傾向。
この文は、Eli Finkel らが2020年に『Science』に発表したものです。述べているのは行き着く先であり、どんなアプリよりも古い型でもあります。集団のアイデンティティが軽蔑へ固まる、という型です。アルゴリズム部族化は、その型を今日届ける配送システムであって、新しい人間性ではありません。 仕組みは二段階です。第一に、エンゲージメント順のフィードは、人が止まり、反応し、共有する内容を学びます。大規模な投稿データでは、対立集団を指す言葉が最も強い予測因子で、怒りの語や道徳の語よりも強く効きます。第二に、フィードは効いた内容を繰り返すので、各陣営は自分側の材料と、相手側への攻撃をより多く受け取ります。エコーチェンバー効果は一方を繰り返して他方を薄くする社会的な囲いを指し、情報の繭は人が選択によって組み立てる環境を指します。アルゴリズム部族化は、そのどちらにも最も目立つ内容を供給する並べ替えの規則です。 これから、どこが測られ、どこが薄いのかを述べます。短く言えば、敵意がエンゲージメントを生むことは十分に記録され、露出の偏りは一部のプラットフォームで記録され、そして露出が持続的な敵意へ変わる段階が最も弱く、最も争われています。 部族への引きそのものは新しいものではありません。内集団バイアスはすでに自分側をひいきし、ナイーブ・リアリズムはすでに自分の見方を客観的なものとみなします。並べ替えの規則が加えるのは速度と反復です。うるさい例を一つ、集団全体の代表に見えるほど頻繁に見せることができます。

​
アルゴリズム部族化の三層理解

  • 入門: フィードが「きれいな敵」を差し出したら、一度止まる。ある話題のどの動画も同じ側の醜態だけを見せるなら、それは母集団ではなく選別です。その動画に収まらない立場を一つ書き出す。
  • 実践: 反応する前に、主張と陣営を分ける。二つの質問をこの順で問う。相手は正確に何を主張しているか。何が示されたら自分の見方を変えるか。二問目に答えられないなら、手にしているのは論点ではなく身分です。
  • 上級者: アルゴリズムを複数ある原因の一つとして扱い、自分が測っているのはどれかを明言する。Meta での大規模な検証では、並べ替えを切っても態度は平均で変わらず、X でのランダム化実験では政策態度に持続的な変化が出ました。違いはプラットフォームの設計、内容の供給、習慣を指しており、万人に共通の一つの効果を指してはいません。

​
起源

呼び名のうち「部族」の側は、インターネットよりずっと古いものです。1970年、Henri Tajfel は英国の学校に通う14歳から15歳の男子64人を対象にした実験を報告しました。ごく些細な基準で集団に分け、見知らぬ相手に少額のお金を配分させるだけの実験です。歴史も利害も接触もないのに、少年たちは自分の集団をひいきしました。この結果と、後に Tajfel が John Turner と築いた社会的アイデンティティ理論が、「集団への忠誠はごくわずかなきっかけで点火する」という主張の土台です。 「アルゴリズム」の側は、フィルターバブルとエコーチェンバーの警告から生まれました。Eli Pariser の『The Filter Bubble』（2011）は、パーソナライズが本人なら選ばなかった内容を隠すと論じました。Cass Sunstein の『#Republic: Divided Democracy in the Age of Social Media』（Princeton University Press、2017）は、断片化したメディア環境が共通の事実を保ちにくくすると論じました。どちらも方向についての議論であり、一つのアルゴリズムの測定ではありません。 この言葉自体は説明的です。「algorithmic tribalism」を調べても、解説記事や「networked tribalism」のような隣接語は見つかりますが、はっきりした名付け親や、本ページが引用できる標準的な定義は見つかりません。ここでは、測ることができる部分を持つ仕組みを指す作業上の呼び名として使います。政治心理学での近い概念は政治宗派主義で、Finkel らが2020年に『Science』第370巻第6516号、533〜536ページに発表しています。その論文は本ページと同じ特集に属し、本ページはその中の定義だけを使います。 測定された研究はもっと後から始まります。2015年、Eytan Bakshy、Solomon Messing、Lada Adamic は Facebook の内部研究を『Science』に発表し、反対側にまたがるニュースを制限していたのは、並べ替えよりも本人の選択のほうだとする結果を示しました。2021年には二つの論文が、焦点を「人が何を避けるか」から「人が何に報酬を払うか」へ移しました。次の節はそこから始まります。

​
要点

四つの発見が仕組みを支えます。何がエンゲージメントを生むか、怒りがどう学習されるか、フィードがどう露出を傾けるか、最後の一歩がなぜ不確かなのかです。
1

エンゲージメントが報酬を払うのは対立集団への一撃

Steve Rathje、Jay Van Bavel、Sander van der Linden は Facebook と Twitter 上のニュースアカウントと米国連邦議会議員による2,730,215件の投稿を分析しました。政治的な対立集団についての投稿は、自分側についての投稿より約2倍多く共有・リツイートされました。対立集団を指す語が一つ増えるごとに、共有されるオッズは約67%上がりました。対立集団を指す言葉の効果は、ネガティブ感情の語の約4.8倍、道徳感情の語の約6.7倍で、8つのデータセットのうち7つで「怒り」の反応が最も多く使われていました。これは相関的な設計で、何が広がるかを示しますが、因果は示しません。
2

怒りはフィードバックで学習される

William Brady、Killian McLoughlin、Tuan Doan、Molly Crockett は、7,331人の Twitter ユーザーと1,270万件のツイート、さらに240人を対象にした行動実験を調べました。怒りを表す投稿への肯定的な社会的フィードバックは、その人の後の怒りの投稿を予測しました。実験では、怒りに報酬があると見た参加者はより多く怒りを表し、別の規範に報酬があると見た参加者はその規範へ寄りました。これは学習のループです。フィードは敵意を発明する必要はなく、敵意に支払いをすればよいのです。
3

フィードは両陣営の露出を傾ける

Hazem Ibrahim らは TikTok で323回の監査実験を行い、民主党と共和党の内容をそれぞれ与えたボットアカウントを、ニューヨーク、テキサス、ジョージアに配置しました。27週間、28万件を超える推薦動画のなかで、共和党の内容で条件づけられたアカウントは、民主党のアカウントより約11.5%多く同じ陣営の内容を受け取りました。民主党の内容で条件づけられたアカウントは、約7.5%多く反対陣営の内容を受け取り、それは大半が反民主党でした。民主党のボットが反民主党の動画を見た割合は14.2%、共和党のボットが反共和党の動画を見た割合は5.8%でした。この監査が測ったのは露出であり、信念ではありません。
4

露出は転換ではない

態度の変化について、最も厳密なランダム化実験は異なる方向を指しました。Meta のプラットフォームでは、ユーザーを時系列フィードに3か月移しても、争点の分極、感情的な分極、政治知識に有意な変化はありませんでした。別のフィールド実験では同じ陣営の露出を約3分の1減らし、8つの態度指標に測定可能な変化はなく、0.12標準偏差以上の効果は排除されました。一方 X では、アルゴリズムのフィードを7週間使うと、政策態度がより保守的な議題へ0.11標準偏差動きました。プラットフォームの設計は答えの一部であり、細部ではありません。

​
応用場面

四つのやり方は、この仕組みを個人が実行できる行動に変えます。どれもすべてのプラットフォームを離れることを求めません。

フィードと口論するのではなく点検する

一週間、政治や社会について見た内容を記録し、「集団への攻撃」か「主張の論証」かを印づける。攻撃が多数なら、フィードは設計どおりに働いている。入力を一つ意図的に変え、たとえば立場の混ざった人を二人フォローし、結果を記録する。

ラベルではなく主張に答える

返信の前に、相手の論点を、相手が認める一文で言い直す。それができないなら、あなたはラベルに答えている。遅い習慣だが、意見の違いを「チーム戦」に変えないための主要な防御です。

複雑さを献立に戻す

一部は共感し一部は拒む立場の人を、意識してフォローする。味方と敵だけでできたフィードは、第三の選択肢を隠します。自分の立場を持ちながら、判断を未完成のまま保つ人です。複雑さは性格ではなく練習です。

炎上に一時停止を入れる

オンライン炎上とは、個人・企業・集団へ向けた敵意あるメッセージが突然大量に噴き出す現象です。加わる前に、中心となる主張が検証されているか、相手に応答の機会があるかを確認する。何十人もの見知らぬ人がすでに同じ一文を書いているなら、あなたの投稿が増やすのは熱であって情報ではありません。

​
事例

2024年、ニューヨーク大学アブダビ校のチームは、ユーザーの選択の余地が小さいプラットフォームを調べようとしました。TikTok の「For You」ページはほぼ完全にアルゴリズムで動くため、ユーザー自身が整えるフィードよりも体系的な型が見えやすくなります。チームはスマートフォンの農場を組み、実験ごとに端末を初期化し、位置情報をニューヨーク、テキサス、ジョージアのいずれかに偽装したボットアカウントを作りました。 各ボットはまず、いずれかの党のチャンネルの動画を最大400本見て条件づけられ、その後6日間「For You」ページを受動的にスクロールしました。2024年4月30日から11月11日までの27週間で、品質基準を満たした実行は323回でした。ボットは条件づけの動画91,934本を見て、推薦を284,093件集め、そのうち176,252件が重複のない動画でした。 結果は対称な反響ではなく、非対称でした。共和党の内容で条件づけられたアカウントは、民主党のアカウントより約11.5%多く同じ陣営の内容を受け取りました。民主党の内容で条件づけられたアカウントは約7.5%多く反対陣営の内容を受け取り、その内容は大半が反民主党でした。民主党のボットが反民主党の動画を見た割合は14.2%、共和党のボットが反共和党の動画を見た割合は5.8%でした。つまり否定的な党派性そのものが非対称でした。著者らは「いいね」、コメント、再生回数、フォロワー数に基づく48の反実仮想モデルを作り、偏りはそれらの指標が予測するより大きいままだと示しました。米国の TikTok ユーザー1,008人の調査では、共和党の回答者は民主党の回答者より、自分に同調する内容と肯定的な政治内容をよく見たと報告しました。 教訓は狭く、重要です。推薦の仕組みは、比べられる二人のユーザーに、同じ選挙について体系的に異なる光景を渡すことができ、その差は攻撃的な内容に集中します。著者らは境界も明記しています。設計からは、偏りがアルゴリズムの規則から来るのか、内容の供給から来るのか、両方なのかを判断できません。ボットが捉えるのはユーザーの最初の一週間だけで、分類されたのは字幕のある動画だけでした。何より、この監査が測ったのは「何が表示されたか」であり、その後に誰が何を信じたかではありません。示しているのは管が曲がっていたことで、暴徒を作ったことではありません。

​
限界と失敗パターン

推薦から世界観の固定までの連鎖は、予測できる三か所で切れます。この三つを明記することが、概念を誠実に保ちます。 第一に、露出は説得ではありません。Facebook と Instagram での二つの大規模なフィールド実験は、ユーザーをアルゴリズムの並べ替えから外し、同じ陣営の露出を約3分の1減らしましたが、その後の一連の態度指標に測定可能な変化はありませんでした。X の実験では変化が出たため、効果はプラットフォーム、フィード、時期に依存します。2024年の Chhandak Bagchi らによる分析は、Meta の実験の時期が Facebook による一時的なニュース並べ替えの変更と重なっていたと指摘し、そのゼロ結果は特殊な窓を描写している可能性があります。「アルゴリズムは脳を書き換える」と言うなら、証拠の外に出ています。 第二に、アルゴリズムは複数ある原因の一つです。自己選択、エリートの言説、党派メディア、製品の設計が同じ方向へ押し、並べ替えが止まってもユーザーは自分に心地よい内容へ戻りがちです。ユーザーの言葉にある「複雑さを理解する力の喪失」はもっともらしい仮説ですが、測られた量ではありません。測られているのはもっと狭いものです。対立集団の投稿は遠くまで届き、怒りはフィードバックで強化され、一部のフィードは露出を傾けます。 第三に、炎上は自動的にアルゴリズムの仕業ではありません。オンラインでの集団的な炎上は少なくとも2010年代初めから記録されており、道徳的規範、地位の競争、一つの誤読された投稿から始まりえます。集団のダイナミクスだけでこれは起こります。集団極性化は、同じ考えの者だけで話した後に陣営がさらに進むことを指します。すべての炎上をアルゴリズムの証拠と見なすのは、この概念が正そうとしている過剰な帰属そのものです。

​
よくある誤解

この仕組みについて三つの思い込みがよくあります。証拠はそれぞれに修正を加えます。
測られた効果は増幅と選別であり、無からの生成ではありません。対立集団を指す内容は、並べ替えが入る前から遠くまで届きます。人が共有するからです。Meta のプラットフォームでは、アルゴリズムを切ること自体は態度を変えませんでした。X では変えました。正確な言い方は、供給と需要がすでに裂け目を作っており、フィードの設計がそれを深くしうる、というものです。
灰色の領域を見ることは、すべての主張を同じくらい真実として扱うことではありません。身分の信号と事実の主張を分け、確認している間は未完成の判断を保つことです。ある立場を強く評価しながら、相手の最も強い論拠を正確に述べることはできます。
炎上は現実の出来事で、現実の被害者がいて、生活を壊すこともあります。同時に、短尺動画の並べ替えより古い集団のダイナミクスでもあります。「アルゴリズムのせいだ」という主張を確かめるには、TikTok の監査のようにアカウントやフィードをまたいで露出を比べるべきで、騒がしい一週間から因果を推し量るべきではありません。

​
関連概念

アルゴリズム部族化の隣には、一方を繰り返す囲い、選択で組み立てる環境、同じ考えの者どうしの会話の後の立場の移動、そして集団を知覚する二つの癖があります。切り分けておくと、それぞれが使えるものになります。

エコーチェンバー効果

一方を繰り返し、他方を薄くする社会的な囲い。部族化はその上に、最も目立つ内容を選ぶ並べ替えの規則を足します。

情報の繭

人が何をフォローするかの選択で組み立てる情報環境。並べ替えの規則は、本人が狭めようと決めていないのに、さらに狭めます。

集団極性化

もともと意見の近い者どうしの話し合いの後で、立場がより極端になること。対立への攻撃はそれを後押ししえますが、動きは集団の過程であり、推薦ではありません。

内集団バイアス

自分側と印づけられた人をひいきすること。部族化はその選好を安定した身分に変え、フィードが供給できる相手を作ります。

外集団均質性バイアス（Out-Group Homogeneity Bias）

相手の陣営を、自分側より均一で同じに見ること。相手の最悪の例だけを見せるフィードは、その平板化を容易にします。

ナイーブ・リアリズム

自分は世界を客観的に見ており、相手は偏っているという確信。ラベルを貼ってすぐ叩く癖は、素朴な実在論をフィードの速度で見たものです。

​
一言で言うと

フィードが「きれいな敵」を差し出したら、陣営より先に主張を確かめ、取り除かれた第三の選択肢を探しに行く。