スマートフォンの画面を眺めているとき、「さっき友達と話していた話題が広告に出てきた」「検索もしていないのに欲しいものがレコメンドされた」という経験はないでしょうか。「スマホに盗聴されている」と感じるこの現象の正体こそが、現代の「アルゴリズム的理性（Algorithmic Reason）」です。
もはやアルゴリズムは、抽象的な計算プロセスではありません。それは私たちのトラフィック（通信量）を支配し、コンテンツの価値を決定し、社会のルールを書き換える「統治の道具」となっています。
今日ご紹介する本はオックスフォード大学出版局から2022年に刊行された『Algorithmic Reason: The New Government of Self and Other（仮邦訳：アルゴリズム的理性：変容する自己と他者の統治）』。クラウディア・アラダウ教授（ロンドン大学キングス・カレッジ）とトビアス・ブランク教授（アムステルダム大学）によるこの共著は、アルゴリズムが現代社会をいかに作り替え、ガバナンス（統治）を変容させているかを鋭く分析した一冊です。
2023年の国際研究協会（ISA）で「国際関係における科学・技術・芸術部門」の最優秀図書賞を受賞した本作の内容に基づき、アルゴリズムが支配する現代社会の裏側を読み解いていきましょう。
社会統治のロジックはどう変わったか？：統計学から機械学習へ
伝統的な社会統治において、その基盤を支えてきたのは「統計学」でした。政府は人口構造や経済動向をマクロなデータとして捉え、政策を立案してきました。
しかし、統計学には弱点があります。それは「平均値」に固執することです。「クラスの平均点が80点」という数字は、クラス全体の傾向は示しますが、「どの生徒が特別な才能を持ち、どの生徒が支援を必要としているか」という個別の顔は見えません。統計学は「森」を見ますが、「一本一本の樹木」は見落としてしまうのです。
これに対し、ビッグデータと機械学習に基づく「アルゴリズム的ガバナンス」は、全く異なるロジックで動きます。
- 個人のデジタル・フットプリント： アルゴリズムは、私たちのクリック数、動画の視聴時間、いいね、検索履歴といった断片的な「信号」をすべて回収します。
- 構造化データへの変換： これらの信号は計算可能なデータへと変換され、統計学が切り捨ててきた「個別の特殊性」を保持したまま、個人の行動を予測します。
- 「自分」以上に自分を知る： 私たちが口にする願望よりも、無意識に残したデジタル上の痕跡の方が、私たちの「真実」を雄弁に物語ります。
かつての統治が「大衆」を相手にしていたのに対し、アルゴリズムによる統治は「人口全体を予測しながら、同時に個人へと回帰する」という、極めて精密なマイクロターゲット（個別化された統治）を可能にしたのです。
アルゴリズムは「間違い」を犯さないのか？：異常検知の罠
計算能力に優れ、24時間眠らないアルゴリズムを、私たちは「完璧なもの」と考えがちです。しかし、本書はアルゴリズム特有の「間違い」の構造を明らかにします。
その象徴的な事例が、アメリカ国家安全保障局（NSA）による「スカイネット・プロジェクト」です。このプロジェクトは、携帯電話の使用履歴や移動データを解析し、テロリストに特有の「生活パターン（ライフパターン）」を抽出して、疑わしい人物を特定しようとするものでした。
ここで、ある一人の記者が「潜在的テロリスト」としてアルゴリズムにマークされました。アル・ジャジーラのイスラマバード支局長、アフマド・ザイダン氏です。
アルゴリズムは彼の「異常検知（Anomaly Detection）」を行いました。
- 普通の人は行かないような危険な場所での宿泊。
- 特殊な暗号化ツールの使用。
- テロリストのネットワークに酷似した交友関係。
アルゴリズムにとって、これらはテロリストの「信号」でした。しかし、アルゴリズムは「文脈（コンテキスト）」を理解できません。ザイダン氏にとって、それらの異常な行動は「ベテラン記者としての日常」だったのです。
機械学習はディテールから偏差（ズレ）を探し出しますが、そのズレが持つ社会的な意味までは読み解けません。同様のことは、SNSにおける「自傷・自殺予防アルゴリズム」でも起きています。アルゴリズムが「異常」と判定し、自動的に介入（通報など）を行う仕組みは、命を救う一方で、個人の極めてプライベートな精神世界に対する過度な監視や誤認というリスクを孕んでいます。
アルゴリズムには、人間が持つ「良心」や「慈悲」「状況に応じた融通」が欠けています。機械的な「異常」の判定が、一人の人生を破壊しかねないという現実に、私たちはどう向き合うべきでしょうか。
アルゴリズムがいかにして新たな価値を創造するか
一方で、アルゴリズムは経済構造に革命をもたらし、膨大な価値を生み出していることも事実です。今や、世界で最も価値のある資源は石油ではなく「データ」だと言われます。しかし、データはアルゴリズムという「精製所」を通らなければ価値を持ちません。
本書では、音楽プラットフォーム「Spotify」の事例が挙げられています。
Spotifyのアルゴリズムは、ユーザーの聴取履歴を精緻に分析し、「毎週の発見（Discovery Weekly）」や「集中するためのプレイリスト」といった新しい消費シーンを次々と創出します。これにより、忘れ去られていた古い楽曲が「新しい体験」として蘇ります。これは、アルゴリズムがユーザー同士のつながりを再編し、新たな価値を「蒸留」している過程と言えます。
アルゴリズムを暴走させないための「介入」
アルゴリズムが社会に浸透し、その影響力が巨大化する中で、私たちはどうすればその暴走を食い止められるのでしょうか。
本書の著者たちは、単なる「倫理規定（善をなせ、透明性を保て、等）」だけでは不十分だと説きます。なぜなら、立場の違いによって「善」の定義は変わるからです。国境警備隊にとっての「善」と、難民にとっての「善」は一致しません。
そこで必要なのが、アルゴリズムをエンジニアの手から取り戻し、「社会的な公共の事案（Public Matter）」として展開することです。
① 公共の場での摩擦と抗議
2018年、数千人のGoogle従業員が「プロジェクト・メイブン（米軍へのAI技術協力）」に抗議しました。「Googleは戦争ビジネスに関わるべきではない」という彼らの声は、アルゴリズムの利用に対する強力なブレーキとなりました。
② ハッカソンによる集団的理解
若者たちが集まり、数十時間でプログラムを書き上げる「ハッカソン（Hackathon）」も、介入の一形態です。ここではコードを書くこと自体が、技術と社会・経済の関係を深掘りし、アルゴリズムという公共財に対する集団的な理解を促すプロセスとなります。
③ アカウンタビリティ（説明責任）の確立
また、「説明可能性（Explainability / XAI）」の要求も不可欠です。専門家ではない一般の人々に対し、アルゴリズムがいかにしてその結論に至ったのかを、非技術的な言葉で説明する義務を課すべきです。そして、その説明が受け入れられない場合、私たちには「アルゴリズムを拒絶する権利」があることを忘れてはなりません。
結び：社会の「褶曲（しゅうきょく）」から未来を見る
『アルゴリズム的理性』が私たちに与えてくれる最も重要な視点は、「アルゴリズムに関する議論を、社会の『褶曲（しゅうきょく）』から展開せよ」というメッセージです。
「褶曲」とは、一見滑らかな社会の表層の下に隠された、複雑で絡み合った人々の生活の機微を指します。
アルゴリズムは私たちの生活を便利にし、パーソナライズされた体験を提供しますが、同時に私たちを特定の「情報の輪」に閉じ込め、操作する可能性も持っています。
アルゴリズムという巨大なシステムは、もはやエンジニアや科学者だけの責任ではありません。それは政府、企業、知識人、そして私たち一般市民が共有する「公共の課題」です。
日々行われる小さな議論、摩擦、そして拒絶。これら一つひとつのアクションが、アルゴリズムをより道徳的で、責任ある、限界をわきまえたものへと変えていく潜在力を持っています。デジタル時代の統治において、本当の主権を取り戻すためには、私たち一人ひとりが「計算」の裏側にある「理性」を問い続ける必要があるのです。
Aradau, C., & Blanke, T. (2022). Algorithmic Reason: The New Government of Self and Other. Oxford University Press.
コメント