デジタル帝国と電車男──専制と民主主義のはざまで｜李舜志

夢の終わりとデジタル帝国主義

　デジタル帝国の原動力はAIとデータだ。SNSはあらゆる行動データを蓄積して広告やデータ販売に活用している。AIはSNSへの投稿やスマホに記録された行動履歴、GPSの位置情報、ウェアラブル端末に記録された身体に関するデータなどを収集・分析してモデル改善に利用している。

　ただし、個人情報保護の観点から、プラットフォーマーたちは特定の個人を標的にはできない（ということになっている）。たとえば広告事業者サーバーは、ぼくのブラウザから「30代の男性、人文書を購入している、横浜DeNAベイスターズのニュースをチェックしている、公園が好き……」といった情報を得る。そしてその情報をもとに、ぼくを李舜志という個人ではなく群れ（クラスター）の構成要素として扱う。デジタル帝国において、ぼくたちは気づかぬうちに群れの一員へと変換されているのだ。

　AIジャーナリストのカレン・ハオは著書『AIの帝国』で、この状況を「現代の植民地主義」と呼んだ［★3］。彼女によれば、大手AI企業──とりわけ OpenAI ──は、かつての帝国が植民地から資源や労働を搾取したのと同じように、インターネット上に散在するデータを無断で収奪し、安価な労働を利用してモデルを鍛え、さらに自動化によって既存の仕事を脅かしている。デジタル帝国は、かつての帝国が鉱山やプランテーションを開いたように、いまや私たちの身体と心の深部にまで版図を広げつつあるのだ。

　また、収奪される資源はデータだけではない。現代のAIを維持するにはメガキャンパスと呼ばれる巨大なデータセンター群が必要である。そこでは原発を再稼働させるほどの電力が消費され、銅やリチウムといった鉱物資源が投入され、冷却用の水が大量に流し込まれている。

　たとえばチリやウルグアイといった南米諸国では、土地も水もエネルギーも、IT産業の新しい植民地として収奪されている。かつて「未開地を文明化する」という言葉が植民地主義の免罪符だったように、シリコンバレーは「人類全体の利益のために」という美名でこの構造を正当化する。だが恩恵を受けるのは、結局のところ一握りのトップ層にすぎない。

　つまり、デジタル帝国は過去の帝国主義と同じ拡大原理に回帰しているのだ。インターネットやデジタル・テクノロジーの夢は、デジタル帝国主義者たちに掌握されてしまった。そしてAIとデータを駆使する新しい帝国は、人々の注意アテンションをも制御することができる。

アテンション・エコノミーのふたつの武器

　データを収集するためには、ユーザーを自分たちのプラットフォームに釘付けにしなければならない。そのため、現代では希少な注意力を奪い合う、いわゆるアテンション・エコノミーというビジネスモデルが台頭している。

　アテンション・エコノミーが世に知れ渡ったきっかけのひとつに、ケンブリッジ・アナリティカ事件がある。イギリスの選挙コンサル会社である同社は、8000万人以上のデータから、「陰謀論に取り込まれやすい人」「怒りに突き動かされやすい人」といった属性を持つユーザーを絞り込み、その弱点を突くようなコンテンツを作り上げていった。また「○○郡愛国者」や「私は愛国者」といったフェイクグループを用意し、対象となったユーザーにそうしたグループが自動的にレコメンドされる仕組みを整えた。

　この事件で興味深いのは外国の勢力が政治に介入したことではない。より重要なのは、人々の注意を惹きつけるために使われたふたつの武器だ。

　ひとつめの武器は「われわれ対あいつら」という単純な対立構造の演出である。哲学者 C・ティ・グエンによれば、現代の情報環境で深刻なのは異なる意見を遮断する「フィルターバブル」ではなく、反対意見を結束の材料として利用する「エコーチェンバー現象」である［★4］。

　エコーチェンバーの内部では、異なる立場の声が完全に遮断されるわけではない。ただし、それらは「馬鹿げたもの」という侮蔑的なラベルが貼られたうえで流入してくる。そのためSNSでは多様な意見の接触がかえってクラスター間の対立を強化してしまうのだ。そこでは普遍性を謳うリベラルでさえ、反対意見をサンドバッグにして結束する「リベラル村」に閉じこもっている。

　もうひとつの武器は「われわれは巨大な運動に参加している」という陰謀論的物語である。たとえばQアノンは、謎解きや敵との戦いといった要素を備えたロールプレイングゲームとして受容されている［★5］。

　もちろん「ゲーマーは陰謀論者になりやすい」という話ではない。そうではなく、陰謀論とは自ら参与し快を得るゲームに似た構造を持つために、上から押し付けられるのではなく草の根で盛り上がっていくのである。

　したがって、「ソーシャルメディアによる水平のコミュニケーションを支持し、マスメディアやエリートを批判し、下から組織されるマルチチュード」というネグリとハートのビジョンは、現代ではQアノンやMAGA勢力に取り込まれている。陰謀論は、人間の動物的な欲望と政治的な結束とを媒介する最も効率的な装置なのだ。

　つまりアテンション・エコノミーの極点にあるのは、単なる広告ビジネスではなく、対立を煽り、陰謀をゲーム化し、群衆を快楽へと絡め取る、新しいタイプの政治的エンターテインメントなのである。私たちが画面をスクロールするその一瞬が、すでにデジタル帝国主義の力学に組み込まれているのだ。

自由の逆説とテクノ専制　

　データを集めるためには、ただ便利なサービスを提供するだけでは足りない。ユーザーを画面に釘付けにするにはもっと強烈な仕掛けが必要になる。そのひとつが「われわれ対あいつら」という対立を煽る構図であり、もうひとつが陰謀論をゲーム感覚で楽しませる仕組みだ。結局のところ、分断や陰謀論はプラットフォームの副作用ではなく、むしろそのビジネスモデルの中核にある。

　この収奪の構造は「テクノ封建制」と呼ばれたり、プラットフォームの管理者は「デジタルの皇帝」と呼ばれたりする。それでもデジタル帝国主義者たちは、自分たちを「自由の信奉者」だと語る。リバタリアンだと名乗り国家権力の介入を嫌悪する。しかしこの「自由」という言葉にはトリックがある。

　彼らの思想的な源流をたどると、テック右翼の教祖であるカーティス・ヤーヴィンの新官房主義に行きつく［★6］。国家を企業のように効率的に経営しようという発想だ。ヤーヴィンは最も新官房主義に近い国家としてシンガポールを挙げている。ヤーヴィンの見るところ、シンガポールの多くの市民は政治的自由に関心を持たず、快適な日常生活で満足している。それは民主主義の手続きをスキップしても幸福を感じられる社会だ。デジタル帝国主義者にとって、政治的自由は自由にカウントされないのだ。

　もちろん現実はそう単純ではない。MAGA運動が露わにしたように、群れたちはときに政治的欲望に駆り立てられ、壊滅的な事態を招く。それによって「やはり大衆に政治を任せてはだめだ。公平無私なAIが統治すべきだ」というテクノクラシー的発想が台頭する。自由を求めたはずのデジタル帝国が、気づけば専制の形に回収されていく──ここに大きな逆説がある。

　その萌芽はすでに『電車男』に胚胎していたとも言える。たとえば2004年に行われた ised（情報社会の倫理と設計についての学際的研究）の会議では、『電車男』が、「泣ける」という快楽をフックにして人々を動員するポピュリズム的な装置として言及されている［★7］。また、ネット上のリバタリアニズムが、敵を作ることで友同士の凝集性を高める「闘争的コミュニタリアニズム」と共犯関係にあることも指摘されている［★8］。

　つまり、『電車男』はかなり危ういバランスで成り立っていた「祭り」だったのだ。創発的な情報発信とサイバーカスケードは表裏一体である。14歳のぼくはあまりにナイーブだった。匿名の人々がネットを介して力を合わせれば、何か新しいことが起きると信じていた。しかしそれは、専制への入口でもあったのだ。

　今振り返ると、恋心に懊悩する電車男は、情報技術により可視化された欲望に戸惑う日本社会のアレゴリーだったのかもしれない。そして、もし、より先鋭化した現代のデジタル帝国に電車男が現れたとしたら、ハッピーエンドを迎えることはなかっただろう。テクノ専制のもとでは、電車男をサポートしていたネットユーザーたちは陰謀論にのめりこんでいたかもしれない。電車男は、独身男性クラスターに入りびたり、ミソジニーをこじらせていたかもしれない。

　もっとも、テクノロジーが必ずしも専制へと収斂するとはかぎらない。AIやSNSを使って、逆に政治的自由や多様性を拡張しようとする試みもある。オードリー・タンやグレン・ワイルらが推進する Plurality プロジェクトがその典型だ。そこではAIやSNSが、分断を拡大するのではなく、異なる立場を橋渡しすることで民主主義をエンパワメントするテクノロジーとして構想されている。

Plurality：プロソーシャルなメディアへ

　Plurality（多元性）という概念は、現代の情報社会が抱える矛盾への応答として登場した。差異や対立はガソリンのようなものであり、爆発炎上の危険もあるが、うまく活用すれば社会を前進させるエネルギーにもなる。Plurality はまさにそのポテンシャルに光を当てる。差異や対立を抑え込むのではなく、それらをエネルギーへと転化するテクノロジーやその状態を Plurality と呼ぶ。

　その具体例としてオードリー・タンがしばしば挙げるのがX（旧Twitter）のコミュニティノートである。それは評価人数ではなく、支持するクラスターの多様さがノートの優劣を決める仕組みになっている。情報の価値は、単なる人気投票で測られるのではなく、異なるクラスター間の橋渡しをどれだけ実現できるかで判断されるのだ。

　現状のSNSでは、一部の熱狂的なクラスターからの支持しかないのに、バズっていることで広範な合意があるように見えてしまうことがある。逆に、多様な立場から支持されていることが可視化されず、その結果、分断や孤立を深めてしまうこともある。ソーシャルメディアはアンチソーシャルなメディアになってしまっているのだ。

　コミュニティノート的な設計思想は、この欠陥に対するカウンターである。それは合意と対立の地図を描き直し、ソーシャルメディアを利己的なアテンションの競技場から、他者とのつながりを支えるプロソーシャルなメディアへと変貌させる思想的転換にほかならない。

　コミュニティノートの設計要素を活用したものとして、政策審議用プラットフォーム vTaiwan でも使用された Pol.is が挙げられる。Pol.is は意見を可視化するツールで、投稿に対する「賛成・反対・不確定」の投票をもとにAIがオピニオン・マップを生成する［図1・2］。

　重要なのは、新しい論点を追加することで、対立するクラスター間の共通項に気づくことができる点だ。Pol.is の本質は賛否の対立を強化することではなく、異なる立場を架橋する意見、「橋渡しする意見」を探る点にある。強烈な信者向けのスローガンではなく、複数のクラスターを説得しうる主張こそが価値を持つのだ。そのとき対立するクラスターは、ただのサンドバッグではなく、背景や動機を考慮すべき他者として現れてくる。

　こうした設計思想は文化的領域にも応用可能だ。たとえば、いまやすっかり信頼を失った音楽チャートについて考えてみよう。現在のランキングは特典商法や水増し再生によって歪められている。だがもし、単一の熱狂的なクラスターではなく、多様なアーティストやジャンルのファンからの支持を反映するチャートが存在するとしよう。そのとき音楽の聴取体験は、アルゴリズムの力を借りることでより越境的で多様なものになるだろう。

　また、自分の応援しているアーティストが幅広い支持を得ていることを証明したいファンは、自分たちのクラスター内でCDを大量に購入したり再生数を増やしたりするのではなく、異なるクラスターの説得に乗り出さなければならない。ほかのアーティストや音楽ジャンルのファンは何を好み何を嫌うのかを知るために、クラスター間を渡り歩かなければならない。それは、レコメンドシステムが決して薦めてこないジャンルや作品と出会う旅になるだろう。

　以上からわかるように、コミュニティノートや Pol.is といった Plurality のテクノロジーは、差異や対立を忌避するのではなく、また解消するのでもなく、むしろ燃料として活かそうとする。他者の動機や背景を推し量る点でリバタリアニズムとは異なり、真理への服従を強制しない点でテクノクラシーとも異なる。Plurality は両者の隘路を迂回しつつ、衝突を抑え込むのではなく、衝突そのものを創造的な契機へと変換しようとするのである。

民主主義か Plurality か

　こうして考えると、Plurality のテクノロジーは単なる制度やツールではなく、政治的判断力を育てる訓練装置だと言えるかもしれない（ぼくも大学のゼミで Pol.is を使っている）。それは分断や陰謀論を撒き散らすデジタル帝国主義へのアンチテーゼであり、人々の集合知を引き出してデジタル民主主義をエンパワメントする、そんな試みだ。正直に言えば、かつてぼくが夢見たインターネットの未来──あのワクワクする高揚感──がここに生きている気がする。

　たとえば Pol.is では、参加者は必ずしも理性的な主体である必要はない。社会全体を見渡す必要はなく、私的な関心の中に閉じこもっていてもよい。「意志」はいかなるコミュニケーションがなくても自然と数学的に存在する。テクノロジーがそれらを可視化する。ここまでは東浩紀の「一般意志2.0」と同じだ［★9］。

　ただし、そこで可視化された「意志」は単一のまとまりではなく、複数のクラスターへと分岐し、互いに隔たりを抱えながら存在している。Plurality のテクノロジーが目指すのはこの断絶に橋を架けることである。したがってその設計思想はルソー的な統合よりも、アーレント的な「あいだ」における政治を想起させる。

　アーレントはカントの美的判断論を参照しつつ、政治的判断とは他者の視点を取り込みながら自分の意見を修正し、共感を獲得するプロセスだと考えた。コミュニティノートや Pol.is といった異なるクラスターからの支持を可視化するツールは、このプロセスをアルゴリズムで支援できる。

　ここで重要なのは、公的領域は観客によって構成される、という点である［★10］。というのも、公の場で意見を発する行為者アクターは、舞台上で演技する役者アクターと同様に、観客のまなざしに依存しているからだ。独創的な芸術家やカリスマ的な指導者ではなく、観客こそが現れの空間を創造する。観る者がいなければ演じる者もいない。ゆえにアーレントは、観客なき舞台を「砂漠」と呼んだ［★11］。

　他方、アーレントにおいて観客は公平無私な存在と想定されていたが、Plurality のテクノロジーは、複数のクラスターという私的で動物的な集合を重ね合わせることで、疑似的に公平な観客を作り出す。逆説的にも、複雑性を縮減するテクノロジーが公共性を担保する条件になるのである。

　さらにこの仕組みを応用すると、既存のSNSで生じがちな対立の構図をずらし、分断を緩和できるかもしれない［★12］。

　たとえばあなたは、女性差別は決して許されるものではなく、フェミニズムの方に理があると考えるとする。そのためSNS上で女性差別的な発言をする人たちのことは心底軽蔑している。こうして「われわれ対あいつら」の対立図式が簡単に生まれる。

　この場合、「差別はいけない」と言っても対立が激化するだけだろう。普遍的な理念は問題を解決しない（むろん、差別に反対する声をあげ続ける必要はある）。むしろそれは、「平等を重んじるわれわれ」という閉鎖的なクラスターを作り出してしまうのだ。

　しかし差別的な発言をするアカウントのほかの投稿を見てみると、それぞれに困難を抱えていたり、劣悪な状況の中で生きていたりする。他方、男性差別的な傾向がある人たちも、性被害でトラウマが激しく、フラッシュバックで過剰に反応してしまうなど、彼女たち自身もさまざまな困難を抱えていたりする。

　このように、SNS上のごく断片的な発言の背景を掘り下げていくと、男と女、フェミニズムと反フェミニズムの対立は、事態をきわめて単純化していることがわかる。Pol.is のようなプラットフォームを使えば、この単純化を緩和することができるはずだ。

　たとえばある投稿をきっかけに、両者が共有するある種の「弱者性」が明るみに出るかもしれない。あるいは別の投稿をきっかけに、「男／女」だけでなく「強者／弱者」のような別の対立するクラスターの存在が可視化されるかもしれない。そのとき「男／女」の境界線は揺らぎ、あいまいさを帯びながら流動化する。クラスターは完全に開かれてはいないが、完全に閉じてもいない。そこには完全な敵も味方もおらず、緩やかな共感と合意の可能性がある。

　しかし、ここには逆説が横たわる。橋渡しや合意を重視するあまり、コミュニケーションそのものを「合意を作るための手段」にしてしまう危険があるのだ。また複数のクラスターを橋渡しすることで、「みんなが合意していること」のプレッシャーが今まで以上に強くなるおそれがある。それによって創造性の芽である極端な意見やマイナーな視点が切り捨てられるかもしれない。

　そう、実は Plurality と民主主義は、微妙に相性が悪いのだ。現行の民主主義は議論と投票による合意形成を目指しているが、Plurality は必ずしも合意を最終目標にしていない。オードリー・タンたちもその点を自覚していて、橋渡しや合意の追求が均質化を招き、結果的に多様性や創造性を削ぐ危険性に注意を促している。

　また、Plurality のテクノロジーは、複雑性を縮減すると同時に、コミュニケーションにふたたび他者性を導入する。ここから新しい公共性の可能性を見出すことができるだろう。しかしそのためには、ルソーとアーレントという政治思想史的に水と油の関係にある両者をかけ合わせるような、アクロバティックな議論が必要とされる。

　ここに、Plurality の面白さがあると同時に、批評的に検討すべき核心がある。差異や対立を燃料とする Plurality と、合意を目的とする民主主義。複数性と公共性を称揚するアーレントと、全体主義的傾向を持つ孤独な思索家ルソー。この緊張関係があるからこそ、Plurality は単なる技術的な仕組みにとどまらず、ぼくたちが生きる情報社会を映し出し、問い直すための思想的実験として重要なのだ。

　デジタル帝国主義者たちがAGIという聖杯をめぐって争っている現在、Plurality とは制度改革の呼称だけではなく、単一の神や理性、AGIが世界を支配しうるという想像力のオルタナティブを担う哲学でなければならないだろう。

おわりに

　かつてインターネットとデジタル・テクノロジーは世界を変えると言われていた。集合知を活かし、民主主義をアップデートするという夢があった。そして夢を見た分だけ、失望もまた大きかった。

　今わかるのは、その夢を実現するには機械学習を実装したAIが不可欠だった、ということだ。しかしAIの進歩は、ただちに人類の進歩を意味するわけではない。

　最近聞いたばかりの話をしよう。知り合いの小学生の娘さんが、あるときLINE上で友だちと喧嘩をした。その友だちは、LINEのトーク画面をスクショし、それを ChatGPT に見せて、どちらが悪いかを判定させたと言う。もちろん ChatGPT はその友だちの味方をした。だから彼女は謝らなかった。ChatGPT が「あなたは悪くない」と言うのだから、私は謝らなくていい、というわけだ。

　今どきの小学生はすごい、という感想がまず浮かんでくるが、このエピソードはこれからの情報社会を考えるうえでとても示唆に富んでいると思う。まず、AIの公平性への無防備な信頼。次にAIがユーザーに媚びへつらう問題。いずれも他者との対話を閉ざし、自己を省みる機会を手放すことになる。その結果、『ドラえもん』で道具に頼りすぎたのび太が痛い目にあうように、人類は壮大なしっぺ返しを喰らうだろう。

　問題は、ぼくたちには失敗をフォローしてくれるドラえもんがいない、ということだ。だからぼくたちは、まるで「彼女いない歴＝年齢」の青年がはじめて女の子をデートに誘うときのように、自らの不器用さを受け入れつつ、他者の多様な知恵や経験に頼りながら、慎重にことを進めなければならない。

　未来の電車男は、Plurality のテクノロジーを使うことで、独身男性のクラスターだけでなく、さまざまなクラスターの力を借りることになるだろう。そこで電車男は、祭りの神輿ではなく、多様なまなざしに開かれた役者として振舞わなければならない。そしてその過程で、クラスター間を渡り歩く旅に出ることになるだろう。自分の見たいものだけを見るのではなく、ノイズを拾い上げ、自分の世界をじっくりと拡張する旅だ。

　その結果、的確な助言を得ることで、恋愛が成就するかもしれない。あるいはもしかすると、きれいな女の子と結ばれることだけが幸せではない、と気づくかもしれない。未来の電車男は、一直線に終点には向かわない。線路はネットワークのように分岐し多様である。その行程は偶然に翻弄され、必ずハッピーエンドに終わるとはかぎらない。けれど、試してみる価値はあるだろう。

　ちなみに『電車男』の単行本は、今も実家に置いてある。