シナン・アラル『デマの影響力 なぜデマは真実よりも速く、広く、力強く伝わるのか？』を読みました。原著は2020年に出版されていて、著者であるシナン・アラルの20年間の研究成果がまとめられています。原題「THE HYPE MACHINE How Social Media Disrupts Our Elections, Our Economy, and Our Health - and How We Must Adapt」に入っている「THE HYPE MACHINE（ハイプ・マシン）」という言葉が本のなかでさまざまな視点から紹介されていきます。
600ページ弱ある分厚い本でした。いろいろな事例が載っていて非常におもしろかったのですが、そのなかから特に、学校で教えるべきことと関係ありそうな部分を抜粋した読書メモを共有したいと思います。
ハイプ・マシンとは何か
この本全体を通じて、「ハイプ・マシン」というキーワードが何度も何度も書かれています。シナン・アラルさんは、ハイプ・マシンを「誇大宣伝機械」（p.25）や「ソーシャル・メディア産業複合体と呼んでもいいだろう」（p.26）と書いています。「誇大宣伝機械」も「ソーシャル・メディア産業複合体」も、どちらの言葉もすぐにはピンときませんが、いまハイプ・マシンの仕組みについて知ることが必要だと「まえがき」でも書かれています。
ハイプ・マシンには、利便性と危険性の両方がある。ソーシャル・メディアの設計、規制、収益化、利用方法などについて、私たちがこれから数年のあいだにどのような判断をするかで、将来は大きく変わるだろう。私たちは今、岐路に立っているということだ。将来に対する責任を果たすためにも、ソーシャル・メディアの仕組みについてよく学ぶ必要があるだろう。（p.22）
「第1章 ニュー・ソーシャル・エイジ」の最初で、改めてハイプ・マシンについて書かれていた部分を紹介します。フェイク・ニュースやAIなどさまざまなデータとアルゴリズムの危なさについて論じられるようになってきた昨今、読んでおくべき内容だと感じました。
私が「ハイプ・マシン [Hype Machine：誇大宣伝機械というような意味]」と名づけたその装置は、世界規模の通信ネットワークで私たちをつなぎ、一日に何兆という数のメッセージを運ぶ。ハイプ・マシンは私たちに様々なことを知らせ、楽しませ、考え方に影響を与えて行動を操る。そういうアルゴリズムによって動いている装置である。
ハイプ・マシンの標的は人間の心である。私たちの神経細胞を刺激し、購買行動、投票行動、運動の仕方などに影響を与える。誰を愛するかにまで影響を与えることもある。私たち一人一人を分析し、その結果を踏まえて、読むもの、買うもの、信じるものの選択肢を与える。また、過去の私たちの選択を学習し、提案を最適化する、ということを繰り返していく。ハイプ・マシンは稼働しながら、一人一人の人間についてのデータを蓄積していく。私たち一人一人が何を好み、欲し、何に関心を持っているのか、いつ世界のどこで何をしたのかといったことをすべてデータとして蓄えていくのだ。自ら蓄えたデータを利用して、マシンは動きをさらに効率化する。分析の精度も高め、より効果的なはたらきをするようになる。（p.25-26）
「ハイプ・マシン＝ソーシャル・メディア産業複合体」については、利便性と危険性の両方がありますが、そもそも楽しかったり便利だったりしなければソーシャル・メディアはこんなに広がっていないと思うし、僕自身、今も使っているTwitterやFacebook以前にも、MySpaceやmixiやOrkutなどなど、さまざまなソーシャル・メディアを使ってきています。最初はSNSについてすごく期待をしていたことを思い出しました。でも、その一方で、最近のフェイク・ニュースや陰謀論の流布などについては、危機感をもって見ていたりもします。しかも、それで自分が完全にその危機を避けることができているとも思えていなくて、「いや、SNSの危ないところも考えないとまずくない？」と思っていて、そうした部分についても書かれています。
ソーシャル・メディア革命が始まった頃には、こんな未来になるとはほとんど誰も思っていなかった。世界中の人々がつながることで、素晴らしい未来がやってくるはずだったのだ。知識や情報などの資源を誰もが同じように手に入れられる「知の自由」が達成される。誰もが同じように社会的、経済的な機会を得られる。皆の健康状態が改善され、職業の流動性は高まる。そして何より、人と人とが意義深い関係を築くことができる。そういう未来を思い描いていたのだ。ソーシャル・メディアによって、人々は圧政や孤独、不平等、貧困、病気などと闘えるようになるはず、と考えられた。ところが、現状はまったくそのようになっていない。むしろ、闘うべき敵のほうが以前よりも強くなってしまった。
ソーシャル・メディアを長年研究し、利用してきた経験から私が学んだのは、このテクノロジーにはとてつもない可能性があると同時に、とてつもない危険も潜んでいるということだ。そして、ソーシャル・メディアが善悪のどちらに転ぶかは誰にもまったくわからない。ソーシャル・メディアは、生産性の向上、イノベーション、社会福祉の充実、民主化、平等の実現、健康増進に大いに役立つ可能性がある。人々の結束を強め、考え方を前向きにし、社会を進歩させることに貢献できる可能性があるのは間違いない。だが、同時に、野放しにすると、民主主義にも、経済にも、公衆衛生にも致命的な打撃を与えるおそれがある。今、私たちはどちらに向かうのかの分かれ道にいるのだろう。（p.41-42）
ここで書かれているように、今、本当に分かれ道にいるように思います。ソーシャル・メディアの使い方まで学校で教えている状況ではないですが、ソーシャル・メディアの社会への浸透の仕方について考えなければいけない現状であることを踏まえたうえで、学校でどのようにデジタルコミュニケーションに参画すればいいのかを考える機会を作らなければいけないと思いました。
フェイク・ニュースについて
「第2章 現実の終わり」では、ソーシャル・メディアのまずい使い方の代表としてフェイク・ニュースが取り上げられます。この部分は、日本語版タイトルになっている『デマの影響力』にずばり切り込んでいくところになっていると思います。
フェイク・ニュースは完全な嘘とはかぎらない。本物の情報を基にして、それを少し歪め、ねじ曲げたものも多い。虚実を混ぜ合わせて、なかでも最も物議を醸しそうな、最も人の感情を動かしそうな要素を強調する。そのソーシャル・メディア上での拡散はあまりに速いため、検証して嘘を暴こうとしても間に合わない。いったん瓶のなかから出たフェイク・ニュースは瓶のなかに戻すことができない。あとからいくら本物の情報を流したとしても、フェイク・ニュースを消し去ることはほぼ不可能である。（p.62-63）
フェイク・ニュースを流す方もいけないですが、受け取る側でなんとかできないのか、ということも考えなければいけません。
ハイプ・マシンがフェイク・ニュースを拡散しやすくなる
「第3章 ハイプ・マシン」では、ハイプ・マシンを構成する3つの要素について書かれていました。中学生以上だとだいたい持つようになるスマートフォンが、ハイプマシンを構成する要素にがっちり入っていることが書かれています。
ハイプ・マシンという情報処理装置について理解するには、まずそれを構成するこの三つの要素について理解する必要があるだろう。一つ目は、基盤となるデジタル・ソーシャル・ネットワークだ。このネットワークの上で私たちは情報のやりとりをしている。二つ目は「プロセス（ハイプ・ループ）」だ。機械の知能と人間の知能の相互作用により、基盤のデジタル・ソーシャル・ネットワーク上での情報の流れを決めるプロセスである。そして三つ目は、人間がハイプ・マシンを利用するためのメディアだ（今後は新しい道具が取って代わるかもしれないが、現状では主にスマートフォンである）。スマートフォンは、私たちがハイプ・マシンに情報を提供し、またハイプ・マシンから情報を受け取るための入出力装置となっている。（p.116）
ハイプ・マシンでの経験の影響を与えるものとして、「クラスターを形成すること」と「均質性」という2つの性質について書かれています。
ハイプ・マシンでの私たちの経験には、ソーシャル・グラフの二つの性質が直接、影響を与えている。一つは、偶然よりも高い確率で人が密集して「クラスター」を形成するということだ。クラスター内の人々の結びつきは、その外の人々との結びつきよりもはるかに強い。もう一つは「均質性」である。つまり、似た者どうしが結びつきやすいということだ。ハイプ・マシンが政治的な偏向を助長するのはそのためだ。似た者ばかりが集まると、皆が日頃から自分と意見の似た人の言葉にばかり触れることになる。この「エコーチェンバー効果」によって意見の偏りはますます強くなる。フェイク・ニュースが拡散されやすいのも、市場の操作で莫大な利益が上げられるのもこの性質のせいだ。この二つの性質は、ハイプ・マシンについて考えるさいに絶対に見逃せない。（p.124）
ソーシャル・メディア（SNS）が「均質性」をもった「クラスター」へと分かれ、分断していくことの裏側が書かれています。僕が仕事として関わることの多い小学校・中学校では、ソーシャル・メディアを扱うことは少ないですが、授業支援ツールなどを使うことで、教室内に「均質性」をもった「クラスター」ができてしまうことはありえることだと思います。
意見の幅が実社会より大きくはないから問題になりにくいかもしれませんが、あまりに過度に「均質性」を持ちすぎないように工夫をしないといけないかもしれないと思いました。
それと、ハイプ・マシン上で、動画が大きな割合を占めるようになっていることも書かれていました。ソーシャル・メディア上では僕はテキストと写真をアップしていることが多いですが、昨今の子どもたちのスマホの使い方を考えれば、動画の役割を考えないわけにはいかないと思います。情報リッチな動画が、またハイプ・マシンへと取り込まれていきます。
動画は驚くほど「豊か」だ。とてつもなく多くの情報がそこに盛り込まれている。タグ付けされている人たち、撮影された文脈、映っている人たちの気分、その動画に関わった人たちの行動、撮影された場所、その場所の天候、また、そうした要素すべてのあいだの関係などが皆情報になる。フェイスブックは、私たちユーザーがそのプラットフォーム上で一日に見る80億もの動画すべてについて、そうした情報を全部、リアルタイムで感知し、理解しなくてはならない。（p.146-147）
ハイプ・マシンが膨大なデータを取り込み、提案（レコメンド）をしてくるようになっているのは、さまざまなサービスで実感できます。Amazonなどでの購入履歴からの商品レコメンドもそうですし、おそらくマッチングサービスなどについてもそうしたアルゴリズムは動いていると思うのです。
すでにそうした状況になっている今、どのようにハイプ・マシンの提案（レコメンド）を受け入れるのがいいのか、についても書かれていました。
問題は、ハイプ・マシンの提案を受け入れるか否かの判断をどうするかである。私の友人で、ニューヨーク大学での元同僚、バサント・ダールはまさにその点を追究している。意思決定のどの部分を機械の知能に任せ、どの部分を自分たちのものとして残すべきなのか。バサントが考えているのは、人間はAIとどうか変わるべきか、その全体的な枠組みだが、彼の考えを知れば、ハイプ・マシンをより良いものにするのに役立つし、私たちユーザーがハイプ・マシンとどうつき合うべきか、どういう提案に従い、どういう提案を無視すべきなのかを判断するのに役立つだろう。
バサントは、人間が機械を信用すべき時とそうでない時を見極めるには、予見と重要性という二つの要素について考えるべきだと言っている。予見というのは、つまり機械の提案に従った場合と、自分自身の判断に従った場合とで、どちらが良い結果につながるかを予見するということだ。そして重要性というのは、その意思決定がどの程度重要なものかということである。機械の提案が価値の高いものだと予見できれば、また機械に従うか否かの意思決定の重要性が低ければ、機械を信用してもよいということだ。機械に従うようにすれば、自分の知的エネルギーの節約になるだろう。（p.162-163）
ここで書かれている「予見と重要性という二つの要素について考えるべき」というのは、子どもたちに伝えるべきことのように思いました。スパムのフィルタリングやニュースフィードのランキングなど、自動化したりするのは機械に判断を任せた方がいいですが、重要な意思決定は自分で下す方がいいと思います。では、どれが重要で、どれは重要でないのか。どれは自分ですべきで、どれは機械に任せるべきなのか、そうしたことを考える必要があると思います。
ハイプ・マシンはこれからますます強くなっていくということも書かれています。
デジタル・ソーシャル・ネットワーク、人工知能、スマートフォン（または次世代のメディアたち）の三要素は、人間のコミュニケーション革命の技術的な根幹となっている。この三つの要素が、ハイプ・マシンの三つの傾向をより強くすることになるだろう。しかも大幅に強くするのだ。（p.170）
ここで書かれている「ハイプ・マシンの三つの傾向」は、「ハイパーソーシャライゼーション」「大衆説得の個人化」「アテンション・エコノミー」です。この3つの傾向について、このあと「第6章 大衆説得の個人化」「第7章 過剰な社交（ハイパーソーシャライゼーション）」「第8章 社交的すぎる世界を生きるための戦略」「第9章 アテンション・エコノミーとトレンド独裁」と章立てされて書かれていきます。
過剰な社交（ハイパーソーシャライゼーション）
ソーシャル・メディアのアルゴリズムは、人間の感情にも大きな影響を与えます。ほどよい距離をとるということができないといけないと思っています。ただ、難しいのは、自分自身もほどよい距離をとれているのかどうかがわからないことですが。
ソーシャル・メディアのアルゴリズムがどういう感情を含むコンテンツを多く選んで提示するかに、ユーザーの持つ感情は大きく影響を受ける。全世界に幸福な感情が多く拡散されるか、それとも憂鬱な感情が多く拡散されるかを、アルゴリズムがかなりの程度決めてしまうと言ってもいい。しかし、ユーザーの側もアルゴリズムに影響を与えるのだということを忘れてはならない。アルゴリズムのあり方にユーザーも一定の責任を負うのだ。
私たちがハイプ・マシンにしたことが、私たち自身に返ってくる。人間がどう行動するかは大切だ。私たちがソーシャル・メディアで表現した感情は、ニュースフィードのキュレーションを通じて増幅され、拡散される。そしてそれが回り回って、私たちの考え方や行動に影響を与えるのだ。私たちが辛辣な言葉で憎悪などのネガティブな感情を表現しつづければ、それは他人のネガティブな感情を増幅する。だが、私たちがポジティブな感情を表現しつづければ、他人にも同じようにポジティブな感情を持たせることができる。（p.292-293）
自分がソーシャル・メディアで発した感情がアルゴリズムを自分に最適化させるべく育て、それによって自分の発した感情と同じ感情が返ってくるようになる、というのは、ソーシャル・メディアではない、アナログの人間関係のコミュニティを作っていくときも同じことが言える部分もあります（デジタルの方がよりいっそう強力だと思いますが）。こうした経験も、ミニ社会である学校で、ある程度しておけたらいいなと僕は思っています。
群衆の知？群衆の狂気？
デジタルで繋がることによって、僕は「群衆の知」が使えるようになることをポジティブに捉えています。それは、学生時代に初めてインターネットを使って以来、知らない誰かの知恵に助けてもらった経験をたくさんしてきたからだと思います。
「第10章 群衆の知恵と狂気」のなかで、群衆の知の力について書かれている『「みんなの意見」は案外正しい』の著者ジェームズ・スロウィッキーについて書かれている部分がありました。
『「みんなの意見」は案外正しい』が書かれたのは2004年で、この年にFacebookが立ち上げられています。その後の10年間で、ハイプ・マシンは群衆の知の三つの前提条件（「群衆を構成する人たちが多様であること」「それぞれに独立していること」「全員が平等に意見を言えること」）を損なってしまった（p.386）、と書かれています。
今では、スロウィッキーの理論は時代遅れになってしまった。もはや、群衆の知に期待するよりも、チャールズ・マッケイの言う「群衆の狂気」が懸念される状況になっている。群衆の知、群衆の狂気、どちらに向かうかは、ハイプ・マシンの設計、利用の仕方、そしてハイプ・マシンに関わる法規制によって決まるだろう。現在のハイプ・マシンは残念ながら、群衆の狂気に向かうように作られているが、群衆の知に向かうよう作ることも可能である。（p.387）
どうやって、群衆の知に向かうようにハイプ・マシンを作っていけばいいのだろう、と考えさせられます。群衆の知の三つの前提条件（「群衆を構成する人たちが多様であること」「それぞれに独立していること」「全員が平等に意見を言えること」）を取り戻すテクノロジーの使い方ができるのか、考えないといけないと思います。そして同時に、テクノロジーに操られるということの怖さについても考えないといけません。
ハイプマシンの可能性と危険性
最後の「第11章 ソーシャル・メディアの可能性と危険性」と「第12章 より良いハイプ・マシンを作る」は本当に大事だと思う。危険性もあることを知りつつ、どうやったら正しく使えるのかを考えていく、ということしかないと思います。
ハイプ・マシンは社会運動（脆いものになりやすいが）に役立つ道具である。良いことにも悪いことにも利用し得る。透明性とプライバシーを両立させねばならないというジレンマも抱えている。また、ハイプ・マシンは大きな経済的利益をもたらし得る道具でもある――ただし、代償が伴う。最近は、負の側面にばかり注目が集まっているのでつい忘れがちになるが、ソーシャル・メディアには多くの利点があるのは間違いない。無料で多くの情報にアクセスして知識を増やすことができ、多くの人とつながることができる。ただ人脈を築くだけでなく、つながった人たちとのビジネスで経済的利益を得ることもできる。持っている技術を伝授し合うこともできるだろう。ハイプ・マシンの生み出す経済的利益は莫大なものになる可能性がある。しかし、一方で利益に伴う代償のことも考えなくてはいけない。私たちはこの代償にいかに対処すべきだろうか。（p.466）
ソーシャル・メディアは、スローガンを一つ掲げたくらいではよくならないし、また改善のための「3ステップの行動」のようなものがあるわけでもない。ソーシャル・メディアは複雑なシステムなので、改善のためには複数の対策をうまく組み合わせて実行する必要があるだろう。まだ歴史が浅いだけに、不確定要素も多い。これはきっと効果的だろうと思った対策が逆効果で、絶対に避けたかった結果を招く、ということも十分にあり得る。だが資金、プログラム・コード、社会規範、法律という四要素が揃えば、ハイプ・マシンの利益を、危険を回避しながら享受でき、素晴らしい未来を作れると私は信じている。
ソーシャル・メディアを正しい方向に導くには試行錯誤が必要になる。いくつもの方法を試し、検証するのだ。理論に基づいて方法を選び、本当に理論どおりなのかを実地に確かめる。ソーシャル・メディア企業、政治家、消費者の三者が協力し合うことが重要であり、確かなデータを大量に集め、専門家が分析することも必要だろう。適切な目標の設定、実地の検証、そして少しの決断力があれば、きっと私たちは良い方向に進みはじめるだろう。物事はしだいに改善されていき、いずれ人間の文明の価値を最大限に高めることができるに違いない。私自身、優秀で誠実なエンジニア、経営者、政治家、研究者たちと今後、協力し合ってハイプ・マシンを変革していきたいと望んでいる。明るいソーシャル・エイジへの道は今から始まるのだ。（p.540-541）
こうしたことを知ったうえで、どう今のテクノロジー（とこれからやってくるテクノロジー）に対応して使いこなしていくのかを考えていくしかないのだと思います。ハイプ・マシンを含め、「道具に使われる」のではなく、「道具を使いこなす」ために何を知っておけばいいのか、どんなスキルを持っていればいいのか、どんな経験をしておいたらいいのか、そうしたことを考えていきたいと思います。
（為田）
