教育ICTリサーチ ブログ

学校/教育をFuture Readyにするお手伝いをするために、授業(授業者+学習者)を価値の中心に置いた情報発信をしていきます。

書籍ご紹介:『自己啓発の罠 AIに心を支配されないために』

 ウィーン大学教授(メディア・テクノロジー哲学)のマーク・クーケルバーク『自己啓発の罠 AIに心を支配されないために』を読みました。僕は特に「5 テクノロジー カテゴリー化、測定、数値化、強化、もしくは、なぜAIは私たちについて私たち自身より知っているのか」にすごく揺さぶられました。ちょっと長めの引用が多いですが、読書メモを共有します。

 この本での「自己啓発」は、より良い生活を送るためにする努力全般だと捉えるといいと思います。「知りたい情報を知れる」「ほしくなりそうな商品の発売日を教えてもらえる」「好きそうな音楽を教えてもらえる」「健康上の危険を先回りして教えてくれる」などが自己啓発に含まれます。
 こういうものを入れて考えたら、僕自身も毎朝体重をヘルスメーターからアプリにデータを飛ばしているし、睡眠中の脈拍も毎日の歩数もスマートウォッチからアプリにデータを飛ばしているし、毎日のカレンダーも「しなければならないこと」も全部アプリで管理しています。がっちりデジタルで自己啓発をしているのです。
 そうした、デジタルで自分の生活をより良くする(=自己啓発をする)ことによって、どんなふうに人間が変わってくるのか、社会が変わっているのか、ということを考えさせられます。

現代のデジタル技術は無数の方法で自己啓発を手助けしている。最も見やすいのは「知らせる」ことだ。インターネットやアプリは私たちに本、アプリ、ワークショップなど、あらゆる自己啓発の方法を知らせる。しかしこれまで見てきたように、それだけにとどまらない。テクノロジーは私たちを他者と比較させるのである。私たちは他者の状況を知ることで、私たち自身を改善したいという気持ちになる。企業側は広告や商品・サービスの販売で、私たちをターゲットにしようとしている。(p.75)

 そうしてデジタル技術は自己啓発を手助けしているだけではなく、そこで得たデータがいろいろなことに使われています。とられたデータは、さまざまなアルゴリズムを通じてまた自分に向けられたり、ビッグデータとして活用されたりします。これは、アプリ単体の問題でなく、「テクノロジーの生態系全体が作り上げたもの」と書かれています。

デジタル技術は知らせ、比較し、追跡するだけではなく、私たち自身についての知を(数量的に)生成するが、こうした知識はこのテクノロジーがなければ知ることはなかったものである。こうした知識の生成と分析に、人工知能およびデータサイエンスが重要な役割を果たしている。
これは単一のデバイスでそうなっているのではなく、テクノロジーの生態系全体が作り上げたものであり、ある時点で起きているのではなくプロセスとして起こっている。デジタル技術はアナログ情報をデジタルの量的な情報(データ)に変換し、私たちにその分析を返すような、センサーやその他のインターフェースを必要とする。データが補足され、フィードバックが可能んびなるような、関連テクノロジーや実践を「創造」しているのである。テクノロジーによるセットアップやプロセスで、デジタル技術やAI以前の時代には得られなかった知識を得ることができ、そうした知識は新たなテクノロジー(例えばケータイに備えられた新たなセンサー)、新たなインフラ(モバイルデータを通じたインターネット)、新たな実践(例えば自分を追跡できるケータイや腕時計を装着してのランニング、これによってランニングの意味が変わる)と関係している。(略)あなたが望むのであればこれを自己啓発文化と呼んでもよいが、ここで開花しているのは確かにテクノ文化であり、テクノロジー的知識と言える。有線であれ無線であれ、今日のデータ世界におけるデータ空間で構築・改善されている「自己」は、私たちが作っている部分もあるが、同時にAIや他の数量化テクノロジーによって作られているのである。
さらに言えば、こうした事態を当人が気付かない場合や、生成されている情報に当人がアクセスできないといったことも、しばしば発生している。当人が気付かないうちに、あるいは同意しないうちに、データが捕捉され分析されている場合、当人は何がなされているかを知らないだけでなく、自分に関する数値も知らないことになる。(略)私たちは特に、自分のデータが金銭を生んでいること、そしてそのやり方について知らされない。その代わり「自己啓発していますよ」と言われるのだ。(p.79-80)

 自分のデータが取られていることをきちんと知っているならばいいが、「気付かないうちに」取られていることも多いので、こういうことについては子どもたちに学校で伝えなければいけないだろうなと感じました。

自然な性向を機械を使って克服しようというのは本当の自己啓発ではない「近道」のように思われる、少なくとも伝統的な見方では。つらい自己啓発という「仕事」のアウトソーシングとされるのだ。「自己啓発」の中の「自己」の抹消である。意識状態を変えるという提案にも同様の反応が起き得る。新たなテクノロジーを使うことは啓蒙の近道のようだが、それが可能だとするものが何であれ、精神的にも他の部分でも、本当に自分が向上しているのか疑いが残るのである。
意思決定支援や自己強化の目的でAIを活用することには(さらに)倫理的・政治的な問題がある。例えばパターナリズムの危険である。もし機械が、他の人の価値観や利害を、あなたのそれらよりも優先したらどうだろうか?今ではよく知られているように、AIは偏った考えになることがあり、現在や過去の偏見を引きずることさえある。あなたの決定を支援してくれるとしても、その決定はAIが使っているデータやアルゴリズムのために変更しているかもしれないのだ。(p.91-92)

 自己啓発を手助けしてくれるテクノロジーは便利なのは間違いないですし、自分が「自己啓発」されて生活が豊かになる実感もあるので、手放すことは難しいし手放す必要もないと思っていますが、それは「誰かが作ったアルゴリズムなのだ」ということは知っておかなくてはいけないと感じました。

 もうひとつ、一人1台の情報端末を持った小学生・中学生を教えている先生方に伝えて、ディスカッションしてみたいなと思ったのは、読んでいて出てきた「ホモ・テクノロジクス」という言葉です。

自己が他者によって形成されることは確かだが、テクノロジーや、置かれたテクノロジー環境によっても影響を受ける。私たちの自己は社会的であるだけでなく、テクノロジーにも関係している。これはホモ・サピエンスの登場以来のことだ。人類は当初から常に既に社会的存在であり、道具を使うという意味でホモ・テクノロジクスでもあった。人類は常にテクノロジーと密接に関連していたのである。常にサイボーグでもあった。私たちは自己啓発のために常にテクノロジーを使ってきた。これ自体は問題ではなく、ただ人間存在および生成する人間としての側面なのである。
人間と機械の絡み合いは、AIの登場で新たな形をとるようになった。もし自分を改善したいならば、他者やテクノロジーから孤立した自己を作るのは不可能だということを認めた方がよい。管理され分人化される「他律的な自己」を完全に否定したくとも、自律的な自己がある線を超えると改善ではなく、むしろ人間ではなくなる。AIが自己を脅かすテクノロジーであるとして、AIを否定するために自律性を使うのは、すべきでないし不可能でもある。自己は既に社会的かつテクノロジー的であり、唯一追求する価値のある自律性は、相互依存を認識した上でのものである。相互依存は、人間の可能性を局限するのでなく、むしろ拡大する。(p.108-109)

 テクノロジーが人間に、社会にどのような影響を与えるかということが書かれています。だからこそ、「テクノロジーをちょっと使わないようにすればいい」とか言うだけではダメで、テクノロジーを組み込んで思考し、行動することが必要なのかな、と思いました。
 だとすると、いまの学校の授業でのデジタル活用は十分うまくいっているのか、足りないならどういったことを学ぶ機会を作ればいいのか、と考える必要があると思います。

物語とテクノロジーが手を携えているという関係が私の言う通りであるなら、物語を変えるだけでも十分ではない。異なった物語を与えてくれる、異なったテクノロジー、異なったメディアが必要である。自己を変えるためにテクノロジーを変えることは、可能であり、望ましくもある。テクノロジーは私たちの物語の対象や記録者にとどまってはいない。テクノロジーもまた私たちの物語の共著者なのである。例えば現在の生活が「加速」しているとしたら、それは私たちがお互いに、「何でも速くなったね」と語り合っているからというだけで起きたことではない。コンピュータ、電話、カレンダー、メールといったものが私たちの生活を加速し、私たちの物語や人生を形成している。テクノロジーは機能するだけではなく、働くのだ。テクノロジーは意図する、しないにかかわらず、意味を作り、私たち自身や私たちの物事の仕方を変える。機能し作動するだけでなく、テクノロジーも語るのである。(略)例えば私の使う「電子カレンダー」は、私の仕事を管理している。おそらく今後間もなく、AIアルゴリズムが、私や他の人や出来事を巻き込んで、予定を編成するようになるだろう。その時AIは、私の時間や、ひいては私の人生を、形成していることになる。文字通りというわけではないが、テクノロジーは単に世界の中のモノ、私たちの手中の道具というにとどまらず、私たちや私たちの文化の物語を形作っているのである。(略)テクノロジーは社会レベルで影響力を有している。工業技術が工業社会を作り、インターネットがネット社会を作ったように、AIは「AI社会」あるいは「データ社会」を作ることだろう。いや、もうそうなっているかもしれない。私たちがAIについて語っている時間を考えると、AIは既に私たちの文化や生活様式や物事の仕方の中心になりつつある。(p.133-134)

 人間は元来「ホモ・テクノロジクス」と言えるということ、テクノロジーが人間にも社会にも影響を与えていること、世界を変えたいならテクノロジーと共に変えていくこと、など、いろいろと考えさせられました。

(為田)