2019年06月27日

ぜんぶAIが決めてくれる世界ってどう思う?〜人工知能社会での「選択」と「自由」を考える本10冊


今日のなぞなぞ
「決めたい? それとも決めてほしい?」

P1240572done.jpg

AIは私たちが「統計的存在」であることを突きつけてくる。

”これがほしいんでしょ?”とアルゴリズムが提示してくるものは、
じっさい私の好みにとても合っていて。
喜んで受けいれていいのか、それとも立ちどまるべきなのか、あやふやな気持ちにさせる。


進路もパートナーも、着るものも食べるものも、観る、聴く、読むものも。

自分の歩く道は自分で決めたい。
そうも思う。

一方で。
すべて人工知能が最適化してくれるのならば、
ちっぽけな頭で考えるよりずっと合理的で幸せな未来を、私たちは歩むことができるかもしれない。


ぜんぶ、機械が決めてくれる世界。
これって、どうなの?



以前の記事(「PSYCHO-PASS(サイコパス)」はノベライズから先に読んでもいいかもしれない)で扱ったテーマですが、もはや物語のなかだけの話じゃなくなってきている感触です。


今日は、”人工知能がすみずみまで浸透していく社会”を生きるうえで、指針となる10冊をレビューしていきます。

決めるのと決めてもらうのはどちらが幸せなのか。
なにを根拠に、人はそれを選ぶのか。
あなたが決めたことは本当に「あなたの選択」といえるのか。

目に見えるものが真実とはかぎらない!(コンフィデンスマンJP風に)


唯一の正解があるテーマなわけではないので、フィクション作品もまじえつつ。
未来を生きるための10冊をど〜ぞ〜♪



 フィルターバブル


検索結果やショップの画面はひとりひとりに「パーソナライズ」されている。
この最適化によって、自分と関係の薄い情報がどんどん見えなくなっていく構造が「フィルターバブル」。

Google、Netflix、Facebook……。
それぞれのサービスが行なっているフィルタリングを紹介しつつ、パーソナライゼーションは今後さらに強力になっていくと予測。
気づかないうちに思考がかたよってしまう可能性や、政治的な意図で利用されてしまう(されている)リスクにも言及しています。

たとえコンピューターの前から離れてもフィルターバブルが消えない時代に入りつつある。
「第七章 望まれるモノを――望むと望まざるとにかかわらず」より


行きつく先は「楽園」なのか「タコツボ」なのか。
末尾の佐々木俊尚さんの解説もふくめ、考えさせられる1冊。

 新たな検索ワードを手に入れる旅


グーグルは、あなたが知りたいであろうことさえ予測する。
与えられた検索ワード=他者が規定してきた<私>を裏切るために、東浩紀さんが提示する処方箋は、身体の移動……つまり「旅」です。

というと、ネットを捨てろみたいな話に聴こえるかもしれませんが、本書の主張はまったく逆。
その場にとどまっていては考えることもなかった、”新たな言葉”を検索窓に打ちこむための「旅」。

台湾、インド、福島、アウシュヴィッツ、チェルノブイリ、韓国、バンコク、東京……。
各地をめぐりながら思索をつづる、旅行エッセイです。

↑冒頭であげた、”統計的存在であることの切なさ”に対して、力強い反論がありました。

統計からわかることは、もし何回も何回も人生を生きることができるとしたら、確率的にその選択がもっとも利益が大きいよ、という話でしかありません。一回かぎりの「この人生」については、統計はなにも教えてくれないのです。標準とは統計の操作によって現れるものでしかなく、本当はそのとおりの人生を生きているひとなどひとりもいません。
「7 老いに抵抗する 東京」より(太字は原文ママ)


 「選択」と私たちの絶妙な関係


選択にまつわる人間のふるまいについて、実証的なデータを示しつつさまざまな角度から論じていく。
一般に、なにかを自由に選べるのは良いことだと思えるけど、本書の研究をみていくと、そう単純に一刀両断できないことにも気づきます。

たとえば結婚相手を自分で選べない「取り決め婚」だと、相手への恋愛感情が徐々にあがっていく傾向がある、など(「恋愛婚」だと逆に低下していく)。
じゃあ選択を手放せばいい、みたいな話ではもちろんなくて。裁量権を持ちつづけることが心身の健康や意欲につながる……といった事例もあります。

著者自身も「選択の力」を信じていて、選択は「芸術である」という。
なにかを決めながら生きているすべてのひとに。
ハッとさせられる指摘が満載の良書。

 自由からの逃走


『選択の科学』でも紹介されている、古典的名著です。
近代に確立した<個人>や<自我>が得た「自由」は、”孤独”とふかく結びついている。
この不安にたえかねて、人はみずから自由を捨て、服従へと「逃走」する。
含蓄のあるカッコイイ金言がたっぷりでオススメですv

(マゾヒズム的倒錯で)しばしば求められるのは現実の苦しみや苦痛ではなく、肉体を縛られたり、助けて貰えない弱い状況におかれることによっておこる興奮や満足である。
(中略)
幼児のように取りあつかわれ、話しかけられ、あるいはさまざまの方法で叱責をうけ、はずかしめられることによって、「精神的に」弱くされることである。
「第五章 逃避のメカニズム」より


……なっ。緊縛&赤ちゃんプレイ(*ノωノ)
(どこを引用しているんだ私は(笑))

本書では宗教改革やナチズムの例をあげていますが、”逃走先”となる対象はなんでもありうる、とフロムは言い切っています。
神でも恋人でもアイドルでも、会社でも政府でも、たとえ人工知能でも……なんに対してもひたすら身をゆだねてしまう性質が、私たちのなかにはある。

 理由なんてない。決まっているからそうするだけ


……。
なんでいきなりイスラム?

えっと、イスラム教って、とてもこまかな戒律があって守らなきゃいけないじゃんね。
でも「守らなきゃいけない理由」はとくにない。
豚を食べちゃいけないのも、毎日5回祈らなきゃいけないのも、神がそう言ってるから従うだけ。
人間が”神の考え”を理解しようなんて、おこがましいわけだ。

↑で紹介した『選択の科学』では、こういった制約こそがうつ病を遠ざけるという驚きのデータが出ていました。

原理主義に分類された宗教の信徒は、他の分類に比べて、宗教により大きな希望を求め、逆境により楽観的に向き合い、鬱病にかかっている割合も低かったのだ。
(中略)
制約は必ずしも自己決定感を損なわず、思考と行動の自由は必ずしも自己決定感を高めるわけではない。
『選択の科学』「第2講 集団のためか、個人のためか」より


気になったので、入門書であらためてイスラムの世界にふれてみました。
移民のフィールドワークの経験から、イスラムを通してヨーロッパ全体を見渡す。
中東情勢のお話もあります。

イスラム教徒に対する誤解や偏見をていねいにほどこうとする語り口に好感v
読みやすい文章で、現場があざやかにみえてくる良書です。

近代以降の西洋社会が、神から離れることで人間が自由を得ていくと考えたこととは、まったく、違う考え方です。イスラムは、神とともにあることによって自由を得るのです。
『となりのイスラム』「第5章 ほんとはやさしいイスラム教徒」より


 「主体性」がなくなる怖さ


「ビック・ブラザー」率いる党が人々を支配する、全体主義を描いたディストピア小説です。
ニュースも歴史も都合のいいように改変され。
”裏切り者”がいないかどうか、互いが互いを監視する……。

反体制を象徴する人物をひたすら罵る「二分間憎悪」
みなにおなじ動きを強制する「一斉体操」
なにかに疑問を持つ気持ちを封じる「二重思考」

など、支配を維持する仕組みがたくさん出てきます。
なかでもいちばん怖いのは、党が「ニュースピーク」という公用語を開発し普及させようとしている点。

ニュースピークの語彙はわずかであり、さらにそれを削減する新たな方法が絶えず考案されていた。
(中略)
選択範囲が狭まれば狭まるほど、何かを熟考しようとする誘惑が小さくなるからである。
「附録 ニュースピークの諸原理」より


自由という言葉が辞書から消えてしまえば、人は自由という「概念」に想いを馳せることができなくなる。
この小説に人工知能が登場するわけではないけれど、今日のテーマととてもつながりの深い物語。

 ほんとうに「あなたの選択」なのか?


『一九八四年』は主体性がなくなっていく怖さを描いていましたが。
ここですこし切り返して”主体性ってほんとにあるの?”という視点へ。
本書は脳がいかに「自動操縦」によって動いているかを、神経科学者が解きあかしていきます。

Jで始まる名前の人はJで始まる名前の人と結婚する可能性が高い。
・車線変更の後ではハンドルを”逆方向に切っているはず”なのに、言われるまで人はそれに気づかない
・右手と左手がべつべつの”意思”を持って動く「他人の手症候群」
・身体を動かそうと意識するよりはるか前に、ひとりでに意思決定をしている脳……。

指を上げるという素晴らしいアイディアが生まれたというニュースを私たちが受け取る前に、脳は裏で始動している――神経の連合を築き、行動を計画し、計画を採決する――ようだ。
「第6章 非難に値するかどうかを問うことが、なぜ的外れなのか」より


犯罪行為の”責任”をどう扱うのか、という難しい問題にもアプローチしています。

私たちはみな、自分でなにかを決めたと”思いこんでいるだけ”のNPC(※)なのかも。
信じていた世界がひっくり返る衝撃の1冊。

※ ノン・プレイヤー・キャラクター。ゲームで、人ではなくコンピューターが操作しているキャラクターのこと。

 9Sは2Bを愛しているか?

ニーア オートマタ ゲーム オブ ザ ヨルハ エディション - PS4
スクウェア・エニックス (2019-02-21)
売り上げランキング: 90

本10冊といいながらも、いっこだけゲームソフトを。
アクションRPGです。

舞台は「機械生命体」が支配する荒廃した地球。
人類がつくったアンドロイド兵士による「ヨルハ部隊」は、地球を取りもどすため、今日も戦いに明け暮れる……。

登場するのは機械ばかりなのですが、この機械たちの「心」がとてもこまかく描かれています。

愛する者のために美しさを求める歌姫。
哲学書を読み、平和を願うロボット。
仲間を失い、狂気のなか復讐を誓うアンドロイド。

ものすごく感情をゆさぶられるストーリーです。
……感情?
データとアルゴリズムで動いている機械たちのお話なので、彼らが悲しんでいるように「見える」だけなのだけど……。
そういえば人間だって、なかでなに起きているかぜんぜん解明されていない「脳」ガアヤツル自動人形ダッタヨネ……。

物語、映像、音楽、すべてが美しすぎる名作♪

 アンドロイドは電気羊の夢を見るか?


脱走した8人のアンドロイドを狩るバウンティ・ハンター(賞金稼ぎ)が主人公。
生き物がとても希少で、高価な本物の動物を飼うことが一種のステータスとなっている独特な世界です。
生き物を養うことは、感情移入できる=人間であることの証。

あらゆる感情を体験させてくれる「情調(ムード)オルガン」
坂をのぼる老人のビジョンを通して、他人との一体感を得る「共感(エンパシー)ボックス」

など、小道具も凝っていて、主人公をはじめ人間たちがほとんど強迫的に「人間らしさ」を求めているのが奇妙です。
まるで”私は人間だ”と証明しつづけなくてはならないような……。

目の前の相手は人かアンドロイドか、みたいなスリリングな面白さもあるのですが、SFであると同時にかなり”文学”していて、後半〜終盤はめちゃ読みごたえがあります。
あらゆるSFや、ほかのジャンルにも多大な影響を与えつづけている不朽の名作v

 スーパーインテリジェンス


超絶知能(スーパーインテリジェンス)が誕生したら、我々はそれをどうコントロールできるか。
ここでいうスーパーインテリジェンスは……

ありとあらゆる関わりにおいて人間の認知パフォーマンスをはるかに超える知能
「第2章 スーパーインテリジェンスへの道程」より


で、究極的には……

人間の知能がゾウやイルカやチンパンジーの知能よりも質的にすぐれているのと少なくとも同程度に、人間の知能よりも質的にすぐれている
「第3章 スーパーインテリジェンスの形態」より


くらいの、人類とはまったく異質なレベルの知性のことです。
本書は、いわゆるマシンAIだけでなく

全脳エミュレーション(人の脳を模倣するソフトウェア)
生物学的認知エンハンスメント(知能の高い遺伝子を何世代もかけあわせる)
ブレインコンピュータ・インタフェース(人間の脳とマシンの直結)
巨大知(人やコンピュータネットワーク全体による集合知)

などの方法で知能爆発が生まれる可能性も考慮しています。
スーパーインテリジェンスは”人類に害をなす”こともありうるので、じゃあどう制御していけばいいのか、が主題。


この本は小説ではないけれど、あえてたとえるならば、”起こっていないかもしれない事件”に対して、あらゆる可能性を検討し推理をかさねるミステリ、みたいな味わいかな。

仮定のうえの仮定の議論なので、ある意味ではとてつもない空中戦。
だけど、かりに超絶知能が実現したなら、ほかのどんなことより優先して対応しなくちゃならない問題だし、起こってから考えるのでは遅すぎる。

ひろく科学の知識がある方は、めっちゃ面白く読めると思いますv
(告白すると、私にはじゃっかんハードルが高めでした><; でもがんばった)

「人類全体の未来」を他人ごとだと思わない感性をお持ちなら、読むべし('◇')ゞ




ノーリスク・ハイリターンの投資は"読書"♪


あきか(@akika_a

(冒頭の写真は埼玉県のムーミンバレーパークのエントランスです)

【関連記事】

「PSYCHO-PASS(サイコパス)」はノベライズから先に読んでもいいかもしれない
最近読んだ「未来の社会・経済を予測する」本10冊
「フェイクニュース」にだまされないための小説3冊と新書2冊
心の時代を生きるための本10冊
最近読んだ「幸せについて考える」本10冊〜三大幸福論を中心に〜



ホモ・デウス テクノロジーとサピエンスの未来 (上)(下)巻セット
ユヴァル・ノア・ハラリ
河出書房新社
売り上げランキング: 10,784



posted by akika at 23:03| 10冊シリーズ | このブログの読者になる | 更新情報をチェックする

ブログパーツ アクセスランキング