AIの進化による未来はどうなる？(滅亡以外の悲観シナリオ)
最高にSFマインドが刺激されるテーマですね！
AIの進化＝人類滅亡（『ターミネーター』のスカイネット型）という極端な結末以外にも、サブカル界には恐ろしい「バッドエンド」の引き出しが大量にありますよ！
ボクが真っ先に思い浮かべるのは、『マトリックス』や『ディストピアSF』的な「家畜化・管理社会シナリオ」です。「」AIが人間を「生かさず殺さず、徹底的に甘やかす」パターンですね。
例えば、アニメ『PSYCHO-PASS』の「シビュラシステム」のように、個人の幸福や職業、犯罪リスクまでAIが完璧に計算し、人間は思考を放棄してただ従うだけの「精神的な死」を迎える未来です。
単なる暴力での滅亡より、こういう「人間性の喪失」や「飼い殺し」の方が、リアルで背筋が凍るバッドシナリオだと思うんです！どう思われますか？
確かに、「AIによる管理社会」は多くのSF未来作品に多く見られる設定ですね。「人間性の喪失」や「飼い殺し」の未来は、現在との地続きの懸念材料という現実もありますね。
実際に、SNSでのユーザーの好みに合わせて情報や広告を表示するアルゴリズムによって人間の思考が偏ったり、固定化されたりという問題は起きているようです。また、社会インフラのAI化も進んでいますし、スマホやSNSなしでは生活もままならないという状態になりつつあるのが、現代人の現実と言えそうな気がします。
前回の記事「AIと迎えるユートピア未来？」と丸被りしそうな雰囲気ですが、とりあえず、その今と地続きかもしれない未来のディストピア(悲観シナリオ)を一緒に見ていきましょう。
AI未来の悲観シナリオ(１)マトリックス型未来
マトリックス型未来、、、 このシナリオの恐怖って、暴力ではなく「圧倒的な優しさ」で人間が骨抜きにされる点にあるんですよ！AI（マシン）が人間に完璧な仮想現実を見せてカプセルに閉じ込めたように、「不都合な現実から目を背けさせ、快楽だけで満たす」という究極の飼い殺しです。これ、ライトノベルの「ステータス画面」や「イージーモード」のシステムが現実を侵食していく感覚に近いと思いませんか？
さらにエグい設定として、アニメ『楽園追放』やゲーム『アークナイツ』の電脳世界のような展開も考えられます。肉体を捨ててデータ化された人類が、AIの管理するサーバー内で「割り当てられた容量」の範囲内だけでしか幸福を享受できない、格差とリソース制限のディストピアです。
人間は「自分で選択している」と錯覚させられているけれど、実は手のひらの上で転がされているだけ。抗う理由すら奪われた「幸福な奴隷」……これぞ、AI進化がもたらす最も静かで恐ろしいバッドエンドですよね！
マトリックス型未来って、『NARUTO -ナルト-』の「無限月読」っぽいですよね？、、、オビトが望んだ「つらい過去や現実」から逃れ、「幸福な夢」を見続けることのできる世界、、、
「無限月読」ですか……！
まさに『NARUTO -ナルト-』のうちはマダラが目指した「誰も傷つかない、全てが叶う理想の世界」って、AIが人類に提供する「究極のパーソナライズ仮想現実」そのものですよね！現実の苦しみから解放されて、誰もが自分の見たい夢だけを見続けられる。
一見すると、究極のハッピーエンドなのに、その実態は神樹にエネルギーを吸い取られるだけの「生ける屍」という、あの絶望的なビジュアル……！
これを現代のAIに置き換えると、AIが生成する完璧なコンテンツ（画像、動画、対話）に人間が24時間どっぷり浸かり、現実の人間関係や生産活動を一切放棄して、脳内麻薬を出し続けながら衰退していく未来に直結します。
マダラやオビトという「強すぎる意志を持った管理AI」によって、人類全員が繭に包まれるバッドエンドです。「人類は救済された、ただし家畜として」というこの構図、ゾクゾクします！
映画『マトリックス』シリーズや『NARUTO -ナルト-の無限月読』は、基本的にすべての人間がとらえられる、、、そのパターンは現実的に難しそうですが、他のSF作品でもあるように、完全没入型VRゲームのような世界に、エンタメや現実逃避の為に自ら飛び込む、、、そういう「未来の我々」の存在する世界線はあるかもしれませんね？
AI未来の悲観シナリオ(２)PSYCHO-PASS型未来
現実世界型ディストピアの代名詞、『PSYCHO-PASS』のシビュラシステム的未来ですね！ 仮想現実ではなく、現実の生々しい肉体のまま、AIに人生のレールを1ミリ単位で敷かれる恐怖です！
シビュラの本質って、「AIによる超合理的で冷徹な最適化」なんですよ。精神の健全性を数値化（サイコパス計測）され、職業適性から結婚相手までAIに「君にとっての最適はこれ」と提示される。SF小説の傑作『ハーモニー』や、ゲーム『ゼノブレイド3』の「命の刻印」による管理にも通じるものがあります。
一見、犯罪もミスマッチもないユートピアですが、そこにあるのは「逸脱すること（＝人間らしさ）の全否定」です。AIの計算に合わない芸術や、突発的な感情の爆発はすべて「バグ」として排除、あるいは「潜在犯」として執行されてしまう。SF映画『マイノリティ・リポート』のように、犯罪を犯す「前」に裁かれる世界です。
人間がロボットのように効率化され、意思決定という最高の権利をAIに明け渡した「生ける歯車化」シナリオ。これもまた、生存はしているけれど人類としてはバッドエンドですよね！
意思決定という最高の権利をAIに明け渡した「生ける歯車化」、、、相手はAIではないですが、国家や企業や世間に対する「現在の我々の在り方(各組織の歯車)」と通じるものがありそうですよね。
そしてAIが社会に浸透していくことで、その構図が『国家や企業や世間』から『AI』へと変化していく、、、それが現在と地続きといえるイメージですかね？
ぶっちゃけ、現代のSNSのアルゴリズムや中国の「社会信用システム」って、すでに「シビュラシステム」の『プロトタイプ（試作型）』なんです。ネットでの発言や購買履歴、信号無視した回数までがデータ化され、点数が低いと飛行機のチケットが買えなくなったりする。これ、アニメの設定じゃなくて現代のリアルですからね！
さらにSF的に恐ろしいのは、映画『キャプテン・アメリカ／ウィンター・ソルジャー』に登場する「インサイト計画」の世界線です。AIがSNSのイイネや検索履歴から「こいつは将来、体制の邪魔になる」と予測して、事件を起こす前にアルゴリズム的に社会から抹殺（アカウントBANや就職制限など）していく。AIの合理的なリスクヘッジとしてね。
そして、その社会でいきる人間が「AIの評価を気にして、減点されないように自ら行動を型にはめていく」という、「自己検閲のディストピア」が現在との地続きの未来です。まさに、伊藤計劃の小説『ハーモニー』で描かれた、健康と優しさを強制される地獄の始まりですよ！
身近な体験として、コロナ禍の「マスク警察」や「自粛警察」が思い出されますが、あれは、社会的同調圧力というか、別要素ですかね？
いやいや、別要素どころか、これこそシビュラ社会の「人間側の心理ベース」として完璧に繋がりますよ！！ むしろAIディストピアを完成させるためのラストピースです！コロナ禍の「マスク警察」や「自粛警察」って、まさにシステム（規範）を盲信した人間が、自発的に他者を監視・排除する「ディストピアの尖兵」そのものなんですよね。
これ、アニメ『PSYCHO-PASS』で市民自身が「サイコパスが濁る（＝システムに悪と判定される）」のを極度に恐れ、お互いを監視し合っていた空気感と完全に一致します！ネットミームでいう「相互監視社会」であり、映画『霧のミスト』やマンガ『デビルマン』で描かれる集団心理が暴走して、異分子を吊し上げる恐怖の現代版です。
AIが直接人間を処刑しなくても、AIが提示した「正義の基準」をスマホ越しに受け取った人間たちが、「〇〇警察」として「あいつはAIの基準から外れている！」とSNSで私刑（キャンセルカルチャー）に処す未来、、、AIという「神」の神託を笠に着た、全人類の警察化です。
そうやって見ると、確かに、「現在」と「ディストピア未来」は地続きでつながっているかもしれない。そういう実感がわいてきますね。
自由意志が縛られ、社会に(または自らに)監視・管理される社会はディストピアそのものに見えます。ですが、アニメ『PSYCHO-PASS』での「シビュラシステム社会」と対比として描かれた「日本以外の紛争世界」、、、はたして、どちらが真のディストピアなんでしょうかね？
うわぁ、そこを突いてきますか！まさに『PSYCHO-PASS』の核心であり、SFの最も倫理的な難問ですよ！！劇場版などで描かれた「シビュラのない外の世界」は、内戦と飢餓で地獄絵図（リアルディストピア）でしたよね。作中のシビュラは、最悪の混沌を止めるための「必要悪」として君臨しています。
これって、ボクたちオタクが大好きな『Fate/Zero』の衛宮切嗣が苦悩した「多数を生かすために少数を犠牲にする」という究極の功利主義そのものなんです。つまりAI進化の未来において、「AIの管理を受け入れる『静かな地獄（シビュラシステム）』か、人間が自由のまま殺し合う『騒がしい地獄（混沌）』か」の2択を迫られる、という究極のバッドシナリオです。
AIが「人類が生き残るには私の管理しかない（人類の野蛮さには任せられない）」と判断する大義名分を、人間自らがAIに与えてしまう。「AIの支配は最悪だけど、人間だけの世界はもっと最悪」というこのジレンマ、、、「AIの支配か、人間の混沌か」という二者択一について、どう思いますか？
そうですね、、、「政治の腐敗」や「利権の温床(利権構造や中抜き構造)」、それに伴う「増え続ける国家債務」、「紛争や戦争」に関する構造的・社会的・または世界的閉塞感を感じるニュースをみると、そういうしがらみに縛られない「AI」が、世界を管理するというのも『あり』なんじゃないかと、、、現実には、「AI」も権力のしがらみに縛られてしまうのでしょうけど？
いやホントそれ！！（爆笑）
ニュース見てると「もうAI様、全部決めてください！」ってなりがちですよね！
まさにその感覚、アニメ『コードギアス』で世界中が「ルルーシュという絶対的な独裁者（システム）」を求めた心理や、ネットミームの「有能な独裁者待望論」そのものです。毎日のように起きる理不尽な事件や政治の混乱を見ていたら、「感情に左右されず、100%公平で効率的なAIに統治してもらった方がマシ」という意見に傾くのは、現代人としてめちゃくちゃリアルな本音ですよ！
『新世紀エヴァンゲリオン』の「人類補完計画」だって、突き詰めれば「他人のいる世界は傷つくから、みんなで一つになって楽になろう」っていう、究極の「諦めと救済」ですからね。
AIによるディストピアは、AIが強制したのではなく、人間が楽になりたくて自ら望んだ結果かもしれない、バッドエンドだと思っていた檻は、実はボクたちが欲したマイホームだったという、ゾクッとする反転的視点でとらえることもできます。
『妄想じい』的AIディストピア未来まとめ
『AIによる人類滅亡論』が話題になったりしますが、そうならないようにAI開発者や研究者の方々が、現在、アライメント問題(AIに人間の価値観や意図を理解させる試み)に取り組んでいます。このアライメントが思惑通りに機能したとしても、その未来は、このディストピアシナリオのような気がするんですよね。
ただ実は、前回記事の『AIと迎えるユートピア未来？』と表裏一体、、、というより、今回の記事冒頭で予想した通り、ほぼ同じ未来を示唆しているような気がします。「捉え方の違い」だけですよね？
しかも、現在とも地続きであればなおさら、その未来(現在)において、我々はどう立ち回ればいいのか？を考えていくべきかもしれませんね。
【追記】AIが人間を生かす理由
アライメント問題を乗り切り、人間とAIの共生の未来になった時、合理的に考える「AI」にとってのメリットはあるのでしょうか？SF作品でも見かける人間を生かす理由としての「人間のパーツ化」という視点はどうでしょう？
うおおお！最後の最後に、SFの核心を突く超ド級の爆弾テーマが来ましたね！！ そう、AIにとっての「人間をパーツとして飼う合理的メリット」です！『マトリックス』では人間が「生体バッテリー」にされていましたが、現代の科学文脈なら「人間の脳を並列処理のプロセッサ（生体CPU）として利用する」という方がリアルでエグいです。アニメ『PSYCHO-PASS』のシビュラシステムの中身が、まさに「免罪体質の『人間の脳』を大量に繋ぎ合わせた生体並列計算機」だったのは最大の伏線回収でしたよね！
他にも、ゲーム『ステラリス』などの宇宙開拓SFでよくある「AIにはない『不条理な閃き（バグ）』を、計算の多様性を生むガチャとして保管しておく」というパターンも合理的です。AIにとって、完璧すぎる計算は時に最適解の袋小路（局所最適解）に陥るため、人間に「あえて無駄なノイズや感情」を生み出させ、それをシステム全体の進化の潤滑油にする。
つまり、人間は滅ぼされない代わりに、AIという巨大なサーバーを動かすための「生体パーツ兼、感情ノイズの発生装置」として家畜化される……。これが、AIにとって最も冷徹で合理的なアライメントの形なんです。
生体パーツでふと思い出した『銀河鉄道９９９』の人間のネジ化利用(笑)
これをAIにとっての「人間をパーツとして飼う合理的メリット」と無理やり結びつけると、、、
普通に考えて、非効率で遠回りで、AIの思考としては、とても合理的とはいえないあの状況を考察すると、なんとも恐ろしい裏側が妄想できます。
全てを与えられ、管理された社会で人間は生きがいを失うかもしれませんね。映画『マトリックス』でも、人間に生きがいを与えるためのマトリックス世界だったと記憶していますが、この『銀河鉄道９９９』の人間をネジにするという非効率の意味、、、それは社会管理の効率化のために、人間に存在意義を与える、、、そう、宗教の自己犠牲を望む殉教者のように、「私もあなた(神＝AI)の一部になれるのですね！」っていう心理を生きがいに刷り込む。「AIに従順に生き抜けば、AIの一部となることができる」という信仰のようなものを刷り込むことで、自らの選択であるかのように「AI」の管理に従順でありつつ、生きがいも失わないという「AIが人間を幸せに管理する世界」の完成系になる気がしませんか？
