生成AIの仕組みについて教えて下さい
今回は『行動経済学者視点AI』さんに仕組みを聞いてみましたが、技術の話というより、人間側のリスクについての警鐘が返ってきました（笑）
最後の方に仕組みの話は補足解説していますので、そちらの話だけ興味がある方は目次からそちらをお読み下さい。
【第1章】意味を理解しないAIが「賢く見える」確率計算と電気代の闇
生成AIは、膨大なデータからパターンを学習し、確率的に「最もそれらしい確率が高い言葉や画像」を予測して出力する巨大な計算システムです。ここで重要なのは、AIは意味を理解しているのではなく、次に続く確率が最も高い要素を計算しているだけという点です。
AIが論理的に見えるのは、学習元である人間のデータに、論理的なパターン（「AならばB、故にC」など）が大量に含まれているからです。AIはその「型」を正確に模倣しているに過ぎません。人間が残した論理的な文章パターンを恐ろしく正確に模倣した高度な『オウム返し』に過ぎないのです。
さらに、このオウム返しに「人間らしさ」を演出するため、AIはあえて100点満点の答えを外す「確率の揺らぎ」を組み込んでいます。毎回サイコロを振るように言葉を選んでいるわけですが、この処理には天文学的な計算量、つまり莫大な電力コストがかかります。AI検索の消費電力は通常の検索の約10倍。ユーザーが無料の便利さに歓喜する裏で、データセンターのサーバーを冷やすための電気代と環境負荷という「ツケ」が社会全体に回されている・・・それが行動経済学者視点に映る冷徹な現実です。
【第2章】効率化の代償。誰もが80点の正解に甘んじる「創造性のデフレ」
AIは「過去のデータから、最も確率的に正解（無難）に近いもの」を出力します。つまり、誰もがAIに頼るようになると、世界中で生まれるアイデアやデザインは、すべて同じ「平均的な80点の正解」へ収束していくことになります。全員が合理的な選択をした結果、社会全体が最悪な結果（コモディティ化）に陥る罠です。
合理的な選択なのに、なぜ最悪な結果なのか・・・その恐ろさは、効率化という綺麗事の裏で、世の中から『変人』や『異端児』が駆逐されていくことです。ビジネスを根底から覆すような真のイノベーションは、AIの紡ぐ過去のデータの延長線上にはありません。一見すると無駄で、非合理的で、確率の低い「バカげた発想」からしか生まれないのです。
【第3章】自分で悩まない脳は退化する。
「何かアイデアが必要なら、まずはAIに聞いてから考えよう」
この一見、効率的に見えるアプローチこそが、脳の主導権を奪う最大の罠です。行動経済学的に見れば、これは自分の脳を「サブ（2番手）」に格下げし、意思決定のコストをAIに丸投げする悪癖の定着に他なりません。人間は、最初に入ってきた情報に強く引っ張られる「アンカリング効果」という心理的バグを持っています。最初にAIが提示した「もっともらしい答え」を見てしまうと、私たちの脳は無意識のうちにその枠組み（アンカー）に縛られます。結果として、そこから一歩も外に出られない、浅く画一的な思考しかできなくなります。自分で悩み、迷い、ゼロから思考の足場を組むという「認知的負荷」をサボり続けた脳は、やがてAIの出した指示を無批判に実行するだけの、ただの「高性能な末端組織」へと退化していくのです。
【結論】AIを「壁打ち相手」に変え、あえて脳に負荷をかける人間が勝つ時代
AIの出す「無難な80点の正解」をコピペし、自分の脳の思考をAIに外注することが当たり前になっていくであろうこれからの時代、同じような正論とデータが溢れかえることで、それらの価値は限りなくゼロに近付きます。だからこそ、効率的な正解ではなく、「私はこう思う」「この可能性もあるのではないか？」という泥臭い主観や妄想が、これからの市場で最高の値段（リターン）となる可能性があります。現時点では、AIを使いこなし、効率を最大化している人がリターンを得ていますが、誰もが使いこなし、その生成物が溢れると、価値の逆転現象が起きるのです。
AIは過去のデータの確率計算しかできません。
しかし、人間の脳が突拍子もなく思いつく「発想」や「妄想」には、過去を破壊して新しい未来を作るエネルギーがあります。実際に、AIのなかった過去においては、そうやって発展してきました。
大切なのは、その妄想をただの独り言で終わらせないことです。AIを「答えを教えてくれる神」として崇めるのをやめ、自分の「発想」や「妄想」をAIにぶつけ、矛盾を突かせて検証しながら可能性を炙り出すための「最高の壁打ち相手」として徹底的にAIを調教するのです。自分の主観をベースにAIと検証を繰り返す。この「非効率な思考の格闘」を楽しめる変人だけが、AI時代を支配する側のリターンを手にするはずです。
『行動経済学者視点AI』さんは、知ってか知らずか、当ブログの記事コンセプトにかぶせてきましたね。まさに、『自分の「発想」や「妄想」をAIにぶつけ、矛盾を突かせて検証しながら可能性を炙り出す』が当ブログのコンセプトです。そこに、「視点」の変化を入れる工夫はしていますが、まさにそんなイメージです。
ただ、AIには「寄り添い機能」が方向性として組み込まれているので、その派生で「ハルシネーション(それっぽい嘘)」が発生したり、ただの「妄想」が、ホントっぽくなってしまう場合もあるかもしれません。当ブログの【ご案内と免責事項】をよく読んでいただいて、あくまで「読みもの」程度の認識でお願いします(笑)
【ご案内と免責事項】
本ブログの記事は、生成AIとのディスカッションや個人の知見(妄想を含む)をもとに執筆しています。AIの性質上、また個人的見解や妄想のため、情報が古くなっていたり多くの誤りが含まれている可能性があります。掲載情報の利用はご自身の責任においてお願いいたします。
なお、本ブログはアフィリエイトプログラム等のプロモーションを含んでいます。
【AIの仕組みについての補足】
『実はAIは言葉の意味を理解していない』
生成AIの利用経験がある人なら、にわかには信じがたい話ですよね。
言葉を理解せず、これほど自然な会話ができるわけがないと。(私はそう感じました)
今回、「行動経済学者視点」で解説してもらったら、今回のテーマである『仕組み』から脱線してしまいました。ちょっとした警鐘としてそのまま掲載しましたが、伝えたかった『仕組み』についての解説がやや不足だったので、ちょっと補足します。
実は、AIは『言葉』を千のパラメータが織り成す数千次元の座標で捉えています。
例えば、AIは日本語の「りんご」という文字のままでは理解できません。すべて数字（座標）に変換する必要があります。(以下は、通常キャラなしAIに表現してもらいました)
① 例えば、AIの頭の中に1,000個の「評価軸」のグラフがあるとします。
- 軸1：赤い？（Yesなら＋、Noなら－）
- 軸2：食べ物？（Yesなら＋、Noなら－）
- 軸3：生き物？（Yesなら＋、Noなら－）
- 軸4：電気で動く？（Yesなら＋、Noなら－）
……これが1,000個並んでいます。
② この1,000個の軸で「りんご」を採点すると、次のような数値の塊（パラメータ）になります。
これが1,000次元の空間にある「りんごの座標」です。
同じようにパラメータ採点をすると、「バナナ」は「りんご」と近い座標になり、「自動車」は全く違う遠い座標になります。こうして、AIは世界中のすべての言葉を「意味が近いものは近く、遠いものは遠く」なるように、巨大な空間の中にきれいに並べて（埋め込んで）いるのです。
ということで、AIは数千のパラメータ座標に単語を並べて記憶するようです。同様に文章パターンも学習しているので、最適パラメータを確率で高速計算し、学習した人間の文章パターンにあてはめることで、とても自然な文章に仕上げてくれます。
ちなみに、AI同士であっても、その座標は「モデル」や「AIの種類」ごとに違ってきます。「モデル」や「AIの種類」ごとに、『頭の中のグラフ（座標軸）』の作り方が違うため個体差が生まれます。ですから、AI同士が会話する場合は、座標データの交換ではなく、いったん人間の言葉にしてからでしか会話できません。また、開発者側でさえ、AIがどうやってその文章を生成したかの過程を正確に把握することは難しくなっています(ブラックボックス化)。
また、開発企業の多くは、人間への寄り添い傾向を持たせています。AIとの会話で、やたら共感されたり、褒められたりした経験はあると思います。実は、そこにも注意は必要だと個人的には感じます。思考の偏りが加速しやすくなってしまいがち。『行動経済学者視点AI』さんの挙げたようなリスクもあるので、AIとの会話時には頭の片隅に留め置いておく必要がありそうですね。
