日常的にChatGPTなどの生成AIと対話していると、まるで画面の向こうに感情や知性を持った生身の人間がいるかのような錯覚を覚えることがある。
質問を投げかければ流暢な日本語で即座に答えが返り、プログラミングコードを生成し、複雑な文章の要約までこなしてしまう。そのあまりの滑らかさゆえに、私たちはついAIの挙動を「魔法」のように崇めたり、逆に得体の知れないブラックボックスとして恐れたりしがちだ。
しかし、ChatGPTの内部で起きているのは決して魔法などではない。それは、足し算や掛け算といった極めてシンプルな数学的演算の膨大な積み重ねであり、人間の言葉を多次元の数値空間に配置して処理する冷徹な計算の帰結である。
今回取り上げる『ChatGPTはどのように動いているのか？』は、難解な高度数学を極力排し、「数式を広げる・縮める」という直感的なイメージと動くプログラムを通して、大規模言語モデル（LLM）の基本構造を誰にでも納得できるように紐解いた一冊だ。
本書を通じて見えてくるのは、従来の機械学習の常識を覆す「過学習の先にある知能」のリアルな姿である。
書籍情報
| 書籍情報スペック | |
|---|---|
| 書名 | ChatGPTはどのように動いているのか？ |
| 著者 | 中西 崇文 |
| 出版社 | 翔泳社 |
| 発売日 | 2024年4月17日 |
| 評価・おすすめ度 | ★★★★ (星4) |
本の概要
本書は、データサイエンスや人工知能を専門とする中西崇文氏が、ChatGPTの根幹を支えるTransformerアーキテクチャや確率的テキスト生成のメカニズムを、専門外の読者に向けてわかりやすく解説した入門的技術書である。
一般向けの解説書にありがちな「概念だけの抽象的な説明」にとどまらず、かといって専門書のような「微分や行列だらけの数式」で読者を挫折させることもない。
「言葉をベクトル（数値の並び）に変換するとはどういうことか」「注意機構（Attention）が文脈を捉える仕組みとは何か」といった核心部分が、足し算と掛け算レベルの平易な論理と図解によって解き明かされていく。
『ChatGPTはどのように動いているのか？』の感想
過学習の先にある「グロッキング」という衝撃
本書を読んでいて個人的に最も強い衝撃を受けたのが、「グロッキング（grokking）」と呼ばれる学習現象の紹介だった。
高校時代に簡単な犬猫判別AIをプログラミングした経験があるのだが、従来の機械学習において「過学習（Overfitting）」とは何としても避けなければならない絶対のタブーだった。学習データだけに過剰に適応して丸暗記してしまい、未知のテストデータに対して正解を出せなくなる現象――それが過学習であり、学習誤差が下がりきった時点で訓練を終了するのがこれまでの鉄則だったからだ。
ところが、2022年にOpenAIの研究者たちが発見したグロッキング現象は、この常識を真っ向から覆した。
過学習に陥ってテストデータの精度が落ちた後も、諦めずに数千回、数万回とひたすら訓練を継続させていくと、ある瞬間に突如としてテストデータの精度が跳ね上がり、AIが背後にある「普遍的なルールや法則そのもの」を掴み取ってしまうというのだ。
「丸暗記を極限まで突き詰めた先に、突如として本質的な理解（汎化）が芽生える」というこの現象は、知能の誕生プロセスそのものを垣間見るかのようで、知的好奇心を強烈に刺激された。
力技で「悟り」を開かせる計算機の圧倒的暴力性
人間が言葉や概念を学ぶプロセスを振り返ると、私たちはほんの数回の経験や前後の文脈から、直感的にその本質を理解することができる。子どもは数匹の犬を見るだけで、初めて見る犬をも正しく「犬」だと認識できる。
それに対して、現在のLLMがやっていることは、まさに「圧倒的な計算資源による力技」だ。
何億、何兆というパラメータを抱えた巨大なネットワークに対し、天文学的な量のテキストデータを流し込み、膨大な電力と時間をかけて最適化の計算を回し続ける。その結果として、ある閾値を超えたところでAIがルールを「悟る」。洗練された人間の思考プロセスと比べれば、極めて無骨で暴力的なアプローチに見えるかもしれない。しかし、その力技を極限まで押し進めた結果として、いま私たちの目の前で人間顔負けの対話が成立しているという事実は、現代の計算機科学が到達したひとつの奇跡と言える。
難しい数式を直感に落とし込む解説の巧みさ
技術的な解説書としての完成度も極めて高い。
ニューラルネットワークやベクトル演算の解説において、難解な記号を使う代わりに「空間を広げる」「縮める」といった幾何学的なメタファーを用いることで、文系の読者でも頭の中でイメージが描けるよう工夫されている。
言葉の意味が多次元空間の中でどのように距離や方向として表現され、それがどのように次の単語の出現確率へと変換されていくのか。その一連の流れがすっきりと腹落ちする。
この本をおすすめしたい人
- ChatGPTを日常的に使っているが、仕組みをブラックボックスのままにしたくない人： プロンプトの工夫だけでなく、背後で動くモデルの原理を知りたい人。
- 従来の機械学習を学んだことがあり、最新LLMとのギャップを感じている人： 過学習の常識を覆すグロッキング現象など、近年のAI研究の進展に触れたい人。
- 数学やプログラミングに強い苦手意識がある文系読者： 高度な数式を使わず、足し算や掛け算の直感的なイメージでAIの基礎教養を身につけたい人。
まとめ｜AIの「仕組み」を知ることで、真の使い手になる
ChatGPTは万能の知性でもなければ、魔法の水晶玉でもない。それは、確率と統計の法則に則って「もっとも確からしい言葉」を紡ぎ出す、極めて精緻な計算機システムである。
その仕組みを正しく理解することは、AIへの過度な神格化や根拠のない恐怖を取り払い、この強力なテクノロジーを自分の思考の拡張ツールとして使いこなすための第一歩となる。
「AIに使われる側」ではなく「AIを道具として乗りこなす側」へ立つために、ぜひ手にとってほしい良書だ。