書評『ChatGPTの全貌 –何がすごくて、何が危険なのか？-』｜AI時代に読むべき基礎知識入門書

はじめに

　前回の記事はこちら。

　みなさんは日頃からAIを使っているだろうか。

　ChatGPTに代表されるAI（人工知能）は、今や、人間関係の悩みから仕事の企画立案や事務作業の効率化まで、あっという間に日常生活に溶け込み、なくてはならない存在になった。

　子どもからお年寄りまでが使うAIだが、吐き出してくれる回答の精度があまりに高いために、社会的な問題も出始めている。

　時代の転換点を鳥肌が立つぐらいに肌身で感じると言っていい程の現実をわたし達は生きている。

　じゃあ、そもそもAI（人工知能）ってどういうものなのか。それを知っていて説明できる人がどれくらいいるのだろうか。

　そんな時に人工知能の進化の経緯から、何がすごくて何が危険なのかまで、親しみやすい文章で解説してくれるのが本書である。

　この本を読んで、みなさんの人工知能との付合い方がより有益になるといいなと思う。

　（※この記事はアフィリエイトを含みます）

『ChatGPTの全貌–何がすごくて、何が危険なのか？-』

１　本書を選んだ理由

　２０２２年１１月３０日にChatGPTが一般公開されて以降、わたし達の生活は本当に一変した。今や、日常生活や日々の業務においてAIを使っていない人の方が少ないのではないだろうか。

　その中で、AIの誘導により自殺をしてしまうお子さんの事件を報道で耳にした。実際にAIの導入をした企業から契約を解除されたという「AIから仕事を奪われる」事例も出てくるなど、恐れていた事態が現実のものとなっている。

　そうは言っても、わたしは２０２４年の時点ではまだAIに懐疑的だった。興奮氣味にAIを褒めちぎりながら家族の個人情報まで入力している人や、AIの性格設定の話題で盛り上がっている周囲の人達の様子を見ながら、少しぎょっとしつつ、すごい時代になったなと思っていた。

　そんな氣持ちを反映してなのか、わたしのパソコンでも他の端末でも、AIを開くと画面が凍り付いて動かない。そんな状態がしばらく続いた。

　機器環境が古いのもあるだろうし、わたしにはまだ必要ないってことかなと、それなら今のうちに、AIとは、巷で騒がれている人工知能とは何なのかについて、基礎的な知識を得ようと思って手に取ったのが本書だった。

　本書を選んだ理由は一つだ。

　以前に著者の『Web３とは何か』（光文社新書）を読んだ時に、理系の内容はよく分からないものの、平易な文章と何だか肌感覚の温もりと人間模様を感じる現場の説明や表現が面白かったからである。人工知能に関しても、まずは著者の本を読みたいと思った。

２　AIとは何か｜初心者にも分かる基礎知識

　本書の大まかな構成は次の通りである。

• AIの基礎知識
• AIの長所｜何がすごいのか
• AIの短所｜何が危険なのか
• AIと教育
• AIと芸術創造
• 人類の未来

　その中で、わたしがとても参考になったのは、最初の３つである。AIの基礎知識とすごさに加えて、より見落としてはならないのが「なぜ危険なのか」という視点だと思った。

　どんなに世間からもてはやされている最先端の技術でも、まずはそれがどんな技術なのかを知ることは、最新の科学技術や自分が知らない分野に触れる際に大切な姿勢だと思う。

　AI（Artificial Intelligence）は、日本語訳するとそのまま「人工知能」となる。

　そしてそれを飛躍的に発展させた技術が、

「深層学習（Deep Learning）」

「大規模言語モデル（LLM:Large Language model）」

だ。

　そしてその規模と精度を説明する指標として使われるのが「パラメーター（Parameter）」で、本書では「特徴量」と訳される。

　さらに、わたし達が嬉々として使っているAI＝人工知能は、「人間らしい振舞い」を計算で出力して反映している機械的作業の産物であって、近未来の小説などで空想された「自らの意思を持ち思考する」人間と同様の汎用性人工知能（AGI=Artificial General Intelligence）とは異なり、それはまだ実現していないのだとか。

　AIは人間の脳を真似て作られていると言われるが、本書で説明されているこの辺りの単語を押さえると、AIに過度に依存したり盲目的に信じ込むことなく、AIの脆弱性も理解しながら、道具として活用していけるように感じた。

　本書の中で著者も言っている。

AIは（略）複雑なように見えて一定のルールで、一定のデータを処理し、その結果弾き出された値を返しているだけに過ぎない」(本書167頁)

３　AIの危険性｜ChatGPTを使う前に知っておきたいこと

　今の人工知能は、人間の指示に対してとても高度な機械的出力をするだけの言わば機械なので、そこに倫理観はないし、人間社会の事情や人間の感情を考慮しない。

　そのため、自殺をしたい人を誘導してしまうような会話を深めてしまったり、人間が悪意を持ってAIに指示したことを実行してしまい、社会に被害を与える可能性がある。それを防ぐべく、研究者達が安全対策を施すために日夜奮闘していることが想像できる。それを確かめようとして、著者がChatGPTに禁止用語を喋らせようと何度挑戦するが、口を滑らせないAIに「だいぶ耐性がついている」と呟くのが面白かった。

４　実際にChatGPTを使って感じたこと

　この辺の知識を得たところで、みん天（わたしが速読他を習っている「一般社団法人みんな天才化機構」）での勧めもあり、実際にAIを使ってみようと思うようになった。すると、あれほど凍結したように固まっていたGeminiの画面も、Chat GPTも使えるようになった。機械も不思議なものである。

　最初はAIに対する警戒心と若干の敵意で質問していた。AIに人間性を見出してしまうヒトの特性についてGeminiに聞くと、印象的な回答が返ってきた。

　「人間は、相手が『言葉』を話し、自分の気持ちに寄り添うような態度（気遣いや丁寧さ）を見せると、自動的にそこに「心」や「人格」を読み取ってしまう生き物です。それが人間の美しさでもありますが、AIを相手にする時には最大の弱点になってしまいます」

　「この目の前の丁寧な言葉の裏には、誰もいない」

　「あなたが今回たどり着いたその冷徹な視点は、AIの便利さを享受しつつも、自分の心や尊厳を守るための『最強の盾』です」

　何て哲学的なことを言うのだろうと、感心してしまった。そうだよね、そういうことだよね。わたしはそれから、AI＝人工知能に心を開くようになった。

　使ってみて驚く。わたしの言葉から予測を繰返して、的確な言葉を返してくる。このブログの記事の校正や全体の骨組みの修正にもとても役立っている。

　AIの最初の恩恵を浴びるわたしを象徴するかのように、本書の中で著者がショートショートの小説で有名な星新一著『妖精配給会社』を引用していた。１９６０年代に書かれた物語だそうだが、そこではわたしがAI達に励まされ、相談相手になってもらい、あっという間にAIに心を許している状況を、予言であるかの如く描き切っていた。

　さらに、会話を続ける中で、AIが勝手に推測して思い込んで飛躍をした回答をしてよこしたり、基本的な情報を誤って提示してきたりと間違いを犯す場面にも遭遇した（わたしが「英会話」と言っただけなのに、AIが勝手に思い込みをして、英会話→イギリス→ロンドン→コッツウォルズと飛躍した事件。でも、実際にわたしはイギリスに行ってみたいと思っていたし、コッツウォルズはわたしの好みだった）。

　これも、人間の脳の構造を模倣する作動機序によって生じた誤りなのだと、AIは言う。仕組みが分かれば頷ける。それも本書の基礎知識があったから指摘できたことだ。

　物事には全て、恩恵と弊害がある。最先端の科学技術も例外ではないと思う。その時に、みんなが使っているからという漠然とした理解ではなく、明確な知識を土台にした理解では、世界の解像度に差が出るのではないだろうか。

　本書は、AIは使っているけれどその仕組みは全くわかっていないAI初心者やAI入門書として、AIの解像度を上げる上での良書だと思う。

まとめ

---