栗原 聡（慶應義塾大学理工学部教授）

一夜にて変わる世界

　産業革命後、様々なテクノロジーが発明されてきたが、人間社会の変化は総じて緩やかなものであった。しかし、コンピュータが発明され、その後インターネットが登場して世界が繋がることで、ITが社会に影響を与える速度は急拡大し、2022年11月に米国OpenAIという聞き慣れない組織により突如発表されたChatGPTは一夜にして世界を大きく変えるインパクトを与えることとなった。

　今や世界におけるIT・AIをリードするのは巨大IT企業であるGAFAMであることは広く知られている中、OpenAIという名前が一躍世界の知るところとなった。最先端のAI技術であるDeep Learningにおいて世界をリードする研究組織であり、2015年に設立された非営利団体で、イーロン・マスク氏が多額の投資をしていたことでも有名である。

　Openという単語が名前に入っているように、強力な能力を持つAI技術が特定の企業に独占されることは、AIの恩恵を社会に広く届けるための妨げになることから、すべてのAI技術は公開すべきという考え方に基づき設立された。

　すでに世界で1億人以上のユーザを獲得し、現在も世界を劇的に変化させつつあるChatGPTであるが、使ったことのない方は是非使ってみていただきたい。

　ChatGPTはOpenAIが開発したGPT-3と呼ばれる大規模言語モデルが土台として利用されており、GPT-3.5と呼ばれている。そして，ChatGPTの加熱ぶりが向上している中、3月上旬にはバージョン4となる、さらに高性能なGPT-4が公開され、Googleも自社が開発している大規模言語モデルであるPaLMの公開を決めるなど、まさにAI軍拡競争状態に突入したといえよう。

ＣｈａｔＧＰＴとは？

　ChatGPT、何か特別な機能を持つアプリではなく、単なる対話AIである。ただし人間同士での対話としか思えない自然で流暢なやりとりが出来、加えて多種多様な膨大なテキストデータを学習することで、格納される知識量が桁違いに多く、子供向きの物語から披露宴のスピーチ、そしてコンピュータプログラムさえ出力してくれる。我々が言葉で訊くことができることのほぼ全てに対して、流暢な言い回しで優等生のような回答をしてくれる。これは人間にはまず真似出来ない。

　2021年9月までのデータにて学習されている、という制限はあるものの、「○○について教えて」といった検索的な使い方も可能だ。Googleなどで検索する場合はキーワードを入れると関連する複数のWebサイトがリスト表示され、いくつかのサイトにアクセスしつつ自分で答えをまとめる必要がある。

　これに対してChatGPTの場合、人間同士であれば何か分からないことを相手に聞けば、相手が分かる範囲で言葉として回答してくれるが、それと全く同じことがChatGPTで出来てしまう。しかも、まず期待以上の回答をしてくれることは間違いない。聞きたいこと、話したいこと、悩み事があればChatGPTに聞けばよいのだ。

　もちろん発展途上のAI技術であり、現時点においてではあるが、いくつかの懸念も指摘されている。ただし、それらは欠点ではなく、現時点では未解決であり、これから研究開発が進むことで克服されていくと捉えるべきである。

　最も多く指摘されるのが、情報検索のような使い方をした場合の回答が必ずしも正しくはない、ということである。質問についての知識が学習されていない場合もあれば、学習に利用したデータの偏りによっても間違った回答をすることがあり、何よりユーザからの問いかけの仕方自体が大きく影響する。ChatGPTはデータベースのように知識が構造的に記憶され、正しい知識が引き出される仕組みではないのだ。

　簡単に説明すると、ユーザからの入力文に対する繋がりとして確率的にもっとも適切な文を生成しているだけなのである。我々の言葉は文法規則に基づいて単語同士が繋がるわけだが、一方、「ある単語の次にはこの単語が来る確率が高い」というように単語同士の繋がりを確率で表現することもできる。

　とんでもなく膨大で多種多様なテキストの単語と単語のつながり方を学習すれば、得られる繋がり方の確率分布には文法規則も含まれることになる。単に単語同士の確率を学習しただけでは、ChatGPTのような振る舞いは出来ないと思われるかもしれないが、膨大なデータで学習することでこれが可能になるのである。

　興味深いのが、学習させるテキストの量を2倍、3倍にすれば対話AIの能力も2倍3倍になるのではなく、テキストの量を10倍100倍というように指数関数的に増加させることで対話AIの能力が2倍3倍になるということが分かったことである。

　ただし、これだけでは倫理的に問題のある回答をしてしまうかもしれない。そこで、ChatGPTでは確率分布が獲得された後、強化学習と呼ばれる、人がトレーニングを施すことで、倫理的に容認されない回答をしないような安全対策が施されているのだ。これはAI Alignmentと呼ばれる。

　ChatGPTが類似する他の対話AIと異なり、これだけのユーザが利用しつつも、大きな問題が発生していないのは、強化学習を取り入れているからであると言われている。AIの構築には驚くほど人手がかかっているのである。

なぜＯｐｅｎＡＩだったのか？

　ところで、なぜGAFAMではなくOpenAIだったのか？　GAFAMも同程度に大規模な対話AIを開発していたものの、AI Alignmentに対する対策が徹底されておらず、倫理的に容認できない返答をしてしまい、これが炎上することになり公開を中止するということを過去に経験していたのだ。

　GAFAMほどの巨大企業だからこそ、このような炎上が命取りになる可能性があり、対話AIの公開に慎重になるのは当然である。廻りが躊躇するタイミングで、徹底したAI Alignmentを施したOpenAIが隙を突いてChatGPTを公開したのである。そして、それまでOpenAIをサポートしていたイーロン・マスク氏はサポートから撤退しており、巨人Microsoftが1兆円を超える投資をするのである。

　しかし、対話AIは正確性に問題がある。ならば、対話AIに検索能力を付加すればよい、ということで、Microsoftが公開したのが、投資したOpenAIのChatGPTに検索機能を付加したBing AIという対話AIだ。

　Bing AIで問い合わせすると、ChatGPTのように回答してくれるだけでなく、その回答の根拠となるWebサイトのリストも脚注のように表示される。こうなると、もはやユーザはいちいちキーワードを入力して検索しなくても、Bing AIに聞けばよい、ということになる。

　「ググる」という単語が死語になるかもしれない、ということから、慌てたGoogleが緊急事態であることを意味するコードレッドを社員に宣言することになった、という映画のような展開があったのだ。

創造することとは？

　さて、このような強力なAIの登場に対する懸念もメディアにて取り上げられているが、中でも気になるのが、ChatGPTの登場で人の創造力までAIに奪われてしまうのか？　という懸念である。

　答えはNOである。あくまで現時点のAIは自律性を持たない道具であり、あくまで我々の創造力を強力にサポート・増強してくれる存在である。我々の発揮する創造力は大きく2種類に分けることができると考えている。「ゼロから生み出す創造力」と「繋げることで生み出す創造力」である。

　前者は偶発性などが必要で、偉大な発明が該当し、この創造の価値がすぐに社会に認知されるとは限らず、社会に役立つまでにも長い時間を要することが多い。これに対して日常における創造はほぼ後者のタイプであろう。繋ぐことで創造されたことは周りにも理解されやすく、この創造が別のアイデアと繋がることで新たな創造を生み出していく。

　ChatGPTの持つ知識量は膨大で、一人一人の頭には存在しない創造力を後押しするための大量のネタが詰め込まれている。つまり、問い合わせすれば適切なネタをどんどん提供してくれる。自分の頭にはない多様なネタが瞬時に出力されることで、我々が勝手にAIが創造しているように感じるだけのことである。

　つまりは提示されたネタと自分の持つネタを繋げることで新たな創造をしているのは、あくまで人の方である。ただし、自分で検索したり調べたりすることなく、対話AIは多様なネタを瞬時に提示してくれるのであるから、創造することの効率性が格段に向上するのは間違いなく、よって、我々の創造力を強力にサポートしてくれる存在なのであり、対話AI自体には創造力はない。無論、ゼロから何かを生み出す能力もない。これは画像を生成するタイプのStable Diffusionのような生成系AIにおいても基本的には同じであろう。

二極化する世界

　今後、ChatGPTのようなAIの能力が急速に向上していく中、我々の社会にはどのような影響が出てくるのであろうか？　残念ながらAIを使いこなし、その恩恵を受ける層とそうでない層の二極化が進む可能性が高い。しかも前者に比べて圧倒的に多くの後者が生まれることとなる。

　ユヴァル・ノア・ハラリの主張する「ホモ・デウス」では富裕層がテクノロジーを使い自らをアップデートすることで、ホモサピエンスから神のレベルであるホモデウスに進化するという主張と同じである。使いこなす層は創造力を発揮することで、より富むことになる一方、単にAIの提示を受け取るだけの層は逆に思考力が低下するかもしれない。単に機械的にテキストを生成する仕事であればそれは完全にAIに取って代わられることになる。高度化するAIは単に社会に浸透し我々の生活を向上させるのではなく、我々への変化を強制することになる。

　では、我々はどのように変わればよいのか？　実は難しいことではないはずで、本来の人ならでの能力を育めばよいのである。適応力・文脈／行間を読む能力・多様性・感性・共感力など、そもそも我々人間が社会を持続させるための基本的な能力ばかりである。

　そうであるなら、変化する必要などない、と言われかねないが、現在の我々がこれらの能力が低下しつつあるのではなかろうか、ということを強く主張したいのである。インターネットが発明されSNSが社会に浸透するようになってから、これらの能力が低下しつつあると強く感じる。

学校教育への導入

　学校教育でのChatGPTへの対応について、日々いろいろな意見を見かけるが、結論から言えば、現在の画一的かつ詰め込み型の学校教育とChatGPTの親和性は極めて低く、使用を禁止する方向となることは自明である。感想文において、本のタイトル以外に、生徒が自分の個性や生成する文章の完成度のレベルまでを指定して生成された感想文を、もはや教員が、生徒が自分で書いたものかどうか見抜くことは不可能であろう。

　このことは、自助では難しかった、現在の学校教育の変革がChatGPTという黒船の到来による強制的な対応が不可避になってきたことを意味している。問題の根本はChatGPTにあるのではなく、そもそも「学ぶこと」に対する目的意識や好奇心があるかないかに尽きる。

　自らのモチベーションがあるなら、豊富な知識を獲得するために積極的に調べたり、生成された文章に対しての考察をしたりするわけで、例えば、ある作家の考え方に興味を持った場合には、言われなくてもその作家の書物を読みあさり、作家の考え方についてまとめようとするはずだ。

　しかし、現在の学校教育は教室に大勢の生徒がいて、みな同じ教科書で同じ問題を解く画一的かつ詰め込み型である。高度成長期の大教室形態の教育スタイルが現在も基本的に継続されている。欧米では個性を伸ばす教育をしているとよく比較されるが、生徒それぞれ異なる個性に寄り添う教育スタイルに抜本的にシフトする必要があろう。

　無論、いきなりそのような教育スタイルに変更するのは難しいが、すぐにも着手できることがある。学校の教員が生徒一人一人に寄り添う教育に専念できるよう、AIの活用により、圧倒的な負荷となっている事務作業の効率化による負荷の低減をすることだ。

ＡＩの民主化

　格差を是正する一番の方法は、社会インフラである行政や教育の場面へのAI導入によるコストカットである。人を減らすという意味ではなく、AIでやれることはAIでやることで人は本来すべき仕事に集中できるようになる。無駄の削減効果は社会全体に還元されることになる。

　そもそも、ChatGPTの登場が意味する最大の出来事、それは「AIの民主化」である。これまではAIを活用するには、専門の知識や技術が必要であったが、ChatGPTはスマホでもパソコンでも文字を入力できるレベルのスキルがあれば誰もが最先端のAIを使うことを可能としたのである。今回のAIの登場による民主化が産業革命やインターネットの発明と同等かそれ以上のインパクトがあると考えるのはこれが理由である。

　どこからイノベーションが起きてもおかしくなく、特に高齢化が進む日本において、高齢者層がAIを活用することで利益を出す構図が生まれるとすると、この効果は絶大である。結果的に、コロナ禍によるインターネットの利活用に対する国民的なリテラシーが高くなっていることもAI活用を後押しすることになる。場合によっては、利益を出す年齢層における大きな変化が訪れるかもしれない。

日本のＡＩ開発

　日本国内における懸念よりも心配されるのが、AI研究開発における日本の立ち位置である。科学技術立国と評されたのは過去の話で国際的な研究力がどんどん低下している日本であるが、ChatGPTのような最先端AIに至っては米国との差が加速的に広がりつつある。ChatGPTのような大規模AIモデルはすべてのAIサービスの土台となることから、この土台を米国製に依存することは経済安全保障の観点からも好ましいことではない。

　国として産学巻き込んでの大規模AI開発をすべきであると考えるが、猶予はそうはない。まさに今が正念場であり、あと1、2年もすれば追いつくことは絶望的になり、日本自体がAIのユーザとして生きていく割り切りを迫られることになるかもしれない。それでも国産のモデルを保持しておくことは必要であろう。

進化を続けるＡＩ

　最後に、今後の展開について考察する。現状の生成系AIがその精度や知識量において限りなく向上したとしても、基本的にはオウム返しのシステムであることには変わりはない。人との決定的な差異は、自律性があるかないか、そして、生物である我々のように進化による大きな変化ができるかどうかの2点である。

　我々は自ら能動的かつ適応的に活動することで、日常生活を持続的に営むことができている。学習することができても、それを効果的に活用できなければ意味がない。そして、能動的に動作するために必要なのが、目的を持つことである。目的といっても我々は多様な複数の目的を常に抱えている。現在のAIが自律性を持つことで、我々の置かれた状況を能動的に把握しての対話が可能となる。そして、生物の進化は個々の個体での時間よりもはるかにゆっくりと進むが、我々が構築するAIでは意図的に進化的な変化を起こすことが可能である。これによりゼロから生み出す創造も可能になる。

　このレベルに至るAIこそが人を超える存在となるわけである。そのようなAIと人がどのような関係を構築するのかについては様々な議論がされているものの、我々が将来において自律型AIとの共生社会が訪れた時に、人類にとって明るい未来とできるかどうかは現在の我々次第である。

この記事に関するご意見等は下記にお寄せ下さい。
chousa@tbs-mri.co.jp