ホーム > 政治・経済 > 栗原 聡『AIにはできない』

政治・経済

栗原 聡『AIにはできない』

栗原 聡『AIにはできない』

Open AIのChat GPTの登場を皮切りに始まった第4次AI(Artificial Intelligence)ブーム以降、AIとそれを支える様々な技術(GPU、ストレージ、メモリ、電線、データセンターなど)は様々な業界で話題の中心であり続けています。

AIが時代の最先端技術として耳目を集める中でAIの活用方法や技術・戦略・投資的な価値について語れられることは多くありますが、その一方でAIそれ自体やその歴史、ポジティブな側面とネガティブな側面や潜在的なリスク、コンプライアンスの策定などはAI万能説を支持する一般ユーザーの関心をあまり惹きつけにくいという印象もあります。

そういったトピックは第4次ブームによってAIが民主化(誰でもAIツールを利用できる)されまでは主としてAIに携わる専門家の間で議論されてきたため、AIを使う一般層が専門的な問題へ関心が向きにくいという要因も考えられます。

『AIにはできない 人工知能研究者が正しく伝える限界と可能性』(2024, KADOKAWA)は前述のトピックを読みやすくまとめた入門書であり、第4次ブームの黎明期に至るまでの見取り図を簡潔に示してくれるほか、現在においてAIとどのように向き合うかについても示唆に富んだ内容になっています。

本書の刊行は2024年のため、2025年にDeepSeekを発表した中国の台頭やソブリンAI(他国に依存しない自国での開発・運用を行うAI主権)戦略など、本書の刊行以降に生じた変化についてはカバーされていませんが、第7章の後半部などでは、ソブリンAIの考え方に類似したAIの安全保障について言及されるなど、現在的状況に至るまでの流れを理解するうえでも参考になる箇所が多くあります。

著者の栗原 聡さんは慶應義塾大学大学院理工学研究科を修了後、NTT基礎研究所、大阪大学、電気通信大学を経て、現在は慶應義塾大学理工学部教授、慶應義塾大学共生知能創発社会研究センターセンター長、人工知能学会会長を務められるなど(本書刊行時)、長らくAI研究に従事され、『AIの倫理 人間との信頼関係を創れるか』(2026, KADOKAWA)の編著も担当されています。

AIの研究開発史を知る

本書の第1章はAIに関する歴史の概説で、生成AIの登場に至るまでの研究開発の変遷や、現在の生成AIの基盤となる技術などが網羅的に紹介され、AIが自動的に画像を認識することが、AI史のなかでいかに革新的な出来事であったかも語られます。

AIは1956年に登場した用語で、「様々な見のできる『知能』を人工的に実現させようという研究分野に付けられた名称」(19頁)であり、目指す方向性も多様なものがあるとされます。

AIの歴史はコンピューターの歴史と表裏一体であり、1946年に登場した世界初のコンピューター「ENIAC」、50年に提案された機械が知能を持つかを判定する「チュ―リングテスト」、同じく50年にノイマン型コンピューター(デバイスにアプリケーションをインストロールして操作を行う、パソコンやスマートフォンの基本形式)の実機「EDOSAC」が登場した後、1956年にダートマス大学の計算機学者であるジョン・マッカーシーが中心となって開催された「ダートマス会議」(The Dartmouth Summer Research Project on Artificial Intelligence)研究会で、研究分野の名称としての「人工知能」という名称が初めて登場したとされます。

その後「人工知能」という名称は「AI」に落ち着き、ダートマス会議後の1960~70年代が第一次AIブームとされ、「人ならではの能力である、『推論問題』や『パズル』『迷路』を解くことなどが題材であり、ざっくりと言えば答えを『探索』する研究がブームの中心」(22頁)だったそうです。

1970年代後半から1980年頃までは「AIの冬の時代」となり、そこから1990年にかけての時期が、第2次AIブームといわれています。第2次ブームでは、コンピューターの性能が向上し、専門知を教えられたコンピューターで専門家でしか解けない難題を解決させる「エキスパートシステム」が考案され、その中でも有名なものが医療診断システム「MYCIN(マイシン)」ですが、成果を出しつつも、「教え込む知識の『質と量』」(25頁)という一定の壁にぶつかったとされます。

エキスパートシステムでは専門知だけでなく、「常識」(原理を知らなくても「机の上には物を置くことができる」というような日常世界の当たり前)を導入する必要が生じ、「入れ込む知識が大量になってくると、互いに矛盾する知識が出てきて一貫性が保持できなくなる問題が発生するなど、システムとしての完成させることの難しさが露呈し」(26頁)実用化が困難となり、第2次ブームも冬の時代に向かいました。

技術転換と第3次ブームから現在へ

2010年頃から現在(本書刊行時の2024年)までが第3次ブームとされますが、2026年現在では2022年末頃にOpen Aiの会話型モデル「Chat GPT」(前モデルは「Instruct GPT」)が一般公開されて以降を第4次ブームと捉えることもあります。技術的な面でいえば、第3次はニューラルネットワーク、ディープラーニング(深層学習)、LLM(Large Language Models / 大規模言語モデル)の実装やAIモデルの大幅な進化が特徴となっていました。

第4次は、第3次ブームを支えた特徴的な技術を基盤にしたChat GPTを筆頭とした生成AIの台頭やアメリカビックテックのAIモデル(Copilot, Gemini, Claude, Grok, Meta AI )の浸透する一方、中国のDeepSeek(深度求探)やDoubao(豆包)、日本のSakana AIといった新興AIモデルの登場し、ソブリンAI(他国・企業に依存しない、自社・実行の主権AI)が提唱されるなど、AIの多様性が拡張・模索されている時期とも考えられます。

第3次ブームを象徴する技術であるDeep Learningは、「AIに学習データが与えられると、我々が意図する知的な処理を自ら学ぶことができるAI技術」(33頁)であり、「人間の脳を真似た技術」(同前)と端的に説明されます。合わせて、1968年の段階で考案されていた「ニューラルネットワーク」(脳の神経細胞を模した機械学習手法、断片的な情報/ノード同士で接続された「ニューロン」間の情報の送受信通じ、予測や認識を学習する)も、Deep Learningを支えた技術であり、パソコンやネットワークが著しい発展を見せたことで実現に至った多数の技術もまた、第3・4次ブームを支えてきました。

Deep Learningが広く認知されたのは2011年で、2012年にはGoogleが開発した新しいAIに猫の画像を多数読み込ませることで、人が猫の定義付けを教えなくとも、猫を見分ける画像認識能力を自ら獲得することに成功したという記事が全国紙に掲載され、Googleの開発したAIがDeep Learningが広く認知されました(34頁)。

Googleの「猫のAI」に続いて、2016年には人間が教える教師有り型の囲碁プログラム「AlphaGo」がプロ棋士に勝利し、その翌年にはオンラインサイトに対戦囲碁ソフト「AlphaZero」(開発はAlphaGoを手がけたDeepMind社)が公開され、ソフトのAIは自ら囲碁のルールを学習しプロレベルに上達するなども例を栗原さんは上げられます。また、参照するデータの規模に応じて指数関数的に向上するAIの知的レベルが、「現時点では想像できないイノベーション」(39頁)が短いスパンで起きる可能性も示唆されています。

画像や音声認識に強みのあるDeep Learningは各種顔認証の技術に取り入れられるほか、時系列データ(データの並び方の特徴)を学習する手段として、2017年にGoogleがTransformerという言語翻訳用の技術を開発し、後にChatGPTやGemini、Stable DiffusionやMidjourneyといった 画像生成AIの基盤モデルとして採用されています

パソコンやインターネットの進化と共に、第1次、第2次ブーム期に考案されど技術的な問題で実現できなかった課題がDeep LearningやTransformerの登場で達成されたことでAIが急速な進化(指数関数的な性能変化)を遂げるとともに、一般のエンドユーザーにもAIにアクセスする機会を広げるに至ったのが現在です。

AIの民主化

ChatGPTをはじめとする最先端の生成AIは、専門機関の技術者や研究者のみが触れるものではなく一般用のパソコンやスマートフォンから利用できることが特筆すべき点で、多くの人に開かれている状態は「AIの民主化」と呼ばれることがあり、栗原さんは次のように述べられます。

誰でも使えるようになった――正確には、最先端AIを使うべき人が、その人のリテラシーが低くても、そしてIT技術から距離を置いていた人であっても使いこなすことを可能にした――ということのもたらす効果さ絶大であろう。さらに付け加えるならば、誰もが最先端AIを「言葉」で使いこなすことができるようになったということの影響は多い。膨大な文章の要約や、スピーチの原稿作成、表計算、画像や動画の生成を、言葉で指示するだけでやってくれるのである。

(47頁)



生成AIの特筆すべき特徴は、関数や機械言語ではなく一般的な「言葉」で指示することができるという点であり、ユーザーに求められるものは「デジタルインフラを活用して『何をしたいのか』を考えることに集約される」(48頁)ことになります。もう一点、栗原さんは考えることと、ITのリテラシー(あるいは若年層と高齢者の間にあるデジタルディバイド)について、興味深い指摘をされています。

最先端ITは、高齢層より若年層のほうが使いこなすことができるとも言われる。しかしそれは単に、ITリテラシーという、IT技術を操作する能力が一般的に若年層のほうが高いということを理由とした、表面的な話に過ぎない。最先端AIになると、難解なITリテラシーが不要となり、むしろ何を問いかけるのか、何をどうしたいのか、という本質的な中身の部分が使いこなす上では重要になる。60歳代で定年になったからといって頭脳も定年を迎えるわけではない。論理的に考え、状況を理解したり、文脈を捉えたりする能力においては、年配。高齢層のほうがSNS依存度の高い若年層よりも総じて優れているであろうことは間違いなく、AIに対して適切なプロンプトや指示を与えることもできるはずだ。

(51頁)



加えて、栗原さんはAIの民衆化のもたらすネガティブな部分として「モラルに反する行為をしようとする人間に対しても、ITリテラシーを持たなくても最先端AIを使うことを可能にしてしまうこと」(51頁)についても留意を促します。フェイクニュース/ディープフェイクや既存の著作物や肖像権の権利侵害なども、生成AI時代の問題ではありますが、技術ではなく利用者のモラルやリテラシーに起因するものでもあります。

AIとの関係性を考える

本書第1章「AI開発の歴史は未来のためにある」、第2章「生成AIには何ができ、何ができないか」では、AIの開発・技術に関する歴史の概論で、第3・4次AIブームの基盤をなす技術(ニューラルネットワーク、Deep Learning、Transformer)についての解説などが中心となります。

現在のAIは写真や画像の内容を認識・同定することが当然であり、身近な例ではiPhoneに保存された写真から、季節や動物の種類、特定の人物などを自動的にグルーピングしてくれますが、そこにもDeep Learningによる学習の効果が表れています。

とはいえ現在のAIブームは猫を自動で認識したことが話題になってからわずか10数年しか経過しておらず、技術の進化速度に驚かされる一方、機械が自動で図像の内容を認識することがいかに革新的な技術であるかを、AIの技術史を知ることで気付かされます。

第3章「AIは経済の浮揚に寄与するのか」、第4章「AIを使うか、AIに使われるか」、第5章「社会が生成AIを受け入れるための課題」は主に経済・社会とAIとの関わりに関する話題が中心となり、近年しきりに叫ばれる「AIが仕事を奪う」という議論が第4章、著作権に関する問題が第5章で取り上げられます。

第6章「人とAIの共生」、第7章「AIのスケール化と日本の未来」は社会問題全般よりもやや技術的な議論が中心となり、「自律型AI」や、いわゆる「バディ(相棒)AI」、「エッジ(末端)AI」に関連した将来的なビジョンが考察されます。

AIと経済

AIによる業務への寄与は「圧倒的効率化」と「創造的作業」でありますが、効率化の普及においては、国内の行政・民間のビジネスに生成AIの活用が広く根付くことが条件とされますが、DX(Digital Transformation)の導入が遅れているのと同様に、まだ難しいと栗原さんは指摘されます(62頁)。

具体的には、用途限定型とは異なる汎用AI(AGI / Artificial General Intelligence)であるChatGPTの使用で、日常的なメールのやりとり、報告書や議事録の作成などの「ところどころでの効率化」であるため、業務の効率化とAIの導入による利益向上との関係性が見え辛くなる(65-66頁)と指摘されます。

AIに仕事を奪われ、あるいはAIを用いた効率化による人員削減は主にIT、コンサルティング、金融業界で進み始めており、「ところどころの効率化」におけるタスクは主に既存の情報を効率的に処理するという趣が強く、その業務内容もAIで代替可能なものが中心となっています。

栗原さんは人がやるべきタスクとして「創造的タスクや、人の感性や感情が関与する類のサービスに関するタスクなど、『新たな価値を生み出す領域』と『人対人に関わる領域』が該当する」(89頁)と、AIで済ませるタスクと人が担うべきタスクの棲み分けが求められる時代になりつつあることを指摘されます。人が担うべきタスクの多くは個々人のスキルや属人性が重視される領域であり、AIが諸々のタスクを担う時代において人が担うべきタスクの価値や重要性を改めて問い直すことが求められることが必要とされます。

AIが仕事を奪うという類の報道が過熱しすぎると、産業革命期のイギリスで起こったラッダイト運動(機械打ち壊し運動)のようなAI排斥論の登場も予期されますが、「新たなテクノロジーの導入は人から仕事を奪うだけでなく、新たな職業やサービスを生み出し、それにより世の中は前進してきた。(……)AIへの懸念がいろいろ指摘されていても、AIの研究開発という流れを止めることは現在までのところできていない。我々もこれまでと同様に、新たなAIというテクノロジーの登場に適応するために変わらなければいけないときが迫りつつある」(8頁)と栗原さんが述べられるように、AIに仕事を奪われる悲観論が先行しがちな論調が多いからこそ、AIにできない・AIと協働する仕事のあり方を模索することが必要な時代になっており、そこで重要になるものが人間力といえます。

人間力あるいは属人性

本書に末部において栗原さんは、AIの進化が加速しタスクが低コスト化するにつれ人が行うことの価値は上がっていくという興味深い指摘をされています。

 そして、AIがその機能をレベルアップさせていく過程で「人がする作業に対する価値」が改めて再認識されるようになるのだと思うわけである。
 「〇〇をやってもらうならAIのほうが適切で価格も安価だけど、割高な人に依頼しよう」という世界である。AIでも、人の作業と全く同じ“質感”すら出せるようになるのであろうが、それでも人がやったという事実の価値があるのだ。

(178頁)



AIはデータの収集・分析、図表の作成、質問に対するベーシックな解答の提示などに長けていますが、本書で繰り返し述べられるように創造力や状況把握(「空気」を読む力)、共感力や対人コミュニケーションといった社会性などを含む「人間力」を苦手としており、AIはまだ自律性を持たない道具であり、人と共に社会性を構築する相手とはなりえない(92頁)と指摘されます。

現在のAIは膨大な知識が詰め込まれているものの、五感を通してその場の状況を理解しての判断ができないことは先に述べた通りである。社会性は人が生きるための根幹であり、社会性を持つアリにせよ魚にせよ、お互いが協調することで生存し続けてきた。そのために人にせよアリにせよ、それぞれが自律性を持ち、自ら能動的に行動できる自律行動主体である必要があり、そもそも生命とはそのようなシステムであった。一方で現在のAIはまだ道具であり、高い自律性を持つには至っておらず、人とともに豊かな社会性を構築する相手とは成り得ないのである。

(91-92頁)



日本ではChatGPTを「チャッピー」という愛称で呼び、仮想的な人格を認めるような流れもありますが、現在的な道具としてのAIの進化系に相当する自律性を持つバディAIの登場が期待されています。

その一方で栗原さんは、「理想とは言えない情報教育の弊害として、現在においてすでに若年層におけるこれらの人間力の低下が懸念されている。しっかりした読解力や状況認識能力、そしてそれらを適切な言葉として表現できる能力がなければ、そもそもChatGPTを使いこなすことができない」(92頁)と指摘されます。

若年層の人間力が低下傾向にある一方、年配・高齢層のほうが文脈読解力・言語化能力などに優れ、ChatGPTに適切かつ効果的なプロンプトや指示を与えられるという指摘はデジタルディバイドの逆転現象が生じていることを示唆しており、道具としてのAIを効果的に使役する際には言語化能力を含む人間力が重要になるという部分は非常に興味深い論点でした。

ファイナンシャルアドバイザー(FA)の役割や、当社のビジネスであるウエルスマネジメント、いわば「人対人に関わる領域」に寄せて考えてみると、お客さまとFAの間に信頼関係を築く際には、栗原さんの指摘される「人間力」のようなスキルが肝心になります。

各FAに属人的な「人間力」に基づく提案やアドバイスが「人がする作業に対する価値」を有するということを踏まえると、ウエルスマネジメントにおいても、AIを活用した高度な情報処理と、お客さまとの対話や信頼関係の構築といった人が担う領域をどのように組み合わせるかが、今後重要なテーマになっていくと思われます。

国内AI産業の可能性

つい先ごろ(2026年7月15日)NVIDIAのジェンスン・ファンCEOが来日し、日本のメカトロニクス産業とフィジカルAIの持つ潜在的な可能性に言及したことが話題になりました。

AI産業は現在のところ米国ビッグテックと中国が中心となり、本書で取り上げられる生成・汎用AIの大半の米国のもですが、本書の終わり頃で国内の状況と展望について触れられます。

国内のAI開発では、汎用AIのような大規模基盤モデルではなく小規模の基盤モデルで、「用途を限定すれば小粒でも有用であることは間違いなく、国内産業活性化に役立つことも間違いない」(162頁)と述べられる「小粒AI」が主流となっており、おそらく、ファンCEOの言及したメカトロニクス産業やフィジカルAIは、用途が限定された小粒AIの優位性を見据えたものとも推察できます。

その他にも、日本ではSakana AI社が、複数の小規模AIを連携させるAIコンステレーションを駆使した独自の国産AIモデル(Sakana Chat, Sakana Marlin, Sakana Fuguなど)を展開し、予算も設備も非常に大規模となる米国型の汎用AIとは異なるAI研究が進められています。

Sakana AIは、小魚が群れ成すことで1匹の巨大な魚にように擬態する(複数の小粒AIで単一の大型AIとして機能させる)場面で知られるレオ・レオニの絵本『スイミー』の発想に由来し、「群生」による「創発」や「群知能」をベースにしており、栗原さんはSakana AIについて次のように述べられます。

それぞれの特徴の異なる小粒AIの集合体のほうが、多様性の観点において単体の巨大AIよりも高い性能を発揮できる可能性すらある。実際、小粒モデルを集合させることで高い性能を発揮する基盤モデルを構築するスタートアップ(Skana.ai)が米国ではなく日本で立ち上がっており、今後この流れが加速するかもしれない。

(163頁)

ある要素の群れから、集合体としての要素が生まれる現象のことを「創発現象」と呼ぶことはすでに述べた。そして、アリと列の関係や、魚と群れ、脳神経細胞と脳という塊の関係において、あくまで個々の要素しか見ないモノの見方と、個々の集合体として創発される一つの塊を一つのモノとして見る見方の、どちらのほうが強い傾向があるかが、実は東洋と西洋では大きく異なるのだ。しかも、グローバル化した現在においてもその傾向は変わらない。

(165頁)



栗原さんは東洋・日本的な「群」に関するも見方について、ロチャード・E・ニスペットの『木を見る西洋人 森を見る東洋人 思考の違いはいかにして生まれるか』(The Geography of Thought: How Asians and Westerners Think Differently …and Why, 2003 / 村本 由紀子 訳, 2004,)の、東洋人は木の集合体である森を見る傾向、全体を包括的に見る傾向があり、西洋人は木(部分)に着目する傾向が強い(165-166頁)ということを踏まえ、「次世代の、人と共生する反要請の高い自律型AIは一つのAIではなく、小粒の群れが創発するAIとして実現されると考えられる。そうなると、生物のような群知能型に基づく構築への期待が高まってくる。そのときこそ、東洋的感性を持つ研究者がブレークスルーを起こす可能性があるのだ」(167頁)と分析されます。

東洋・日本人は森を見る傾向が強いという点は、絵画を例にしても主観(近代的な遠近法)を明確にする西洋と、俯瞰(神の視点で全体見渡す)東洋の違いや、主語を曖昧にして他者との境界をグラデーション的な「間(あわい)」として把握することを好む日本語の特徴が出ているとも考えられます(参考記事: 「文学からお陰様を学ぶ(1)」)

現在はまだ実証研究段階ですが、AIコンストレーションの一例としてはNTTアーバンソリューションズなどが、複数のAIを用いたイベント企画・サイネージコンテンツの表示最適化などが行われており、コンストレーションを軸に据えたフィジカルAIを用いて、生成AIを契機とする第4次ブームの次段階がフィジカルAIだとすれば、第5次AIブームにおいて日本の技術的重要性が高まっていくかもしれません。

参考: 「NTTアーバンソリューションズなど、『AIコンステレーション』を活用したビル運営管理の高度化・効率化に関する実証を実施」(2026年5月19日, 日本経済新聞)

人間にできること

本書はAIついての技術・工学論ではなく一般的な基礎知識を学ぶ際のハンドブックとしても機能します。また、現在のAIブームを考えるうえでもAIの歴史を知ることは重要な観点になると思われます。

第6章「人とAIの共生」で検討される、AI自身がその場の状況を理解し自ら行動を選択する自律型AI、自律型AIを搭載した協働ロボットに対する信頼関係の構築(栗原さんは「おもてなし」ができる自律型AIが信頼されるAIと推察されます)などはフィジカルAIが台頭する時代が到来した際には重要な論点になる可能性があります。

栗原さんは「場の空気を読んだり、人を思って先回りした『おもてなし』のような動作をしたりすることのできない」(177頁)現在のAIを道具として捉える一方、高レベルの自律性や汎用性を持つAIの登場で「おもてなし」が可能になった段階では、AIとの共生、協力関係による人間の創造力の発揮、信頼できるAIによるアドバイスの取り入れといった、新しい選択肢が広がる可能性(同前)も指摘されます。

結論部では『AIにはできない』というタイトルへのアンサーとして、「AIには確実にできないことがある。今更と思われるかもしれないが、究極的には『人』にはなれないのだ、真に人にはなれない」(177頁)と述べられており、「人」であることには、寿命などの生命システムや、AIの高度進化の過程で、その価値が改めて再認識される「人がする作業」の担い手である「人」などが含まれています。

本書ではAIが進化を続けていく中で、相対的に「人がする作業」ないしは人間力などの重要性が高まっていく可能性が指摘されるほか、人間よりも場の空気を読むことの長けた「おもてなし」が可能な自律性を持つ汎用AIあるいはバディAI(栗原さんは『AIの倫理』でバディAIに関する章を執筆されています)が普及した際には、属人性を持ち人間力に溢れた「おもてなし」も高い価値や評価を獲得するのではないかと考えます。

教訓的なものではありますが、AIで済ませられるタスクをAIに任せることでタイム/コストパフォーマンスを上昇させ余裕ができた部分を、人間力や属人性の強化修練に励んだり、「創造的タスクや、人の感性や感情が関与する類のサービスに関するタスクなど、『新たな価値を生み出す領域』と『人対人に関わる領域』」(89頁)に関連した能力の向上に努めるなど、より一層の鍛錬や啓発が求められる時代が、AIの進化に連れて近づいていると感じさせられました。

本書ではAIの可能性や未来イメージなどが中心に取り上げられるため、AIの持つネガティブな側面や、問題を孕む部分はやや少なめですが、末部では安全保障におけるAI研究のあり方などにも触れられ、人工知能学会の「倫理指針」(2017年公開)が引用され、AIがデュアルユース(軍民両用)の技術であることを認識しながら、「研究の目的の明確化や透明性の確保」「研究に対するしっかりとした説明責任を果たすこと」(176)が説かれます。

AIの孕む問題については、本書の2年後に栗原さんの編著で刊行された『AIの倫理  人間との信頼関係を創れるか』でも個別の論考として収録されています。『AIの倫理』は本書を基礎編とするならば応用編に位置づけられ、異なる専門を持つ12名の執筆者の論考からなり、章によっては専門的な内容も含みますが、データ資源、生成AIと著作権、AIの法的人格、AIやデータセンターによる環境負荷など細かなテーマについても論じられているので、興味関心のある方はぜひ一読されることを薦めます。

鈴木 真吾

鈴木 真吾

2023年3月よりインハウスクリエイターとして写真・映像撮影および編集、グラフィックデザイン、DTPなどを担当。専攻は文化社会学、表象文化論等。

ご案内

5バリュースクウェアは、5バリューアセット株式会社(5VA)によるコラムを掲載するサイトです。資産運用や資産形成、経済全般などにご興味がある方に向けて情報発信をしております。

気軽に相談ができる場として、無料個別相談を設けておりますので、以下より詳細をご確認ください。