【JSAI2022】人工知能が発展する足場を作る「AI哲学マップ」の試み

人工知能学会誌において2021年から連載が始まったレクチャーシリーズ「AI哲学マップ」は、AI研究と異分野を接続する試みです。哲学、現象学、記号論、コンピュータ史、認知科学、社会心理学など人文科学系の分野を哲学側に立てて、AI研究者との自由な議論を展開しています。プロジェクトを進める清田陽司氏と三宅陽一郎氏が、AI哲学マップの狙いや現在地についてセッションを行いました。

AI哲学マップの目指すところ

レクチャーシリーズとしてAI哲学マップが始まったのは、コロナのパンデミックによってコミュニケーションのあり方が変わっていった時でした。オンラインでは対面時のような広がりのある議論がなかなかできないことが学会としても課題になりつつあり、社会に目を向けると研究者として何ができるのかと考えざるを得ない状況が続いていました。そこで、人工知能研究の視点のひとつとして哲学という層を加えることを目標に始めたのがAI哲学マップです。清田氏は人工知能学会が作成する「AIマップβ マップD」（以下、マップD）*1 を示し、そもそもの人工知能研究と哲学の関係について、次のように解説しました。

まず人工知能分野の特性のひとつとして、中心的な基礎理論が存在しないという点が挙げられます。マップDが人工知能研究の特徴をよく表していると思うのですが、真ん中の部分に、信頼性、公平性、説明可能性、Well-being Computingなど、フロンティアとされるキーワードが並んでいます。

多くの学術分野では、その分野の核となる原理原則が真ん中にあって、それを応用する形で外に広がっていくという構造をしています。たとえば物理学で考えるとニュートン力学などを中心とする基本原理があって、そこから発展していくという構造です。それに対して人工知能分野はどうかと言うと、その基本原理は明らかになっていません。人工知能という定義そのものさえ研究者によってさまざまです。ただ、研究の方法論として構成論的アプローチ、すなわち「実際に動くものを作って動かしてみることで知能の本質に迫ろう」という方向性は共有されてきました。

マップDの示すフロンティアは、まさに次のテーマになるであろうと、たくさんの方がさまざまなテーマに挑んでおられるところです。実は、その中心として哲学が機能してきた、哲学をもってフロンティアに求心力を持たせてきたという歴史があるのではないかと私は捉えています。（清田陽司氏）

清田氏は、人工知能（Artificial Intelligence）という分野が立ち上がろうとする段階から哲学が大きな意味を持ってきたと言います。1940年代にサイバネティックスというムーブメントがありました。中心となったのは数理哲学者のノーバート・ウィナーでしたが、哲学をふくむさまざまな議論から計算機で知能を実現するアプローチの探求が行われ、その理論は現在に続くコンピューティング、人工知能に大きな影響を与えたと言われます。第1次AIブームの収束時、さらにその後の第2次ブームにおいても、AIという技術領域だけではなく、そもそも知能とは何か、あるいは言語とは何かといった根本の議論が必要だとする認識が共有されています。また、人工知能という概念が登場したことにより哲学的な議論が促され、いくつかのテーゼは今も大きな影響を残しているという側面があります。

ただ、残念ながら哲学者とAI研究者の対話がいつも建設的なものになっていたわけではありません。過去を振り返ると、議論のすれ違いも起きていたようです。たとえば、日本の若手研究者が集まって活動していた「AIUEO」*2 という勉強会の回想録において、次のようなエピソードが紹介されています。1980年代中頃に雑誌『現代思想』の企画で哲学者とAI研究者が対談を行ったものの、哲学を研究するひとつのツールとしてコンピュータを捉えてもよいのではないかとするAI研究者に対し、哲学者はそもそもそう考えること自体が不遜だとし、まったく会話が噛み合わなかったということです。

そうした状況を踏まえ、清田氏はこのレクチャーシリーズの目指すところを3つ示しました。まずひとつは、異分野同士の対話が建設的に成り立つ場を構成すること。過去の例が示すように難しいことではありますが、現代社会が直面している課題にフォーカスすることでそれが可能になると考えました。さらに言えば、AI研究者が社会のさまざまな課題を捉え直すハブとなること、これが2つ目の狙いです。さまざまに細分化された課題を人工知能という領域がテーブルとなって再構成する、ある意味そういうことができる立ち位置にいるのはAI研究者ではないかと清田氏は考えているのです。そして最後は、第4次AIブームに向けて、その際に参照されるべき議論をアーカイブとして残していくこと。オーラルヒストリーとして対談記事だけではなく、最終的にAIマップβに新たな哲学の層を加えていくということを目指しています。

*1：人工知能学会が作成する人工知能学会研究の見取り図。さまざまな角度から人工知能研究にまつわる状況を視覚化したものです。いくつかのマップに分かれており、今も進化を続けています。
https://www.ai-gakkai.or.jp/resource/aimap/
*2：「AIUEO」は若手研究者による勉強会で、1977 年の冬に発足。80年代、90年代と
第2次AIブームを背景に学際的な議論も活発に行われていた。https://www.jstage.jst.go.jp/article/jjsai/35/2/35_257/_pdf

なぜ「AIと哲学」なのか

ここから、なぜAIと哲学なのかを三宅氏が掘り下げていきます。三宅氏の著作の中には、人工知能と哲学について著したシリーズ『人工知能のための哲学塾』*3 がありますが、これは自身がゲームAIの開発において足場として用いた哲学を解説した同名のセミナーをもとにまとめたものです。なぜ、AIと哲学なのか。身体を持ち、感情や台詞も含めてすべてを総合して、丸ごとひとつの人工知能としてキャラクターのゲームAIを作ろうとすると、自ずと開発の最前線で哲学的難問に直面するのだと三宅氏は言います。

*3：『人工知能のための哲学塾』（BNN、2016年）、『人工知能のための哲学塾 東洋哲学篇』（BNN、2018年）、『人工知能のための哲学塾 未来社会篇』（BNN、2020年、大山匠との共著）

たとえば、モンスターのAIを作る時にその身体はCGグラフィックスで作ります。骨の情報も入って動かすことができるわけですが、じゃあ身体を動かそうというと、はてどうしたものかとなってしまいます。知能から骨を直接制御すればいいのか、知能と身体の間にいろいろなレイヤーを重ねればいいのか、と。いや、そもそも運動は身体から起こるもので、知能はそれを調整しているだけなのか、と。これはいわゆる心身問題で、デカルト以来350年にわたる哲学的難問です。実は、自分のような企業にいる人間にとっても、開発の場においてこそ哲学的な難問が突きつけられるわけです。そうしてゲームAIを作っていく中で、人工知能の中には哲学が足場として機能しているということがなんとなくわかってきます。そこをうまく掘っていくと、人工知能を底上げができるのではないかと考えています。（三宅陽一郎氏）

三宅氏が示すのは、人工知能の探求とは人間を探求することでもあり、哲学やサイエンスによって人間を深く探求して、エンジニアリングによって証明する、というアプローチです。人間とは何か、生物とは何か、生命とは何かを深く知れば知るほど遠くまでエンジニアリングを持っていくことができるとしています（図3）。これは、このレクチャーシリーズの方法論でもあります。人工知能学会の外から多彩な、多方面の方々をゲストに呼んで、人工知能学会の中の研究者/エンジニアリングと会わせて、そこで得た気づきというようなものをエンジニアリングに持っていくとどうなるのかを議論する、それによって新しい人工知能の可能性をつかめるのではないか、ということなのです。

一口に哲学といっても、色々な哲学があります。『人工知能のための哲学塾』第一弾で扱ったのは主に西洋哲学です。デカルト、ライプニッツ、フレーゲの流れ、あるいはそのカウンターとして現象学が出てきます。そして、ソシュール、レヴィ＝ストロース、ラカンから始まる構造主義の流れ、そしてもうひとつは生物学からの流れとして、ユクスキュル、ベルンシュタイン、ギブソン、ベルクソンと続いています（図4）。

『人工知能のための哲学塾』第二弾では東洋哲学を扱っています。これまでサイエンスとは相性が悪いと言われてきた東洋哲学ですが、たとえば唯識などは知能の構成モデルとして捉えることができます（図5）。

西洋と東洋を、あえて二項対立で比較すると次の図6のようなイメージになります。左は人工知能をコンストラクティブに作る足し算による作り方です。右はどちらかと言うと引き算による作り方、とりあえず作っておいてそこから必要な機能を削り出していくという形です。三宅氏は、この両者を組み合わせてみることで新しい人工知能の可能性が見えてくるのではないかと捉えています。

AI哲学マップの中で起きていること

AI哲学マップの対談では実にさまざまなテーマが議論されています（図2）。ここでは、今回のセッションで言及されたものの中からいくつかトピック的に紹介したいと思います。

哲学者とAI研究者が相互作用的に、互いに反応し、議論が次から次へと発火していった印象が強烈だったのが、平井靖史氏（福岡大学）と谷口忠大氏（立命館大学）の回です（人工知能学会誌の掲載では第3回、第4回）。ベルクソンの研究者である平井氏と記号創発ロボティクスを掲げる谷口氏、やはり議論は身体の話から始まりました。身体からどのように言語が創発してくるのかということについて谷口氏が自身の研究をベースに語ると、それを哲学側から解釈するとこういうことになるのではないかと平井氏が応えるという流れです。つまり人工知能が行っているこの学習を哲学で解釈すると、実はこのような意味があるのではないかと捉えることができるわけです。すると、哲学的にそういう意味があるなら、このようなエンジニアリングのアプローチもあり得るのではないかとAI研究者側がまた発想する、そのような循環が対話の中で起こっていました。

あるいは西田豊明氏、伊藤亜紗氏の回（人工知能学会誌の掲載は第6回）では会話というものがどのような機構で成り立っているのか議論が交わされました。もちろん、会話システムについてはすでにこれまで多くの研究がされていますが、会話情報学の西田氏が提唱するコモングラウンドという概念や、伊藤氏の実体験（聴覚に障害のある人とのコミュニケーションにおいて何が起きるのか）など、こうした場でなければ出会わない知見がぶつかることで、より深い探究につながっていきました。

今回、AI哲学マップをやって分かったことは、80年代の哲学とAI研究者はお互いの学問の門の前で議論をして、中には入れなかったのかもしれないということです。しかし、時代はやはり大きく変わっています。人工知能技術が飛躍的に進歩して、かつディープラーニングが進化したことによって、これまでできなかったような深い知能のまでアクセスすることができています。そうなると、それぞれの専門分野ごとに本当に深い議論が成り立つわけですね。人工知能の色々な部分に対してそれぞれ議論が成立していると言えると思います。（三宅陽一郎氏）

こうした対話によって、これまで哲学的難問とされてきたような問題にも何か突破口が見つかるのではないかと三宅氏は大きな期待を持っています。たとえば、フレーム問題です。これは70年代から議論されている問題で、このフレーム問題を突破することは人工知能研究の大きな目標のひとつです。しかし、ディープラーニングにしろ、何を学習させるかは人間が決めています。ディープラーニングのような大きな技術的な進展をもってしてもフレーム問題を破ることが難しいとしたら、やはり何か視点を変えるしかありません。そこで参考になるのは、哲学をはじめとする、人工知能研究以外の領域分野が持つさまざまな知見ではないか、と考えているのです。

田口茂氏（北海道大学CHAIN）と谷淳氏（沖縄科学技術大学院大学）の回（人工知能学会誌の掲載は第2回）では、ニューラルネットワークの自律システムの立ち上がりは現象学で言う「田辺元の媒介的自立の哲学」と合致するのではないかという話が出てきました。実際、こうした議論は哲学者だけ、AI研究者だけではできないことでしょう。双方が交わることで、それぞれ普段は手が届かないような場所に行き着くことができるということです。こうした相互作用が起こるところを見ると、哲学の側にとっても、従来の幅を広げる意味があるのではないかと三宅氏は言います。

AI哲学マップ

冒頭で述べたとおり、AI哲学マップの大きな目標として、次のAIの研究のテーマを見つけるヒントとなるというところにあります。ここで三宅氏が示すのは、知的活動にある2つの方向性です（図7）。前述のようにマップDの真ん中は中空ですが、その周辺でいろいろなものを作っているというのが現状です。真ん中の中空を中心にしてエンジニアリングによって広がっていく、ある意味、これは水平構造的な拡張です。一方で、哲学など学際的な領域と組み合わせることで真ん中から正面突破できるのではないかと言います。従来の枠組みの中で水平構造で広げていこうとするのに対し、もっと別の階層で見てみよう、別の土地を見つけにいこうというように、垂直的な構造で底上げしていくというアプローチです。

技術は技術として水平構造的に人工知能の分野を形成していきます。そして、これからも拡張していきます。哲学はそれに対しては寄与しないかもしれませんが、ただ、レベルとして次の段階に上げようということをやるわけです。たとえば、ニューラルネットとかコネクショニズム、現象学、サイバネティックスのように少し異なる視点を持ってこれないだろうか、というように。哲学は、そうした知能の多層化をもたらすと考えています。垂直構造をもたらすというところに哲学の大きな意義があるのではないかと思います。（三宅陽一郎氏）

前述のように、80年代の哲学者とAI研究者の対話はうまく成り立ちませんでした。その原因の1つとして、三宅氏はコンピュータの性能であったり、技術としての人工知能の弱さもあったのではないかと指摘しています。今はその部分、技術としての人工知能が強くなっているからこそ、AI哲学マップが機能するのではないかということです。

では、そのAI哲学マップがどうあるべきかというと、必ずしも客観的なマップでなくともよいし、思考のガイドとしてAI研究者の役に立てばいいものだと捉えています。つまり、何に囚われていて、そこから考え方を変えるにはどういうふうにヒントを与えればいいのか、新しい方向性を示したいのだと言います。少なくとも、新しい分野を考える示唆を与えることは、最低限今回のAI哲学マップでやるべきことだと考えています。現在、プロジェクトとして作ろうとしているマップは5種類です。

1. 概念マップ：哲学が提案するいろいろな概念のマップ（哲学的概念がいかに人工知能の源泉になっているかを示す）
2. 人物マップ/書籍マップ：人物、書籍、それぞれの参照情報を示すマップ
3. 哲学概念/AI技術マップ：どの概念とどの技術がどういうふうな関連性にあるかを示すマップ
4. 基本問題のマップ：人工知能の開発において直面する、既知の基本的な問題を示す（単に知識だけではなくて、対話の中から導き出す）
5. 問いの発展マップ：三大問題以外にもある、さまざまな「問い」を洗い出しリスト化する

これらは現状、いくつか試作をしている段階とのこと。ただ、概念マップなど図式化が非常に難しいものもあり、まだまだ試行錯誤が続きそうです。キーワードの抽出自体は容易なものの、それぞれの概念が独立してさまざまなところで人工知能を推進していており、それを紐解いていくところに難しさがあると言います。

「哲学とは深淵に橋をかけることだ」と言う三宅氏、まとめとして、次の段階に行くには何を渡ればいいのかといったところをAI哲学マップを通して示したいとしました。

一見、哲学はあまり役に立たないと言われがちですが、これまで起きたパラダイムシフトにしても、橋を渡ってしまうとその仕事が忘れられてしまうだけで、その狭間では大きな哲学の仕事があったはずです。逆に、いまのトレンドでなくとも、しっかりとした哲学的な基礎の上でやりさえすれば、正しい研究活動は続けていけるはずです。たとえば、今はディープラーニングの発展段階にいますが、次の段階に行くには何を渡ればいいのか。哲学はそのように新しい場所を開拓し、次の進歩を大きく変えていくことに役立つのではないかと考えています。（三宅陽一郎氏）

Writer：大内孝子