【CEDEC2019】中島秀之氏 基調講演：環境との相互作用を取り込む予期知能が、機械学習の課題を解決に導く

9月4日から6日にかけてパシフィコ横浜で開催されたCEDEC2019にて、札幌市立大学理事長 中島秀之氏による基調講演「AIの諸問題に対する日本語的アプローチ」が行われました。ゲーム開発の中でも、ゲームの中、あるいは開発時のテスト、QAなどにAIが活用されるユースケースは徐々に増えてきています。しかし、AIにまだまだ課題が多いこともまた事実です。本講演ではAIを取り巻く現状、AIが直面する課題、そしてそれを解決するアプローチとして中島氏が考えている構想が語られました。

使い方が普及したものはAIと呼ばれなくなる

まず前提として、人工知能とは何かという定義から。中島氏は人工知能（AI）とは知能を探求する学問領域であり、人間の代わりに知的作業のできる機械を作ることとコンピュータを用いて人間の知能を研究すること、この2つを車の両輪としました。

機械よりも人間に関心を寄せてきた中島氏が40年以上AI研究に携わってきて分かった一番のことは、人間がすごく賢いということでした。何をもって知能と呼ぶかは、いまだに万人に一致した定義はありませんが、中島氏による定義は「情報が不足した状況で適切に処理できる」ことです。ときどき間違うことはあっても、意識せず正解に瞬時に答えにたどり着く能力を人間は持っていますが、同じことをコンピュータにやらせようという試みは成功していないのが現状です。

昨今のAIブームでは、AIだけが切り出されて語られることが多いのですが、AIはITの領域のひとつであり、連続したものです。ここで中島氏が例に出したのはワープロの漢字変換でした。漢字変換は、以前「AI変換」と呼ばれていましたが、今は誰もそのようには呼びません。つまり、やり方がよく分かっていないときはAIと呼ばれ、やり方が分かってしまうとAIと意識されなくなるわけです。

現在、盛んに研究されているAIの領域は機械学習と呼ばれる分野です。一方に、知識表現・推論といった比較的古典的な分野があります。今の人工知能ブームを牽引しているのは機械学習の一部であるニューラルネットワークです。ディープラーニング（深層学習）はニューラルネットワークの第3世代、最新型という位置づけになります。「深層学習が大きな成果を出している背景にはIoTからビッグデータが取得できるという環境があるからです。深層学習の技術と、それに見合う速度のコンピュータがあったとしても、インターネットがなかったとしたら成功していません」と中島氏は言います。

そして、ニューラルネットワークの進化によって、AIは「目」を持つことになり、色々な性能が上がり、実世界への応用が広がっています。目というのはニューラルネットワークが得意とする画像認識のことです。例えば、工業用ロボットの活用シーンで考えてみると、目がない状態では、部品を決められた場所に決められた形で置かないと、部品をピックアップすることもできません。しかし最近では、さまざまな製品を乱雑に積んだ中から適切なものをピックアップするというチャレンジがアマゾン主催で行われています。AIの目があることで、それくらい作業性能が上がってきているのです。

AIは道具であり助手である

今回のセッションで伝えたいメッセージのひとつとして中島氏が挙げるのは「AIは道具、あるいは助手である」ことです。よくAIに仕事を奪われると言われますが、AIは助手で、それをうまく使って自分がいい仕事をすればいいという立場で接するべきだとします。別の言い方をすると、大局的な方針（戦略）は人間が立てて、それを実行するための局所的な戦術はAIが考えるという関係です。

AIはゴールを示されたら盲目的にそれを遂行するだけです。これは、物事の判断や行動の規範になる価値観がAIにはないためです。価値観は実世界を体験するなかで培われるもので、体験することができないAIには持つことができません。そのため、AIを道具として使ったり、AIに仕事をさせるときのゴールは人間が決めることになります。このとき解消し難い問題として出てくるのが「フレーム問題」です。例として中島氏が引用したのは、『味がわかるとゾクゾクする超短編小説 54の物語』（氏田雄介著、PHP研究所）のひとつです。

「大量の札束に囲まれて暮らしたい」と、突然現れた悪魔に願った男は、数年後巨大な金庫の中で白骨となって発見された。

この話がこのような結末になったのは、大量の札束に囲まれて暮らしたいというゴールは満たされたものの、人間が生きるには食べ物や空気がいるといった当たり前の前提条件が落ちていたことが原因です。人間なら前提条件として示されなくとも常識として持っている知識も、条件として与えられないとプログラムには分からないのです。しかし、すべての条件を書き出すことは原理的にできない、これがフレーム問題です。

フレーム問題は、記号（必ずしも言葉でなく、抽象的な概念を示す記号もふくめる）が持つ、そもそもの問題に起因します。記号とは「世の中を、知能にとって意味のある同値類に分類した結果」です。つまり、世の中の事象一つひとつに対応していたら大変なので、分類して同じ記号が付いたものは同じとする、そのラベルです。ただ、このとき世界は無限に広がっていますから、すべてにラベル付けすることは原理的に不可能となるわけです。記号に表すことができなければ、人間であれAIであれ、伝えることができません。

機械学習が直面する課題

具体的に機械学習が直面する課題のひとつは、学習結果の改ざんが可能だということです。機械学習はデータ（例）から学習しますが、その結果に恣意的にノイズを入れることで、誤った出力を出せるのです。つまり、機械学習は騙したり裏切ることができるということです。もうひとつの問題は学習データの偏りです。マイクロソフトのAIチャットロボット「Tay」がヘイト発言を学んだことで問題発言を乱発し、すぐにプログラムが停止されたことがありました。また、中国のテンセントが提供したAIがユーザーとの対話で共産党批判を始めたという話もあります。

こうした学習データの騙しや偏りといった問題を機械学習だけで解決するのは難しいとする中島氏は、「予期」というプロセスをAIに取り込むことで解消できるのではないかと提案します。

Googleの画像検索に『犯罪者』と入れると黒人の写真が多くヒットするのは学習データの偏りが起こす問題ですが、顔認識のレベルで間違っているのではなく、それより上位レベルの知識に問題があることを示しています。この場合は、差別や格差といった社会的な問題などが学習データの偏りにつながっているという見方ができます。このような形でデーターにより改ざんされてしまわない知識をAIが世界から得られるように、予期のメカニズムを入れます。

たとえば、交差点で車の先が見えたら車が進入してくると思うのは「予測」です。一方、交差点で車とは見えていないけれど、”交差点だから”横から車が出てくるかもしれないと思うのが「予期」です。

虫の視点と予期知能

予期する知能を作る上でポイントになるのが「虫の視点」です。虫の視点によって環境を利用し、予期へとつなげようというわけです。

「鳥の視点」は空の上から物事を眺めている視点、「虫の視点」は地面を這い、そこにある物事と一緒に存在する視点です。鳥の視点の言語からは自然科学が生まれ、虫の視点からは工学が生まれます。一般に、工学では構成的手法（研究対象のモデルを構成し、動かすことにより理解を得ようとする方法）を使います。実は、この構成的手法がポイントのひとつです。構成的手法を採ることで環境を利用し、環境とのインタラクションによって予期するのです。

中島氏が示す構成的方法論の定式化は下の図が示す通りです。左上に示す「概念世界」が頭の中の世界で、その下が実世界です。頭の中で「こういうものが作りたい」と思い描き、それを作ることで生成物が実世界に現れます。

実世界に物を作ると環境との相互作用により、本来想定していたこともしていないこともふくめて、さまざまなことが起こります。それらをふくめて何が起きているかを分析し、概念世界の認識に戻します。このとき、目標と完全には一致せず、少しズレが生じます。ループを回すごとにズレていく、そのズレを認識に戻していくのが構成的方法論となります。「これが正しいと思って作っても使ってみたら色々不便な所が出てきて、直していくうちに最初に思い描いたものではない物にしていくのが面白い所です」と中島氏は言います。

人間が外界を見て認識するときにも同様に「志向性のある意図（予期）」が認識をガイドします。予期があることによって、世の中を見て、現状の認識に戻るというループを人間もしているわけです。

環境との相互作用

環境との相互作用をどう取り込むか。ここで環境について話が進みます。紹介されたのは、ユクスキュルの「環世界」です。これは、生物は自分が住む環境を自ら作り出しているのだ、自分のセンサーで見たいものを見て、生きるために必要な行動をしているという考え方です。

たとえば、ダニは光のセンサー、酢酸センサー、温度センサー、触覚センサーという単純な4つのセンサーだけで自分の世界を司ります。ダニは、光のセンサーに従って明るいほうに行き、その結果、木に登るという行為をします。木の上で哺乳類の汗にふくまれる酪酸を検知すると、そこに落下します。うまくいけばその哺乳類に取りつき食料である血液が得られます。落下した先で熱を温度センサーが感知しなければ、その場所に哺乳類はいないということなので、もう一度、光のセンサーに従って木に戻るという具合です。

こうした仕組みをシステムに導入している例はすでにあります。環境との間にループを回すことで、認識、推論、行動を起こすアーキテクチャです。それまでは、認識した環境から知識表現を作り、推論し、行動するというように、順番に行っていましたが、それを知識表現なしにパラレルにやるというのが、ロドニー・ブルックスが1987年に発表した「サブサンプションアーキテクチャ」です。これは現在、実用化され、ロボット掃除機のルンバに搭載されています。

中島氏がここで提案するのは、環境までふくめた知能システムのアーキテクチャです。環境を利用し環境に計算させる知能観です。

「環境に計算させる」ことの一例として、たとえば登山で浮石を避けるときを考えてみます。どうやって見分けるかというと、ロボットは目であるカメラで観測してさまざまな情報を取得し、浮石かどうか推論して乗るというのが従来の考え方です。一方、人間はどうしているでしょうか。登山のインストラクターなら「足をかけて押してみる。動いたら浮石、動かなかったらそのまま乗りなさい」と言うでしょう。モデル化すると図のようになります。

こうした環境を利用するシステムは、今後、知的なプログラムやロボットを作っていくときに有効な考え方になると中島氏は考えています。最近では、腕などの軌道を完璧に計算せずにフィードバックを元に適当に動くというソフトロボティクスという技術がありますが、それも同じです。行動が環境に与える反応を使って、次の行動を調整します。

推論の学習を回すディープラーニング

さらに、ディープラーニングへの適用です。まず、囲碁AIのAlphaGOを例にAIシステムの階層を次のように解説します。

AlphaGOは、ディープラーニングを使って人間の記譜を3,000万局程度学習させて、盤面に対し次の一手を出します。これは、「意味は分からないけれど出す」という状態です。その上に、強化学習で次の一手を色々やってみて強いストラテジーを考えて出すという階層を積み重ねています。図にある「弱いAI」「強いAI」は哲学者のジョン・サールが作った言葉で、弱いAIは見かけは知的だが意味を理解していないAIのこと、強いAIは見かけも知的で何をしているかも理解しているAIという定義です。

この2階層の上の部分が、「予期」になると中島氏は考えています。スカイネット（『ターミネーター』に登場する、自我を持ち人類の殲滅を目論むシステム）のように、目的を自らで定めることができるAIを実現させるためにはメタ推論が必須です。

そして、まだ実現できていないこととしながら、どういうアプローチが考え得るかを示しました。図のCはディープラーニングで実世界とのループで色々なことを学習する部分、その上に記号推論B（予期）を乗せ、その上にさらにAのメタ推論を乗せます。このとき、Aをもう一度ディープラーニングで学習させるのです。Bでは、実世界との相互作用で認識を学習します。その上に推論Aが乗っているわけですが、同じ理屈で推論を学習するのはどうかということです。

このように、環境の利用についてうまく考えていくことによって予期知能ができ、さらに推論（予期知能）を帰納的に学習していくことで自意識を持つことも可能になると中島氏は考察しました。

最後に、教育についての興味深い言及を引用します。

今後、技術の進歩が速くなり、大学で専門教育を受けてその職業で一生仕事をするというのは不可能になります。場合によっては分野そのものがなくなるかもしれません。AIに任せられる所はAIに任せて、私たち人間は、リベラルアーツから新しいことの学び方や応用の仕方を身につけることが肝要となるでしょう。

道具としてAIを使うというシーンでも、それで自分が何をするのかを考えていくべきだと中島氏は語ります。将来、仕事の大部分をAIやロボットが代替するようになったとき、自分は何をするかという人生の目的を人間の側は考えなければなりません。

どういう社会にしたいか、思いつくことが大事です。AIという強力な武器を使ってそれをどんどんデザインしていきましょう。

CEDEC 2019 AI関連セッションレポート

AIりんなのボイストレーニングが示す、情動的で人間的な機械学習とは？

汎用型ボードゲームAIの開発に向けたモリカトロンの挑戦

人工知能が敵キャラを育てる！ ディープラーニングを使った次世代のゲームAI開発

Writer：大内孝子