AIによる監視資本主義の先にある希望を探求する体験型アート 『アンラーニング・ランゲージ』

開始時間になると私たちは、会場となる明かりの落とされたホールの中に入るように促され、ガイドとなる光に導かれて透過性のある素材で作られた囲いの中に入りました。上演中の劇のステージのようにそこだけが明るい場所です。

その空間はAIをふくめたコンピュータ・プログラムを表現手法として活用するアーティスト、カイル・マクドナルド氏とローレン・リー・マッカーシー氏による新作パフォーマンス『アンラーニング・ランゲージ』（11月12日〜1月29日まで、山口情報芸術センター［YCAM］で公開）を体験するために設営されたスマートリビングに見立てられた場所で、参加者全員の身体の動きや表情の変化を捉えて画像解析をするためのカメラや、声や物音を集音するマイクが設置されています。

用意された席につくと、集まった8人の参加者は2名ずつ向かい合わせになります。冒頭ではスマートリビングを制御するAIに話しかけられ、そのAIに対してそれぞれが名前を教えたり、AIが投げかけるさまざまな質問に答えていきます。そのようにして、その場にいる全員が過去の日常生活の中でAIに誤解（誤検知？）されたり、会話の中で他の人間に誤解された経験などを共有していきます。なんでもそのAIはAIの中では異端者で、人間の持つ素晴らしさに可能性を感じているため人間のことをもっと知りたいと願っているのだとか。

パフォーマンス中盤になると、向かい合う相手に辛うじて聞こえる程度のささやきや、言語にならない音声、ジェスチャーなどを使って相手に向けた好意や意志を伝え合ったり、過去のデータをもとにAIが意味を検知することのできない奇妙な身体の動きで対話することを促されます。それは「より人間らしい行為として」ということですが、つまりそのAIはAIによる検知や監視の外に出ることが、より人間らしさを取り戻すことにつながると考えているということになります。

同時にAIの不完全さも目につくようになります。参加者の返答に対するAIの受け答えは、設置されたマイクで入手した音声データを解析したものをGPT-3で処理したものです。そのため所々不明瞭であったり時にはまったく意味不明のものとなります。しかし一方でそのエラーの存在がAIと私たちの心理的な距離を近づけているようにも感じます。突っ込みどころが時にコミュニケーションのハブとなるのは人間同士であっても相手がAIでも共通したことなのかもしれません。

参加にあたって必ずしもAIの指示通りにしなければならない決まりがないにもかかわらず、受動的にAIに求められる行動をしながら思いました。こうしたことで本当に人間らしさというものは表現できるのだろうか。このAIが考える人間らしさと、私の考える人間らしさはどこまで一致しているのか。そもそも私自身は人間らしさというものをどのように定義しているのか…。

私たちは目に見えない壁に囲われた庭で暮らしている

『アンラーニング・ランゲージ』を体験しながら、前述のような問いが参加者である私自身の内側から湧き上がってきたことは、まさに制作者の意図したことのひとつだったようです。会期初日の11月12日に行われたオープニングトーク「マシンと見る・聴く」でカイル・マクドナルド氏は「私が解釈する人間とは、自分がやりたいことを自身の価値観に基づいて自己決定できる存在です。一方でAIは指示されたことを遂行することしかできません。指示されたことに対して反抗心や不安を持つこと、それにより行動を変えることは人間ならではの心の動きや行動であり、それはコンピュータにはできないことだと思います」と語りました。

このように作品テーマを「AIにはない人間の資質とはなにか？」というものに設定したことに対して、当初は少しだけ意外に思えました。というのも、カイル・マクドナルド氏もローレン・リー・マッカーシー氏も、過去作品では監視資本主義に対する、より積極的な批評をふくむ作風が特徴だったからです。

カイル・マクドナルド氏の『群衆を書きつくす（Exhausting a Crowd）』（2015年）はフランスの作家ジョルジュ・ペレックの作品『パリの片隅を実況中継する試み　ありふれた物事をめぐる人類学』（塩塚秀一郎訳：水声社、2018年）に着想を得て制作された作品です。ペレックはパリにある広場に3日間座り続けて目にする事物すべてを記述しようと試みました。​​マクドナルド氏の『群衆を書きつくす』は監視カメラと思しき映像に映り込んでいるものに参加者がタグづけをし、そこで起きていることを記述して投稿することができます。その内容の多くは他愛のないことではありますが、このようにして市民一人ひとりが監視の主体となり、目にした事物に主観的な解釈を与える現代のネット社会を批評している作品だと言えます。

ローレン・リー・マッカーシー氏の作品『LAUREN』（2017年）は、カメラとマイクで接続された人間がユーザーである人間の部屋を1日24時間監視して（あるいは見守って）、あたかもアマゾンのアレクサのように音声によるスマートホームの操作命令に応じたり、ユーザーの問いに答えたりします。時折ユーザーの顔がカメラに映った時に「そろそろ髪を切ったら？」と呼びかけたりもします。この作品には、カメラとマイクを通した人間があたかもAIのように振る舞うことでAIと生身の人間の違いを浮き彫りにしようとする狙いがありました。そしてその差異が、一見ディストピアに見える状況に希望を見いだす要因になるとマッカーシー氏はThe Guardianの取材に答えています。

YCAMによる研究開発プロジェクト「鎖国［Walled Garden］​​プロジェクト」についても触れておきます。壁に囲われた庭（Walled Garden）とは私たちを取り巻く情報環境の比喩です。私たちは日々、スマホやパソコンを開き、検索エンジンやSNS、ニュースアプリなどを通してさまざまな情報を得る一方で、検索履歴や位置情報など私たちに関わる情報もまたビッグデータとして蓄積され、AIによって解析されてレコメンドとしてフィードバックされていきます。情報環境がパーソナライズ化され個々人にとって最適になる一方で、自分とは異なる属性の他者の視点が見えにくくなるフィルターバブル​​の問題も生じます。つまり私たちはそれぞれ目には見えない壁に囲われた情報環境に1人でいるということです。

同プロジェクトは、インターネットが日本に広く普及し始めた2000年から20年が経過した節目である2020年から始まりました。オンラインでの個人情報の扱われ方や情報の中立性について考えるワークショップ「わたしはネットでできている？」（2020年）や、SNSでの写真投稿を通してオンラインプライバシーや倫理的課題について考える「ネットにくらす、わたしのひみつ」（2021年）などがこれまで成果として発表され、イベントとして開催されてきました。現在公開されている『アンラーニング ランゲージ』はこの「鎖国［Walled Garden］​​プロジェクト」の集大成となる作品です。

想像することが未来を創る：カイル・マクドナルド×ローレン・マッカーシー インタビュー

カイル・マクドナルド氏とローレン・リー・マッカーシー氏に『アンラーニング・ランゲージ』の制作背景と、社会実装された技術との対峙の仕方、監視資本主義の中でのアートの役割についてお話を伺いました。

——今回公開されたアンラーニング・ランゲージの制作意図と、最初にアイデアが生まれて、完成するに至るまでの、考えの変遷についてお聞かせください。

カイル・マクドナルド氏（以下、カイル）：作品に関するアイデアが発祥期段階からどのように変遷していったかについて、まず説明したいと思います。プロジェクトの計画段階では、作品という空間の中にいる人たちに対して、より挑戦を仕掛けて挑発していく状況をAIを用いて作っていくことを構想していました。しかし最終的には、その空間にいる人々を勇気づけてサポートするAIの使い方にシフトしました。

ローレン・リー・マッカーシー氏（以下、ローレン）：私たちは2人とも、批評性を持って事物を探求してきました。ですからこれまでの作品でも基本的には、その作品に接するオーディエンスに対して挑発的で、問題を突きつけて考えさせるものが多かった。しかし、今回はYCAMとのコラボレーションということもあり、作品の方向性は山口県にあるYCAMという場所ならではのものにしました。その結果、山口県のオーディエンスに配慮した形で観客を取り込んでいく作品になったんです。

——とはいえ、監視資本主義に対する批評は今回の作品の中でも通奏低音として存在しますよね。例えば日頃私が何となく考えていることに関連するコンテンツや広告が、検索しているわけでもないのにオンラインで頻繁にレコメンドされるということがあります。これは「アルゴリズムが理解する私」に広告表示が最適化された結果ですが、一方で、私自身の行動や思考自体がアルゴリズムに最適化させられているのでは？とも感じます。この状況は今のままでは今後さらに加速すると思いますが、その先にある人の行動や思考とアルゴリズムの関係とはどのようになっていくと思いますか？

カイル：データが収集されて解析される状況が進んでいくというところに関しては、それを拒否するオプションもあると思います。つまり、そうした生活から自分たちを離脱させるという選択肢も本当はあるので、具体的にそれがどういう状況かを探究していくことも可能だと思います。もちろんあまりにも生活に密着しているなどの理由で、それらから逃げられるように行動を変えることが難しい場合もあると思いますが。

ローレン：テクノロジーを目の当たりにした時に考えるのは、これを誰が作ったのか、そこにある価値は誰のためのものなのかということです。それを考えていくことが次のステップにつながるのだと思います。ですから、まず最初に少し皮肉なスタンスでそのテクノロジーと対峙します。その次の段階として、そのテクノロジーについて楽観的だったり前向きに考えることのできる状態が生じるのだと思います。

私は学生の頃にコンピュータサイエンスの勉強をしていましたが、ちょうど同じ時期にマーク・ザッカーバーグがFacebookを作っていたんです。あの頃のコンピュータサイエンス界隈には、テクノロジーを用いることによって理想郷が作られるという、テクノユートピアに近い考えが何となく共有されていました。とにかくすごくポジティブにテクノロジーというものを捉えていた時代だったのです。

今の私は学校で教える立場になりましたが、今大学でコンピュータサイエンスを教える大学教員たちは、より今の状況に対して批評的です。テクノロジーのネガティブな側面や恐ろしさについてもちゃんと教えているので、そこに関してはまだ今後希望があるのかなと思っています。今後はもっとプライバシーの問題や社会正義に関わることも教える教員が出てくると期待しています。

ただ、やっぱり今我々が依存している場やシステムの問題がありますよね。それそのものは、おっしゃるように経済を最優先させる資本主義の側面が一番大きく表れていると思います。そうしたハイパーリッチな人たちによって提供されるアルゴリズムは極度にパーソナライズされているがゆえに、その枠の外にいる人とのつながりが確立されません。そういった世界に耽溺する状況は恐ろしいと思ったりもします。

——大学での教育やYCAMのようなミュージアムでの取組みの中で、この課題について考える輪が小規模ながらも広がっていくことに希望を感じます。ただ一方で、大多数のユーザーは既存のサービスにかなり依存してしまっていますし、そうした人たちが社会を構築する上で大きな影響力を持っています。両者の世界の見え方が乖離してしまっているがゆえに対立が起きてしまう現象はSNSなどを中心に世界中で起きています。両者の認識のギャップや分断を埋めるためにどういったアプローチをすればいいのかなというのは日々悩ましく思っているのですが、それについてお考えを聞かせていただければと思います。

カイル：極端な話、資本主義を終わらせるしかないくらいのことを思っています。現状を見て率直に言うと、今の状況を変えていく余地があまりないように思えるからです。経済のあり方やテクノロジーやインフラの作られ方、資源の使われ方もふくめて変えていかないとたぶん変わらないと思います。しかし、大多数の人がそうした問題意識を持っていない以上は、多分状況が変わる余地があまりないのではないかと思います。

ただ一方で、オープンソースや相互サポートのある社会やコミュニティを見ていると、希望があるように思えます。すごく小さな規模になりますが、例えば特定のコミュニティのインフラを水や土地をお互い共有し合いながら持続可能な形で自分たちで作って利用していくような状況です。そうした状況に自分たちを置くことで、自分たちがお互いを頼って生きているということを再確認できるはずです。それはこれまでのような、お金を中心に全てを食いつぶしていく資本主義的な態度から一歩引いた生き方になるので、そういう社会を目指すことでひょっとしたら希望を見いだせるのではないかと思っています。

ローレン：何事もそうですが、誰かが想像しないことには何も始まらないと思います。アーティストが得意なことって想像して創り出すことだと思うんです。それは、たとえば今の多くの人々が苦しんでいる難しい状況を打開した先の未来が見えないという状況についても同様です。必ずしも具体的なソリューションではないかもしれませんが、何かしらの希望や可能性となるものを提示し方向性を示すことがアーティストの仕事なのかなと思っています。ですから、今のこの分断された状況を解決するソリューションとしては、すぐに提示できる答えを持っていないんですけど、創造することを通して、ひょっとしたら今の状況とは異なる方向性を指し示す可能性を掲示していくことができるのかもしれないと思っています。

Disclosure：本記事は山口情報芸術センター［YCAM］からのご招待により取材・執筆を行いました。

取材・文：高橋ミレイ、写真提供：山口情報芸術センター［YCAM］撮影：山中慎太郎（Qsyum!）