【Ars Electronica 2023】生成AIとEU法制度：AIの導入とクリエイター保護のバランス

「この分野を主導できるのはアメリカではなく、ヨーロッパになるでしょう」

2023年9月オーストリア・リンツで開催されたArs Electronica FestivalでAI産業における労働条件の規制の必要性を訴えつつ、冒頭のように主張していたのは、アメリカ人ジャーナリストKaren Haoです。彼女はWall Street Journalの元記者で、AI開発のためにベネズエラやケニアなど貧しい国の労働者たちが従事してきた低賃金かつ過酷な下請け労働の実態を告発しました。ヨーロッパがこれまでデータやプライバシーに関わる法規制の整備で大きな役割を果たしてきたように、AI産業における労働の規制においても世界をリードする立場にあり得るだろう、と彼女は考えています。

現在AIに関する諸問題に対して、政府が最も規制の枠組み作りに積極的なのは、ビックテック企業を抱えるアメリカ政府ではなく、また日本をふくむアジア諸国でもなく、ヨーロッパであると言えるでしょう。 欧州議会は、2023年6月にAIに関する規制法案AI Actを採択しています。その規制の内容については、ヨーロッパ内でも、例えば「AI規制が技術開発における健全な競争を妨げる」といったテック企業からの反発など、さまざまな意見によって賛否が分かれています。今後日本をふくめた各国で展開されるであろうAI規制のあり方を考える上で、ヨーロッパの専門家たちの間でどのような議論を経て法律に落とし込まれていったかを知ることは重要です。

メディアアートの祭典Ars Electronica Festival 2023で行われたヨーロッパのデジタル分野における技術革新に関するシンポジウム「The Next Renaissance」では、文化やクリエイティブ産業とテクノロジーの結びつきが持つ意味について議論をするディスカッションが行われ、とりわけAIの倫理的側面や透明性、データの管理とガバナンスに焦点が当てられました。AI技術の開発者などの専門家に加えて法律家やEU機関のアドバイザーなどが参加して、テクノロジーの将来に関するさまざまな見解や提案が提示されました。今回のシンポジウムの内容はすべて動画で公開されていますが、特にその中から法制度のあり方についての内容をピックアップしたいと思います。

※今回のシンポジウムの内容（5時間弱）はすべて動画で公開されている

ドイツの法律家によるAIを巡るEUサイドからの法制度の現状説明

Christiane Stuetzleは著作権法およびメディア法を専門とする弁護士・法律家で、アメリカのエンターテイメント業界に多数のクライアントを持つ「ドイツのハリウッド弁護士」と呼ばれています。またヨーロッパではAIや著作権に関する法整備について助言を行っています。彼女はレクチャーで、現状のEU全体に適用される法的枠組みの中でのAIに対する規制のアプローチと、他の地域との違いについて説明を行いました。

AI規制法によるリスク評価、訓練の透明性を義務付ける動き

日本から見ると少々奇妙な印象を受けますが、欧州委員会（European Commission：新規法案を策定する)と欧州議会（European Parliament：直接選挙で選出される組織)と欧州理事会（European Council:EU加盟国の国家元首または政府の長と欧州理事会議長、欧州委員会委員長で構成される)の３つの機関がそれぞれにAI規制の草案を作成しています。

EUには、著作権におけるテキストデータマイニングに関する例外規定がありますが、その中で欧州議会が現在提案しようとしている考えは「透明性義務」というもので、訓練に利用したテキストやデータについて明示させる義務を課し、それがフェイクニュースや著作権侵害を起こした場合に追跡できるようにするという提案です。多くのビックテック企業はそんなことは不可能だと主張しているそうですが、それでも「３つの機関がその透明性義務についてこれからどのように合意形成していくかを見ていきましょう」と彼女は語っています。

実際的な問題として、例えばアーティストであれば自分の作品をAIに学習されたくないと意思を示すことはできても、実際にAIへその意思を伝える技術的な知識を持っているとは限らない、と言えます。また自身のコンテンツに対して検索エンジン除けの設定をしたとしても第3者が無断でコピーしてしまったものを勝手に学習される可能性があるという問題もあります。そうした現場で実際に起こり得る問題をこれからの法整備においてどのようにクリアしていくべきかを考えていかなければならないということも彼女は指摘しました。

AI提供者とクリエイターとユーザーの3者の立場から

また彼女自身はテクノロジーの専門家ではないとしながらも、実際に担当したGetty ImagesとStable Diffusionの例（Getty Imagesの透かしがStable Diffusionの生成画像にも入っている）を挙げ、AIサービス提供者とクリエイターとユーザーの3者それぞれの立場から今後検討して解決していくべき論点について、上のスライドにまとめました。

これらの当事者それぞれの事情を整理しながら、「すべての訓練データのソースを完璧にトラックするためには、膨大なサーバーを用意しなければいけない」「もしあなたがAIを開発しているなら、すでにこれまで何社かのレコード会社が行なったように、AIの訓練に関する包括契約を用意するなど、著作権保持者と訓練データについて調整を行った方が安全である」「もし作品を訓練データとして使われることを本当に拒否するのであれば、自分の作品へのアクセスを遮断しなければならないため、そこも考慮して、皆が利益を得られるような仕組みにしなければいけない」といった指摘やアドバイスを付け加えています。

最後にChristiane Stuetzleは「個人的な予想」として、2024年6月のEU選挙の直前にAIに関する包括的な法案が可決されるのではないかとコメントして講演を締め括りました。

文化のためのAIには何が欠けているのか？

その後行われた「AI for culture. What is the missing link?（文化のためのAIには何が欠けているのか？）」というパネルディスカッションでは、先進的な建築学の研究者Rachel Armstrongとフランスの著作権管理団体SACEMの欧州・国際広報部長Héloïse Fontanelとドイツで弁護士資格を持つ著作権法の研究者Susan Bischoffというパネリストたちに加え、コンピューターによる創作と音楽を専門とする研究者Geraint Wigginsが司会進行を務めました。この4者に加え、シンポジウムに参加し会場に残っているパネリストも随時発言をして議論に参加して、シンポジウムを総括しました。登壇者それぞれがAI技術の導入とクリエイター保護、法務の３つの視点から専門的に語る興味深い内容のディスカッションでした。

ここではAIの法規制のあり方についていくつかの重要な考え方が述べられましたが、先のChristiane Stuetzleの講演を受けて「AI技術の導入とクリエイターの保護の間にバランスを取る」ことの重要性についても繰り返し言及されました。

どのように訓練に作品が使われているのか、アーティストに十分な対価が払われるのか、そしてAIの開発についてどのような訓練データが用いられているかの透明性を保つ必要がありますが、それを実際にどのように行えるのかという問題もあります。

そうした問題提起と並行して、聴衆からも「やはりAIはアーティストの職を奪うのではないか」といった懸念の声が上がっていましたが、それに対し法律家のSusanは「イノベーションと創造性の保護は両立できるものとして信じたい。誰も対価を得られない状態で創造的な仕事に就きたいとは思わなくなるだろうから」と回答しました。また彼女は「例えば、テキストやデータマイニングをオプトアウトするための技術標準を策定したり、権利団体からライセンスされて権利がクリアになった訓練データのデータベースを構築する形での共同市場規格も役に立つかもしれない」と提案しました。

さらに会場に残っていたChristiane Stuetzleはマイクを渡されて「解決策は難しくないのです。AI法が公平なバランスを養うようにすればよいのです。すでにIP（知的財産）となっているものを勝手にシェアすることではなく」と語ります。その上で、「今運用されているContent IDの仕組みは、AIにも適用できるロールモデルとなり得るのではないか。それとも、その利益はアーティストにそれほど還元されていないのか」という質問を、フランスの著作権管理団体SACEMから来ているHéloïseへ投げかけました。

それに対して、Héloïseは少々歯切れの悪い調子で「それは難しい質問ですね。Content IDはEUが2019年に始めて2021年に変更したもので、まだ2年しか経っていないため全体像を俯瞰できていない。公平で交渉可能な形式ではあるものの、それをAIに適用できるかを判断するには、まだ初期の段階です」と答えています。

自身の作品を訓練データとして使われたアーティストに対して、AIで得られた利益を還元するというアイデア自体は真っ当なもののように思えますが、それが実際にアーティストに十分な報酬として分配される理想的な形を取れるのかといった問題はまた別の話になりそうです。

AIは五感に次ぐ新しい人工的な感覚器官となるかもしれない

このディスカッションでは法律に関する制度やシステムだけでなく、AI技術そのものについての洞察を深める話題もありました。

「AIは私たちがまだ持っていない感じ方で世界の見方をできるものと考える。大袈裟に聞こえるかもしれないが、五感に次ぐ新しい感覚をデータによって得られるかもしれないし、それはまさに人工的な感覚器官のようなものにもなり得るだろう」

「これらは共同作業であり、人々の生態系が一体となって、自分たちが大切にしているものは何なのかを考えることなのだと、私は純粋に感じている。経済モデルはまだ整っていないかもしれないが、今、こうしたシステムによって増幅されている根本的な不平等に対処するために、問いを投げかけ始めることはできると考えている」

これらの発言は建築学者のRachelによるものですが、生物学と建築学のバックグラウンドを持っている彼女らしく、人間社会全体のエコシステムの中でAIがどう機能していくかをとらえようと試みているようでした。また司会のGeraintも、AIが人間の仕事を置き換える可能性について以下のような発言をしています。

「意味そのものの生成ではなく、何か意味を伝える人工物の生成、またはそれより低いレベルのものの生成について我々は話している。つまりそれは、創造において新しい意味を生成する可能性を持つ何かが人間の活動に取って代わることについてだ。しかし、意味の生成ができるのは人間だけだ」

これはAI自身が意味を作り出す主体となり得ることはなく、あくまで意味の生成ができるのは人間自身にしかできないという意図の発言だと筆者は解釈しましたが、人間に代わってAIの判断が意味を決定するようかのように混同される可能性があるため、生成AIに関する議論においては両者の違いについて、より自覚的である必要があるのではないでしょうか。

シンポジウムを振り返って

シンポジウム全体を振り返ると、専門家がそれぞれに自分の得意分野に関することを言って終わる部分も多く、パネリスト間の議論の中で何か新しい結論が出ていたわけではありません。そのため多少取り止めがないところも見受けられましたが、オンライン上で見聞きする雑多な議論とは異なり、EUの政策に影響を与える立場の専門家たちを集めた議論を聞くことを通して「この問題についてどこまで議論が進められきたのか」を知る良い機会になりました。

シンポジウム冒頭でKaren Haoが語った「AIに関する規制について主導できるのはアメリカではなく、ヨーロッパになるでしょう」という言葉がありましたが、注目するべきはAIの法規制に関してEUの法律が他国よりも優れていたり先進的であるかどうかということではなく、生成AIの開発や実装において、技術の進歩の推進とクリエイターを保護することの間にバランスを取る重要性について、各国の政府やさまざまな業界関係者が真剣に取り組んでいることではないかと感じました。

一方で、訓練データの透明性を開示する義務やAIの訓練に作品を使用した場合の報酬を定める包括契約のあり方などについては、本当にそれらが技術の進歩を阻害せず、皆が利益を得られる仕組みとして機能させられるのか、法律で細かく規制するだけで実現可能なのかという疑問も抱きました。法制度にはしばしば実現不可能なアイデアも挿入されることもあるからです。

また議論の内容そのものからは外れますが、多くのスピーカーやパネリストが女性であった点は注目に値すると思います。この記事で取り上げた「AI for culture. What is the missing link?」のディスカッションにおいては司会以外はすべて女性でした。男女同数が意識されることが多くなった昨今においてもこれだけの専門的なディスカッションに参加するパネリストを女性で揃え、なおかつ充実した内容にしていたことは、テクノロジーや法律論や著作権やクリエイター保護といったトピックについて、より多様な人々を議論に取り込まなければいけない、というArs Electronicaの強い意志の現れであるように思いました。

日本でも、今後より多くの人にAIに対して問題意識を持ってもらおうと考えるのであれば、イベントの登壇者や意志決定の場において、ジェンダーや年齢層などの多様性に配慮したアプローチが必要なのではないでしょうか。

Writer：類家利直