【CEDEC2023】生成AIモデル利活用時の法的リスクを総点検

2023.9.22ゲーム

2023年8月23日から25日にかけて、コンピューターエンターテインメントに関する国内最大級のカンファレンスCEDEC2023が神奈川県・パシフィコ横浜においてオンラインセッションをふくめたハイブリッドで開催されました。8月23日には、生成AIをめぐる法的問題に詳しいSTORIA法律事務所の柿沼太一弁護士が「コンピューターエンターテインメント領域における生成AIの利用と法律・知財・契約」と題するセッションを行いました。本稿では同セッションを要約することで、生成AI利活用時に生じる法的リスクを通覧します。

学習データをめぐる著作権法の適応範囲と例外

AIモデル利活用をめぐる法的リスクは、さまざまなシーンで生じます。柿沼氏が最初に取りあげたのは、学習データをめぐる法的リスクです。このリスクはAIモデルの学習において、著作権のあるテキストや画像を学習データとして活用する場合に生じるものです。

著作物を学習データとして活用する場合に適用される法律には、著作権法30条の4第2号があります。同法は「著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる」と定めており、著作物の利用な可能な事例として「情報解析」が挙げています。著作物によるAIモデル学習はこの情報解析に該当するため、原則として適法とされます。

柿沼氏は、著作権法30条の4第2号の適用条件も解説しました。同法が適用されるか否かは「当該著作物が利用される地」に応じて変わり、日本でAIモデル学習を実施する場合は同法が適用される一方で、アメリカのような他国で実施する場合は同国の著作権法が適用されます。また、著作権者の国籍は無関係であり、学習データに海外の著作物がふくまれていても、日本でAIモデル学習を実施する限りでは同法が適用されます。

もっとも、著作権法30条の4第2号には2つの例外が定められています。1つ目の例外は、学習対象著作物の享受目的が併存している場合です。この例外は、例えば「明らかに著作権侵害にあたるような生成物を出力」するAIモデルを開発するような場合が該当します。その一方で、「既存著作物の作風を再現」する目的の学習は例外には該当せず、違法とはなりません。2つ目の例外は、著作権法30条の4但書が定めている場合です。この場合に該当する具体的事例は議論中なのですが、有料で提供されている学習データセットに関しては、提供者の許可なく利用できないと断言できます。

AI生成物をめぐる4つのパターンを検証

続いて柿沼氏は、AIモデルを使って生成物を出力する場合の法的リスクを解説しました。このリスクはAIモデルの入力と出力のどちらか、あるいはその両方に著作権侵害の懸念がある場合に生じるものです。著作権侵害が認められるには、既存著作物との類似性と依拠性という2つの要件が必要となります。この文脈における類似性とは既存著作物と極めて似ていることであり、依拠性とは既存著作物に似せる意図があったことを意味します。こうしたことをふまえて、同氏はAI生成物にまつわる著作権侵害懸念ケースとして以下のような４つのパターンを解説しました。

1つ目のパターンは、AIモデルに既存著作物を入力し、既存著作物とは異なるものが出力された場合です。このパターンは既存の画像を入力して、入力画像の作風が表れている画像が出力された場合などが該当します。このパターンでは、著作権侵害は認定されません。

2つ目は既存著作物を入力して、既存著作物に極めて似た出力が得られ、なおかつその出力を配信するような場合です。このパターンでは、類似性と依拠性がともに認められるので著作権侵害となります。

3つ目は既存著作物とは異なるものを入力したが、既存著作物に極めて似た出力を得た場合です。このパターンでは、ユーザが出力と極めて似ている既存著作物を知っていたかどうかが争点となります。

知っていた場合、依拠性が認められるので著作権侵害となります。知らなかった場合は、著作権侵害は認定されません。もっとも、既存著作物をまったく知らないでそれと極めて似た出力を得るのは技術的に困難なので、「ユーザが本当に既存著作物を知らなかったのか」が改めて争点となるでしょう。

4つ目は既存著作物とは異なる入力であるが、生成AI学習時に既存著作物が使われていたために、既存著作物と極めて似た出力を得て、その出力を配信するような場合です。このパターンでは、ユーザが既存著作物を知っており、なおかつそれが学習データにふくまれていたことも知っていた場合、依拠性が認定され著作権侵害となります。

ユーザが既存著作物を知らない場合、このパターンについての判例がないので現時点で確たる法的判断ができませんが、依拠性が認められて著作権侵害となるとする学説が多い状況です。

以上の4パターンのいずれにおいても、出力が既存著作物と類似していなければ、著作権侵害とはなりません。それゆえ、AI生成物を商用利用する際には、既存著作物と類似していないかどうかチェックすることが重要でしょう。こうしたチェックに加えて、既存著作物と類似したものを出力するようなAIモデルの利用を避ける、著作権侵害を誘発するようなプロンプトを入力しないといった注意点を柿沼氏は挙げました。

「創作的寄与」をめぐる国内外の動向

柿沼氏は、どのような場合に生成AIユーザがAI生成物に対して著作権を得られるのか、という問題についても解説しました。この問題は、ユーザがAI生成物の生成に寄与した度合いが十分に大きければ、著作権を得られると考えられます。こうした生成に寄与した度合いは、法的には「創作的寄与」と呼ばれます。

創作的寄与に関してはまだ標準的な法的基準がないのですが、柿沼氏はこの概念を考察するにあたって、画像生成AIの活用を想定したうえで以下のような4つの段階とその法的解釈を示しました。

第１段階：短いプロンプトによって画像を生成した場合、創作的寄与が小さいので著作権は生じない。
第２段階：長いプロンプトによって画像を生成した場合は、まだ法的に議論されているので、著作権が生じるとは断言できない。
第３段階：試行錯誤しながらプロンプトを何度も入力して画像を生成した場合も、著作権が生じるとは断言できない。
第４段階：何らかのプロンプトによって画像を生成した後、人間ユーザがその画像に修正・加工を加えた場合、修正・加工を加えた部分に限り著作権が生じる。

以上のように解説したうえで、確実に生成画像に関する著作権を得るには、生成画像に人間が十分な加筆修正を加えることを柿沼氏は推奨しました。

柿沼氏は、生成画像の著作権に関するアメリカの法的事例も解説しました。同国では「暁のZarya事件」が有名です。この事例では一度は著作権が認められたものも、一転して著作権が否定されました。著作権が認められなかった際に争点になったのが、人間が道具に対してもつ制御性です。画像生成モデルはその出力を人間が完全に制御できなかったり、予測できなかったりするため、その使用において著作権を認められない、という法的解釈が示されました。

生成画像の著作権に関するアメリカの判例がただちに日本の法的判断に影響を与えるわけではありません。しかしながら、G7広島サミット2023で「広島AIプロセス」が提唱されたように、生成AIの法運用に関しては国際的に足並みを揃える傾向があるので、AIをリードするアメリカの判例には注意を払う必要があるでしょう。

柿沼氏は、ChatGPTをはじめとするテキスト生成AIの出力をめぐる著作権問題にも言及しました。テキスト生成AIの利用においては、「大まかな指示（プロンプト）を出して詳細なテキスト出力を得る」場合が多いため総じて創作的寄与が低くなり、その出力に対する著作権が発生しないケースが多いのではないか、と同氏はコメントしました。

生成音声をめぐる3つのパターンを検証

柿沼氏のセッションでは、音声生成AIモデルが生成した声優音声を利用する場合の法的リスクも検討されました。この話題は、AIを活用したアニメやゲームの音声制作に直結するものです。

以上の話題の検討に先立って、柿沼氏は声優の実演にまつわる諸権利を解説しました。一般にある声優ＸがセリフAを実演して場合、以下のような3つの権利が生じます。

セリフAの著作権：セリフに関して生じる著作権は、それを制作した脚本家に帰属する。
声優Xの著作隣接権：実演に伴って生じた音声データについて、声優Xは著作隣接権を有する。
声優Xの声に関するパブリシティ権：有名人の氏名や肖像等にはそれを使うことで商品等を差別化できることから、パブリシティ権が認められている。声優の声には一般人の声と差別化できる特徴があるため、パブリシティ権が生じる。

以上の諸権利をふまえたうえで、柿沼氏は声優の生成音声を活用する際に想定される以下のような3つの法的パターンを挙げて、それぞれの法的解釈も解説しました。

パターン1：声優Xと同一の音声をAIで生成したうえで、その音声で既存のセリフを実演する。
パターン2：声優Xが実演したことがあるセリフについて、声優Yと同一な音声を生成したうえで実演する。
パターン3：声優Xと同一の音声をAIで生成したうえで、その音声でオリジナルなセリフを実演する。

パターン1では既存のセリフを使っているため、セリフに関する著作権侵害が生じます。AI生成音声による実演は言わば「もの真似」に類するものであり、もの真似は著作隣接権侵害に該当しないと法的に解釈されるので、この権利に関する侵害は起こりません。しかしながら、生成音声であっても声優Xの音声は一般人のそれとは差別化されるので、パブリシティ権侵害は生じます。

パターン2については、声優Xが実演されたことがあるセリフなので、セリフに関する著作権侵害が生じます。しかし、このセリフは声優Yが実演したことがないので、声優Yの著作隣接権侵害には当たりません（著作隣接権は実在する実演について生じるものであり、実在しない実演の権利は侵害できない）。この場合においては、声優Yに関するパブリシティ権侵害が生じます。

パターン3ではオリジナルのセリフなので、セリフに関する著作権侵害は生じません。また、声優Xがこのオリジナルなセリフを実演したことがないので、声優Ｘの著作隣接権侵害にも当たりません。しかしながら、声優Xに関するパブリシティ権侵害が生じます。

パターン1から3のいずれの場合でも、声優に対するパブリシティ権侵害が生じることがわかります。それゆえ、声優に関する生成音声を利用する場合は、事前にその声優とパブリシティ権に関する何らかの法的相談を行うのが得策でしょう。

以上のほかにも柿沼氏は、生成音声をめぐる法的リスクについて具体的な事例を挙げながら解説しました。そうした事例のなかには、「どの声優にも似ていない音声」が利用できるようになった場合もありました。こうした純粋な合成音声に関する法律は、現時点では存在しません。したがって、今後このような生成音声が実現した場合は、社会的問題としてさまざまな立場の人々が議論して対応策を講じるべき、と柿沼氏はコメントしました。

今回の柿沼氏のセッションでは生成AI活用に関する法的リスクが広範囲に考察されましたが、網羅できたわけではありません。この問題については柿沼氏が所属するSTORIA法律事務所のブログで論じられていたり、文化庁をはじめとする省庁から情報発信されたりしています。こうした情報を収集しつつ、生成AIの商用利用で判断に困った場合には柿沼氏をはじめとした専門家に相談するのが良いでしょう。

Writer：吉本幸記