モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CGCGへの扉機械学習安藤幸央ディープラーニングGAN月刊エンタメAIニュース河合律子OpenAIニューラルネットワーク音楽NVIDIA強化学習三宅陽一郎吉本幸記FacebookQA人工知能学会GPT-3自然言語処理大内孝子敵対的生成ネットワークGoogleDeepMindキャラクターAIスクウェア・エニックス森川幸人モリカトロンAIラボインタビュールールベースシナリオAIと倫理グーグルデバッグDALL-E2StyleGAN映画倫理ゲームプレイAIマイクロソフトNFTアート自動生成SIGGRAPHメタAIロボット深層学習CEDEC2019プロシージャル遺伝的アルゴリズムDALL-Eテキスト画像生成ビヘイビア・ツリーディープフェイクCEDEC2021CEDEC2020ゲームAIデジタルツインメタバーステストプレイモリカトロン不完全情報ゲームVRナビゲーションAINPC畳み込みニューラルネットワークCLIPGDC 2021JSAI2022VFXGDC 2019マルチエージェントCEDEC2022AIアートボードゲーム画像生成ファッション懐ゲーから辿るゲームAI技術史toioCNNAdobeStable DiffusionUnity著作権小説鴫原盛之HTN階層型タスクネットワーク汎用人工知能JSAI2020TensorFlowインタビューBERTMicrosoftイベントレポート対話型エージェントロボティクス水野勇太アニメーションGenvid Technologiesガイスター画像生成AIStyleGAN2GTC2022教育ソニーJSAI2021スポーツ研究シムピープルマンガマーケティングGDC SummerバーチャルヒューマンブロックチェーンMidjourneyアストロノーカキャリアNVIDIA OmniverseeスポーツAmazoneSportsDQNBLUE PROTOCOLシーマンMinecraftアバターOmniverseUbisoftメタAlphaZeroTransformerGPT-2AIりんなカメラ環世界中島秀之哲学理化学研究所SIGGRAPH ASIADARPAドローンシムシティImagenバイアスMCS-AI動的連携モデルモーションキャプチャーTEZUKA2020AI美空ひばり手塚治虫バンダイナムコ研究所スパーシャルAIElectronic ArtsメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMピクサープラチナエッグイーサリアム作曲ボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析Microsoft AzureMILE模倣学習ナラティブアーケードゲームOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事サイバーエージェント田邊雅彦トレーディングカードトレカ音声認識メディアアートPyTorch眞鍋和子バンダイナムコスタジオaibo合成音声Meta齊藤陽介マインクラフトお知らせMagic Leap Oneチャットボットサルでもわかる人工知能VAE3DCGリップシンキングUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンIGDA秋期GTC2022どうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングMITAIロボ「迷キュー」に挑戦野々下裕子徳井直生マシンラーニング5GMuZeroRival Peakクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルCodexコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画rinnaシミュレーションデジタルヒューマン完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索対談ベリサーブ藤澤仁生物学Playable!GTC 2022画像認識SiemensStyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022TextWorldEarth-2MagentaSFELYZA PencilGTC2021CycleGANデータマイニングNetHackはこだて未来大学キャラクターモーションフェイクニュースエージェントRPGSIGGRAPH 2022AIボイスアクターNVIDIA CanvasGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープASBS栗原聡ぱいどんテキスト生成不気味の谷ナビゲーションメッシュ松井俊浩ELYZAフルコトELYZA DIGEST3D音声合成西成活裕Apex LegendsELIZA群衆マネジメントNinjaコンピュータRPGライブビジネスアップルタウン物語新型コロナKELDIC周済涛メロディ言語清田陽司ゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史タイムラプスEgo4DAI哲学マップバスキア星新一日経イノベーション・ラボStyleGAN-XL敵対的強化学習StyleGAN3階層型強化学習GOSU Data LabGANimatorWANNGOSU Voice AssistantVoLux-GAN竹内将SenpAI.GGProjected GANMobalyticsSelf-Distilled StyleGAN馬淵浩希Cygamesニューラルレンダリング岡島学AWS SagemakerPLATO映像セリア・ホデント形態素解析frame.ioUXAWS LambdaFoodly誤字検出森山和道認知科学中川友紀子ゲームデザインSentencePieceアールティLUMINOUS ENGINELuminous ProductionsBlenderBot 3パターン・ランゲージ竹村也哉Meta AIちょまどマーク・ザッカーバーグGOAPWACULAdobe MAX 2021自動翻訳AIライティングOmniverse AvatarAIのべりすとFPSNVIDIA RivaQuillBotマルコフ決定過程NVIDIA MegatronCopysmithNVIDIA MerlinJasperスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleMax CooperFuture of Life InstituteRendering with StyleIntelDisney類家利直LAIKADisneyリサーチヴィトゲンシュタインRotomationGauGAN論理哲学論考GauGAN2京都芸術大学ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021PromptBaseDota 2モンテカルロ木探索ディズニーリサーチMitsuba2バンダイナムコネクサスソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューGTC2020CG衣装mimicNVIDIA MAXINEVRファッションBaidu淡路滋ビデオ会議ArtflowERNIE-ViLGグリムノーツEponym古文書ゴティエ・ボエダ音声クローニング凸版印刷Gautier Boeda階層的クラスタリングGopherAI-OCR画像判定JuliusSIE鑑定ラベル付けTPRGOxia Palus大澤博隆バーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSFプロトタイピングクーガー田中章愛実況パワフルサッカー石井敦銭起揚NHC 2021桃太郎電鉄茂谷保伯池田利夫桃鉄GDMC新刊案内パワサカマーベル・シネマティック・ユニバースコナミデジタルエンタテインメント成沢理恵MITメディアラボMCU岩倉宏介アベンジャーズPPOマジック・リープDigital DomainMachine Learning Project CanvasMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹サッカーモリカトロン開発者インタビュースパコン里井大輝Kaggle宮本茂則スーパーコンピュータバスケットボール山田暉松岡 聡Assassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0Sea of ThievesTSUBAME 2.0GEMS COMPANYmonoAI technologyLSTMABCIモリカトロンAIソリューション富岳初音ミクOculusコード生成AISociety 5.0転移学習テストAlphaCode夏の電脳甲子園Baldur's Gate 3Codeforces座談会Candy Crush Saga自己増強型AItext-to-imageSIGGRAPH ASIA 2020COLMAPtext-to-3DADOPNVIDIA GET3DデバッギングBigGANGANverse3DDreamFusionMaterialGANRNNグランツーリスモSPORTAI絵師ReBeLグランツーリスモ・ソフィーUGCGTソフィーPGCVolvoFIAグランツーリスモチャンピオンシップStability AINovelAIRival PrakDGX A100NovelAI DiffusionVTuberユービーアイソフトWebcam VTuberモーションデータ星新一賞北尾まどかHALO市場分析ポーズ推定将棋メタルギアソリッドVフォートナイトメッシュ生成FSMメルセデス・ベンツRobloxMagic Leapナップサック問題Live NationEpyllion汎用言語モデルWeb3.0マシュー・ボールAIOpsムーアの法則SpotifyスマートコントラクトReplica StudioAWSamuseChitrakarQosmoAdobe MAX 2022巡回セールスマン問題Adobe MAXジョルダン曲線メディアAdobe Research政治Galacticaクラウドゲーミングがんばれ森川君2号pixiv和田洋一リアリティ番組映像解析Stadiaジョンソン裕子セキュリティMILEsNightCafe東芝デジタルソリューションズインタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AIインタラクティブ・メディアポケモン3DスキャンPFN 3D Scanシーマン人工知能研究所東京工業大学Ludo博報堂Preferred NetworksラップPFN 4D ScanSIGGRAPH 2019ArtEmisZ世代DreamUpAIラッパーシステムDeviantArtARWaifu DiffusionGROVERプラスリンクス ~キミと繋がる想い~元素法典FAIRSTCNovel AIチート検出Style Transfer ConversationOpen AIオンラインカジノRCPMicrosoft DesignerアップルRealFlowRinna Character PlatformイラストiPhoneCALADeep FluidsSoul Machines柿沼太一MeInGameAmeliaELSIAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクター大規模言語モデルBCIGateboxアフォーダンスLearning from VideoANIMAKPaLM-SayCan予期知能逢妻ヒカリPaLMセコムGitHub Copilotユクスキュルバーチャル警備システムCode as Policiesカント損保ジャパンCaP上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックPAIROCTOPATH TRAVELERChatGPT西木康智GPT-3.5OCTOPATH TRAVELER 大陸の覇者山口情報芸術センター[YCAM]アルスエレクトロニカ2019品質保証YCAMStyleRigAutodeskアンラーニング・ランゲージ逆転オセロニアBentley Systemsカイル・マクドナルドワールドシミュレーターローレン・リー・マッカーシー奥村エルネスト純いただきストリートH100鎖国[Walled Garden]​​プロジェクト齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022高橋智隆DGX H100VToonifyロボユニザナックDGX SuperPODControlVAE泉幸典仁井谷正充クラウドコンピューティング変分オートエンコーダーロボコレ2019Instant NeRFフォトグラメトリartonomous回帰型ニューラルネットワークbitGANsDeepJoinぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Service意思決定モデル脱出ゲームDeepLHybrid Reward Architectureコミュニティ管理DeepL WriteウロチョロスSuper PhoenixSNSProject Malmoオンラインゲーム気候変動Project PaidiaProject Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsYouTubeダフト・パンクメモリスタGlenn MarshallThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所リザバーコンピューティングプレイ動画ヒップホップソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyGLIDECPUDiscordAvatarCLIPSynthetic DataCALMプログラミングサム・アルトマンソースコード生成LaMDAGMAIシチズンデベロッパーSonanticTRPGGitHubCohereウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリングAI DungeonUrzas.ai介護西川善司並木幸介Kikiサムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsTopaz Video Enhance AICozmoDLSSタカラトミー山野辺一記NetEaseLOVOT大里飛鳥DynamixyzMOFLINRomiU-Netミクシィ13フェイズ構造アドベンチャーゲームユニロボットADVユニボXLandGatoAGI手塚眞DEATH STRANDINGマルチモーダルEric Johnson汎用強化学習AIデザインOculus Questコジマプロダクションロンドン芸術大学生体情報デシマエンジンGoogle BrainインディーゲームSound Control写真高橋ミレイSYNTH SUPER照明Maxim PeterKarl SimsJoshua RomoffArtnomeハイパースケープICONATE山崎陽斗深層強化学習立木創太松原仁浜中雅俊ミライ小町武田英明テスラ福井健策GameGANパックマンTesla BotNEDOTesla AI DayWikipediaソサエティ5.0SphereSIGGRAPH 2020バズグラフXaver 1000ニュースタンテキ養蜂東芝BeewiseDIB-R倉田宜典フィンテック投資韻律射影MILIZE広告韻律転移三菱UFJ信託銀行

画像生成AIをめぐる倫理的問題の最新事情。各国で分かれる対応とは

2022.11.28アート

画像生成AIをめぐる倫理的問題の最新事情。各国で分かれる対応とは

DALL-E 2をはじめとする画像生成AIは絵心がない人でも高品質な画像を制作できる手段を提供する一方で、著作権などに関して新たな問題を投げかけています。本稿では代表的な画像生成AIであるDALL-E 2とStable Diffusionの利用規約を確認したうえで、これらのAIの悪用事例とAI生成画像の著作権について各国ごとにまとめていきます。

DALL-E 2とStable Diffusionの利用規約

今日の画像生成AI流行の嚆矢となったDALL-E 2の利用規約は、同AIに関するヘルプセンターにトピックごとにまとめられています。このヘルプセンターにもとづいて同AIの利用規約の要点をまとめると、以下のようになります。

  1. DALL-E 2はユーザに画像生成機能のみを提供しており、ソースコードは非公開。
  2. 同AI利用開始初月は50クレジットが無料で支給される。1クレジットを消費することで画像生成・編集・変換が1回実行できる。毎月15クレジットを無料支給。クレジットの追加購入も可能。
  3. 生成した画像の転載、販売権、商用権は生成したユーザが所有する。
  4. ヘイトコンテンツや性的なコンテンツが生成されないように、フィルターが実装されている。このフィルターは検出漏れがないように構築されているため、誤検出(安全な画像が違反画像として検出される)が少なくない。誤検出によって同AIの利用が停止された場合は、ヘルプセンターに問い合わせると復旧できる。
  5. 以上のフィルターの運用には人間が関与している。
  6. 2022年11月3日には、APIの利用提供開始が発表された。

DALL-E 2の一般公開(2022年9月)に先立った2022年8月に登場して画像生成AI普及に大きく貢献したStable Diffsuionの利用規約は、以下のようにまとめられます。

  1. Stable Diffusionのソースコードは、GitHubで完全公開されている。
  2. 同モデルのソースコードを用いたアプリ開発は、オープンソースライセンスの下で可能。
  3. 同モデルにも倫理的に許容し難い画像を検出するフィルターが実装されている。しかし、このフィルターを除去する技術はすでに流布している。
  4. 同モデルのソースコードとは別に、同モデルによる画像生成が可能なウェブアプリDreamStduio Liteが公開されており、その利用は有料となっている。

以上のようにDALL-E 2とStable Diffusionを比較すると、前者は安全性を重視しているため画像生成機能とAPIの利用のみに制限されている一方で、後者は自由に流用できるようになっています。こうした両者の特徴をあえて単純化して表現するとDALL-E 2は「画像生成におけるiOS」、Stable Diffusionは「画像生成におけるAndroid」と言えるでしょう。

DALL-E 2とStable Diffsuionの利用規約の違いは、後述するように悪用事例への対処に大きく影響を与えています。

ポジティブな要素がネガティブなそれを上回る

画像生成AIをめぐるリスクのひとつに、倫理的に許容し難い画像の生成があります。DALL-E 2に関しては、前述したように時に誤検出が生じてしまうほど厳しいフィルターを実装しているうえにそのフィルターの運用に人間が関わっているため、これまで違反画像の生成が大きく報じられたことはないようです。

Stable Diffusionの悪用事例に関しては、同AIが一般公開されて半月ほど経過した2022年9月15日にテック系メディアThe Vergeが報じました。前述のように同AIにもフィルターは実装されているものも、ソースコードを完全公開しているため、英語圏最大の掲示板サイトRedditで「5秒で安全性フィルターを除去する方法」という書き込みが流布するようになりました。

フィルター除去の方法が流布した結果、Stable Diffusionの一般公開から程なくして、Redditには同AIによって生成されたポルノ画像をアップロードするスレッドが乱立しました。もっとも同掲示板はディープフェイクをはじめとするAI生成ポルノコンテンツの掲載を禁止していたので、以上のポルノ画像スレッドはすぐに閲覧不可となりました。

以上のような悪用が予期できたにもかかわらず、ソースコードの完全公開に踏み切ったことに関して、Stable Diffusionを開発したStability.aiのCEOであるEmad Mostaque氏は「ポジティブな要素がネガティブなそれを上回る」と発言しています。つまり、同AI悪用による影響よりソースコード完全公開から生じる恩恵のほうが大きい、と同氏は判断したのです。この判断からは技術自体は悪ではなく、技術を使う人間にその使用責任が問われるという価値観がうかがえます。

各国で異なる画像生成AIコンテンツの著作権

画像生成AIをめぐる問題には生成画像の著作権をどのように考えるか、というものもあります。この問題は、国ごとに考え方が異なります。イギリスの法律事務所Pinsent Masonsが2022年2月18日に公開した分析記事では、同国におけるAI生成物の著作権事情が論じられています。同国では人間が関与しないAIのみによって生成された創作物にも50年間の著作権が生じる、と定めています。この法的決定の背景には、AIによる創作物に積極的に著作権を認めることによって、同国のAI産業を振興するという政治的意図があります。なお、2022年6月28日には以上の著作権をめぐる取り決めを継続することが同国政府より発表されました。

アメリカにおけるAI生成物の著作権に関しては、カルチャー系メディアSmithsonian magazineが2022年3月24日にAI生成物の著作権が認められなかったことを報じています。この法的判断の理由として、同国の著作権は「(人間の)心の創造的な力に基礎を置く」こと等が挙げられています。しかしながら、写真専門メディアPetaPixelは2022年9月27日、画像生成AIのひとつであるMidjourneyを使って制作されたグラフィックノベル『Zarya Of the Dawn』の著作権が認められたことを報じました。このグラフィックノベルの著作権申請をしたデザイナーのKris Kashtanova氏は、同国著作権局に対して画像生成AIによる制作には積極的な人間の関与があることを訴えました。この判例が、同国におけるAI生成物の著作権に関するひとつの判断基準となると考えられます。

日本におけるAI生成物の著作権については、IT関係の法律事案に精通しているSTORIA法律事務所が2022年8月31日に公開した柿沼太一氏によるブログ記事で詳しく論じられています。この記事によれば、日本におけるAI生成物の著作権の扱いは「人間の創作的寄与」が認められるものには著作権が認められる、という見解を述べています。この見解は前述したアメリカの判例に近いと言えます。

なお、以上のSTORIA法律事務所公開のブログ記事では、画像生成AI開発に使う学習データに著者未承諾の画像が含まれる場合の法的解釈なども論じられています。この問題は、日本アニメ画像を生成するNovel AIが学習データとして活用したアニメイラスト共有サイト「Danbooru」に、無断転載イラストが多数掲載されていることで実際に問われました。

参考記事:オープンソースとして発展するAIモデル:月刊エンタメAIニュース vol.34

画像生成AIをめぐる法的・倫理的問題は、以上の事例で尽きるようなものではありません。しかしながら、これらの問題に関しては今後拡大する画像生成AI市場が健全に成長できるように対処するべきでしょう。そして、画像生成AIを利用する際には法的・倫理的により安全なものを選ぶようにすれば、健全なAIが成長していくのではないでしょうか。

Writer:吉本幸記、Image by Shutterstock

RELATED ARTICLE関連記事

CGへの扉 Vol.16:バーチャル開催SIGGRAPH論文を先取り

2020.7.20アート

CGへの扉 Vol.16:バーチャル開催SIGGRAPH論文を先取り

CGへの扉 Vol.39:言葉から生み出されるアートとは?

2022.6.17アート

CGへの扉 Vol.39:言葉から生み出されるアートとは?

CGへの扉 Vol.43:AI絵師は3DCGの領域へ

2022.10.17アート

CGへの扉 Vol.43:AI絵師は3DCGの領域へ

RANKING注目の記事はこちら