モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CGCGへの扉機械学習安藤幸央ディープラーニング月刊エンタメAIニュースGAN河合律子OpenAI吉本幸記NVIDIA音楽ニューラルネットワーク三宅陽一郎強化学習GoogleQAグーグルGPT-3Facebook自然言語処理DeepMind人工知能学会大内孝子森川幸人敵対的生成ネットワークシナリオキャラクターAIスクウェア・エニックスモリカトロンAIラボインタビューマイクロソフトルールベースStable DiffusionAIと倫理アート映画デバッグNFTDALL-E2StyleGAN倫理ゲームプレイAI自動生成SIGGRAPHモリカトロンメタAIテキスト画像生成ロボット深層学習ファッションCEDEC2019プロシージャルVFXデジタルツイン遺伝的アルゴリズムテストプレイNPCDALL-E画像生成ChatGPTビヘイビア・ツリーディープフェイクCEDEC2021CEDEC2020ゲームAIメタバース不完全情報ゲームVRナビゲーションAI画像生成AIボードゲーム畳み込みニューラルネットワークCLIP大規模言語モデルGDC 2021JSAI2022AdobeGDC 2019マルチエージェントCEDEC2022AIアート懐ゲーから辿るゲームAI技術史toioジェネレーティブAICNN生成系AIMicrosoftNVIDIA OmniverseUnity著作権小説アニメーション鴫原盛之HTN階層型タスクネットワークマンガ汎用人工知能JSAI2020TensorFlowインタビューバーチャルヒューマンBERTMidjourneyイベントレポート対話型エージェントAmazonロボティクスMetaMinecraft水野勇太アバターOmniverseUbisoftGenvid TechnologiesガイスターStyleGAN2GTC2022教育ソニーJSAI2021スポーツ研究シムピープルMCS-AI動的連携モデルGTC2023マーケティングGDC SummerLLMブロックチェーンアストロノーカキャリアeスポーツスタンフォード大学サイバーエージェント音声認識eSportsDQNBLUE PROTOCOLシーマン3DCGStability AIメタAlphaZeroTransformerGPT-2rinnaAIりんなデジタルヒューマンカメラ環世界中島秀之PaLM哲学ベリサーブPlayable!理化学研究所SIGGRAPH ASIANetflix東京大学DARPAドローンシムシティImagenZorkバイアスモーションキャプチャーTEZUKA2020AI美空ひばり手塚治虫テキスト生成バンダイナムコ研究所スパーシャルAIElectronic Arts3DメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMAudio2Faceピクサープラチナエッグイーサリアム作曲ボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析Microsoft AzureMILE模倣学習ナラティブNVIDIA RivaアーケードゲームOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事田邊雅彦トレーディングカードトレカメディアアートGPTPyTorch眞鍋和子バンダイナムコスタジオaibo合成音声齊藤陽介マインクラフトお知らせMagic Leap Oneチャットボットサルでもわかる人工知能VAEDreamFusionリップシンキングUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンIGDA秋期GTC2022どうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングMITAIロボ「迷キュー」に挑戦AWS野々下裕子徳井直生マシンラーニング5GMuZeroRival Peakpixivクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルCodexコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画ARMicrosoft Designerイラストシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索対談藤澤仁生物学GTC 2022画像認識GPT-3.5SiemensStyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022Gen-1TextWorldEarth-2BingMagentaSFELYZA Pencil松尾豊GTC2021CycleGANデータマイニングNetHackはこだて未来大学Bardキャラクターモーションフェイクニュース現代アートエージェントRPGSIGGRAPH 2022レベルデザインAIボイスアクターNVIDIA CanvasGPUALife人工生命オルタナティヴ・マシンサウンドスケープLaMDATRPGAI DungeonプロンプトASBS栗原聡ぱいどんアドベンチャーゲーム不気味の谷ナビゲーションメッシュ松井俊浩ELYZAフルコトELYZA DIGEST建築音声合成西成活裕Apex LegendsELIZA群衆マネジメントライブポートレイトNinjaコンピュータRPGライブビジネスWonder Studioアップルタウン物語新型コロナ土木KELDIC周済涛BIMメロディ言語清田陽司インフラゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史Amazon BedrockタイムラプスEgo4DAI哲学マップイーロン・マスクバスキア星新一X.AI日経イノベーション・ラボStyleGAN-XLX Corp.敵対的強化学習StyleGAN3Twitter階層型強化学習GOSU Data LabGANimatorXホールディングスWANNGOSU Voice AssistantVoLux-GANMagi竹内将SenpAI.GGProjected GANStable Diffusion XLMobalyticsSelf-Distilled StyleGANSDXL馬淵浩希CygamesニューラルレンダリングRTFKT岡島学AWS SagemakerPLATONIKE映像セリア・ホデント形態素解析frame.ioClone XUXAWS LambdaFoodly村上隆誤字検出森山和道認知科学中川友紀子Digital MarkゲームデザインSentencePieceアールティSnapchatLUMINOUS ENGINEクリエイターコミュニティLuminous ProductionsBlenderBot 3バーチャルペットパターン・ランゲージ竹村也哉Meta AINVIDIA NeMo Serviceちょまどマーク・ザッカーバーグヴァネッサ・ローザGOAPWACULVanessa A RosaAdobe MAX 2021陶芸自動翻訳Play.ht音声AIAIライティングLiDAROmniverse AvatarAIのべりすとPolycamFPSQuillBotdeforumマルコフ決定過程NVIDIA MegatronCopysmith動画生成AINVIDIA MerlinJasperハーベストNVIDIA MetropolisForGamesパラメータ設計テニスゲームマーケットバランス調整岡野翔太協調フィルタリング郡山喜彦人狼知能テキサス大学ジェフリー・ヒントンGoogle I/O 2023AlphaDogfight TrialsAI Messenger VoicebotGoogle I/OエージェントシミュレーションOpenAI Codex武蔵野美術大学StarCraft IIHyperStyleMax CooperBingAIFuture of Life InstituteRendering with StyleIntelDisney類家利直FireflyLAIKADisneyリサーチヴィトゲンシュタインPhotoshopRotomationGauGAN論理哲学論考LightroomGauGAN2京都芸術大学Canvaドラゴンクエストライバルズ画像言語表現モデルChatGPT4不確定ゲームSIGGRAPH ASIA 2021PromptBaseBOOTHDota 2モンテカルロ木探索ディズニーリサーチpixivFANBOXMitsuba2バンダイナムコネクサス虎の穴ソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューFantiaGTC2020CG衣装mimicとらのあなNVIDIA MAXINEVRファッションBaidu集英社淡路滋ビデオ会議ArtflowERNIE-ViLG少年ジャンプ+グリムノーツEponym古文書ComicCopilotゴティエ・ボエダ音声クローニング凸版印刷コミコパGautier Boeda階層的クラスタリングGopherAI-OCRゲームマスター画像判定Inowrld AIJuliusSIE鑑定ラベル付けMODTPRGOxia Palus大澤博隆Ghostwriterバーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSFプロトタイピングSkyrimクーガー田中章愛実況パワフルサッカースカイリム石井敦銭起揚NHC 2021桃太郎電鉄RPGツクールMZ茂谷保伯池田利夫桃鉄ChatGPT_APIMZGDMC新刊案内パワサカダンジョンズ&ドラゴンズマーベル・シネマティック・ユニバースコナミデジタルエンタテインメントOracle RPG成沢理恵MITメディアラボMCU岩倉宏介深津貴之アベンジャーズPPOxVASynthマジック・リープDigital DomainMachine Learning Project CanvasMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹サッカーモリカトロン開発者インタビュースパコン里井大輝Kaggle宮本茂則スーパーコンピュータバスケットボール山田暉松岡 聡Assassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0Sea of ThievesTSUBAME 2.0GEMS COMPANYmonoAI technologyLSTMABCIモリカトロンAIソリューション富岳初音ミクOculusコード生成AISociety 5.0転移学習テストAlphaCode夏の電脳甲子園Baldur's Gate 3Codeforces座談会Candy Crush Saga自己増強型AItext-to-imageSIGGRAPH ASIA 2020COLMAPtext-to-3DADOPNVIDIA GET3DデバッギングBigGANGANverse3DMaterialGANRNNグランツーリスモSPORTAI絵師ReBeLグランツーリスモ・ソフィーUGCGTソフィーPGCVolvoFIAグランツーリスモチャンピオンシップNovelAIRival PrakDGX A100NovelAI DiffusionVTuberユービーアイソフトWebcam VTuberモーションデータ星新一賞北尾まどかHALO市場分析ポーズ推定将棋メタルギアソリッドVフォートナイトメッシュ生成FSMメルセデス・ベンツRobloxMagic Leapナップサック問題Live NationEpyllion汎用言語モデルWeb3.0マシュー・ボールAIOpsムーアの法則SpotifyスマートコントラクトReplica StudioamuseChitrakarQosmoAdobe MAX 2022巡回セールスマン問題Adobe MAXジョルダン曲線メディアAdobe Research政治Galacticaクラウドゲーミングがんばれ森川君2号和田洋一リアリティ番組映像解析Stadiaジョンソン裕子セキュリティMILEsNightCafe東芝デジタルソリューションズインタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AIインタラクティブ・メディアポケモン3DスキャンPFN 3D Scanシーマン人工知能研究所東京工業大学Ludo博報堂Preferred NetworksラップPFN 4D ScanSIGGRAPH 2019ArtEmisZ世代DreamUpAIラッパーシステムDeviantArtWaifu DiffusionGROVERプラスリンクス ~キミと繋がる想い~元素法典FAIRSTCNovel AIチート検出Style Transfer ConversationOpen AIオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneCALADeep FluidsSoul Machines柿沼太一MeInGameAmeliaELSIAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxアフォーダンスLearning from VideoANIMAKPaLM-SayCan予期知能逢妻ヒカリセコムGitHub Copilotユクスキュルバーチャル警備システムCode as Policiesカント損保ジャパンCaP上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者山口情報芸術センター[YCAM]アルスエレクトロニカ2019品質保証YCAMStyleRigAutodeskアンラーニング・ランゲージ逆転オセロニアBentley Systemsカイル・マクドナルドワールドシミュレーターローレン・リー・マッカーシー奥村エルネスト純いただきストリートH100鎖国[Walled Garden]​​プロジェクト齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022高橋智隆DGX H100VToonifyロボユニザナックDGX SuperPODControlVAE泉幸典仁井谷正充クラウドコンピューティング変分オートエンコーダーロボコレ2019Instant NeRFフォトグラメトリartonomous回帰型ニューラルネットワークbitGANsDeepJoinぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Service意思決定モデル脱出ゲームDeepLHybrid Reward Architectureコミュニティ管理DeepL WriteウロチョロスSuper PhoenixSNSProject Malmoオンラインゲーム気候変動Project PaidiaシンギュラリティProject Lookoutマックス・プランク気象研究所レイ・カーツワイルWatch Forビョルン・スティーブンスヴァーナー・ヴィンジ気象モデルRunway ResearchLEFT ALIVE気象シミュレーションMake-A-Video長谷川誠ジミ・ヘンドリックス環境問題PhenakiBaby Xカート・コバーンエコロジーDreamixロバート・ダウニー・Jr.エイミー・ワインハウスSDGsText-to-Imageモデル音楽生成AIYouTubeダフト・パンクメモリスタ音声生成AIGlenn MarshallScenarioThe Age of A.I.Story2Hallucination音声変換LatitudeレコメンデーションJukeboxAIピカソVeap JapanAI素材.comEAPneoAIテンセントSIFT福井千春DreamIconDCGAN医療mignMOBADANNCEメンタルケアstudiffuse人事ハーバード大学Edgar HandyAndreessen Horowitz研修デューク大学AIQVE ONEQA Tech Nightmynet.aiローグライクゲーム松木晋祐東京理科大学下田純也人工音声NeurIPS 2021産業技術総合研究所桑野範久リザバーコンピューティングプレイ動画ヒップホップ対話型AIモデルソニーマーケティングControlNetサイレント映画もじぱnoteNBA環境音暗号通貨note AIアシスタントFUZZLEKetchupAlterationAI News粒子群最適化法Art Selfie進化差分法オープンワールドArt Transfer群知能下川大樹AIFAPet Portraitsウィル・ライト高津芳希P2EBlob Opera大石真史クリムトBEiTStyleGAN-NADA世界モデルDETRゲームエンジンDreamerV3SporeUnreal Engineクリティックネットワークデノイズ南カリフォルニア大学Unity for Industryアクターネットワーク画像処理DMLabSentropyGLIDEControl SuiteCPUDiscordAvatarCLIPAtari 100kSynthetic DataAtari 200MCALMYann LeCunプログラミングサム・アルトマン鈴木雅大ソースコード生成コンセプトアートGMAIシチズンデベロッパーSonanticColie WertzGitHubCohereリドリー・スコットウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリング絵コンテUrzas.aiストーリーボード介護大阪大学西川善司並木幸介KikiBlenderサムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットGPT-4ストリートファイター半導体Digital Dream LabsPaLM APITopaz Video Enhance AICozmoMakerSuiteDLSSタカラトミーSkeb山野辺一記NetEaseLOVOTDreambooth-Stable-Diffusion大里飛鳥DynamixyzMOFLINゲーム背景RomiGoogle EarthU-NetミクシィGEPPETTO AI13フェイズ構造ユニロボットStable Diffusion web UIADVユニボPoint-EXLandGatoアパレルAGIAI model手塚眞DEATH STRANDINGマルチモーダルAI ModelsEric Johnson汎用強化学習AIZMO.AIデザインMOBBY’SOculus Questコジマプロダクションロンドン芸術大学モビーディック生体情報デシマエンジンGoogle BrainダイビングインディーゲームSound Controlアウトドア写真高橋ミレイSYNTH SUPERAIスキャニング照明Maxim PeterKarl Sims自動採寸Joshua RomoffArtnome3DLOOKハイパースケープICONATESizer山崎陽斗深層強化学習ワコール立木創太松原仁スニーカー浜中雅俊UNSTREETミライ小町武田英明Newelseテスラ福井健策CheckGoodsGameGAN二次流通パックマンTesla BotNEDO中古市場Tesla AI DayWikipediaDupe Killerソサエティ5.0Sphere偽ブランドSIGGRAPH 2020バズグラフXaver 1000配信ニュースタンテキ養蜂東芝Beewiseソニー・ピクチャーズ アニメーションDIB-R倉田宜典フィンテック投資Fosters+Partners韻律射影MILIZEZaha Hadid Architects広告韻律転移三菱UFJ信託銀行NeRF

画像生成AIをめぐる倫理的問題の最新事情。各国で分かれる対応とは

2022.11.28アート

画像生成AIをめぐる倫理的問題の最新事情。各国で分かれる対応とは

DALL-E 2をはじめとする画像生成AIは絵心がない人でも高品質な画像を制作できる手段を提供する一方で、著作権などに関して新たな問題を投げかけています。本稿では代表的な画像生成AIであるDALL-E 2とStable Diffusionの利用規約を確認したうえで、これらのAIの悪用事例とAI生成画像の著作権について各国ごとにまとめていきます。

DALL-E 2とStable Diffusionの利用規約

今日の画像生成AI流行の嚆矢となったDALL-E 2の利用規約は、同AIに関するヘルプセンターにトピックごとにまとめられています。このヘルプセンターにもとづいて同AIの利用規約の要点をまとめると、以下のようになります。

  1. DALL-E 2はユーザに画像生成機能のみを提供しており、ソースコードは非公開。
  2. 同AI利用開始初月は50クレジットが無料で支給される。1クレジットを消費することで画像生成・編集・変換が1回実行できる。毎月15クレジットを無料支給。クレジットの追加購入も可能。
  3. 生成した画像の転載、販売権、商用権は生成したユーザが所有する。
  4. ヘイトコンテンツや性的なコンテンツが生成されないように、フィルターが実装されている。このフィルターは検出漏れがないように構築されているため、誤検出(安全な画像が違反画像として検出される)が少なくない。誤検出によって同AIの利用が停止された場合は、ヘルプセンターに問い合わせると復旧できる。
  5. 以上のフィルターの運用には人間が関与している。
  6. 2022年11月3日には、APIの利用提供開始が発表された。

DALL-E 2の一般公開(2022年9月)に先立った2022年8月に登場して画像生成AI普及に大きく貢献したStable Diffsuionの利用規約は、以下のようにまとめられます。

  1. Stable Diffusionのソースコードは、GitHubで完全公開されている。
  2. 同モデルのソースコードを用いたアプリ開発は、オープンソースライセンスの下で可能。
  3. 同モデルにも倫理的に許容し難い画像を検出するフィルターが実装されている。しかし、このフィルターを除去する技術はすでに流布している。
  4. 同モデルのソースコードとは別に、同モデルによる画像生成が可能なウェブアプリDreamStduio Liteが公開されており、その利用は有料となっている。

以上のようにDALL-E 2とStable Diffusionを比較すると、前者は安全性を重視しているため画像生成機能とAPIの利用のみに制限されている一方で、後者は自由に流用できるようになっています。こうした両者の特徴をあえて単純化して表現するとDALL-E 2は「画像生成におけるiOS」、Stable Diffusionは「画像生成におけるAndroid」と言えるでしょう。

DALL-E 2とStable Diffsuionの利用規約の違いは、後述するように悪用事例への対処に大きく影響を与えています。

ポジティブな要素がネガティブなそれを上回る

画像生成AIをめぐるリスクのひとつに、倫理的に許容し難い画像の生成があります。DALL-E 2に関しては、前述したように時に誤検出が生じてしまうほど厳しいフィルターを実装しているうえにそのフィルターの運用に人間が関わっているため、これまで違反画像の生成が大きく報じられたことはないようです。

Stable Diffusionの悪用事例に関しては、同AIが一般公開されて半月ほど経過した2022年9月15日にテック系メディアThe Vergeが報じました。前述のように同AIにもフィルターは実装されているものも、ソースコードを完全公開しているため、英語圏最大の掲示板サイトRedditで「5秒で安全性フィルターを除去する方法」という書き込みが流布するようになりました。

フィルター除去の方法が流布した結果、Stable Diffusionの一般公開から程なくして、Redditには同AIによって生成されたポルノ画像をアップロードするスレッドが乱立しました。もっとも同掲示板はディープフェイクをはじめとするAI生成ポルノコンテンツの掲載を禁止していたので、以上のポルノ画像スレッドはすぐに閲覧不可となりました。

以上のような悪用が予期できたにもかかわらず、ソースコードの完全公開に踏み切ったことに関して、Stable Diffusionを開発したStability.aiのCEOであるEmad Mostaque氏は「ポジティブな要素がネガティブなそれを上回る」と発言しています。つまり、同AI悪用による影響よりソースコード完全公開から生じる恩恵のほうが大きい、と同氏は判断したのです。この判断からは技術自体は悪ではなく、技術を使う人間にその使用責任が問われるという価値観がうかがえます。

各国で異なる画像生成AIコンテンツの著作権

画像生成AIをめぐる問題には生成画像の著作権をどのように考えるか、というものもあります。この問題は、国ごとに考え方が異なります。イギリスの法律事務所Pinsent Masonsが2022年2月18日に公開した分析記事では、同国におけるAI生成物の著作権事情が論じられています。同国では人間が関与しないAIのみによって生成された創作物にも50年間の著作権が生じる、と定めています。この法的決定の背景には、AIによる創作物に積極的に著作権を認めることによって、同国のAI産業を振興するという政治的意図があります。なお、2022年6月28日には以上の著作権をめぐる取り決めを継続することが同国政府より発表されました。

アメリカにおけるAI生成物の著作権に関しては、カルチャー系メディアSmithsonian magazineが2022年3月24日にAI生成物の著作権が認められなかったことを報じています。この法的判断の理由として、同国の著作権は「(人間の)心の創造的な力に基礎を置く」こと等が挙げられています。しかしながら、写真専門メディアPetaPixelは2022年9月27日、画像生成AIのひとつであるMidjourneyを使って制作されたグラフィックノベル『Zarya Of the Dawn』の著作権が認められたことを報じました。このグラフィックノベルの著作権申請をしたデザイナーのKris Kashtanova氏は、同国著作権局に対して画像生成AIによる制作には積極的な人間の関与があることを訴えました。この判例が、同国におけるAI生成物の著作権に関するひとつの判断基準となると考えられます。

日本におけるAI生成物の著作権については、IT関係の法律事案に精通しているSTORIA法律事務所が2022年8月31日に公開した柿沼太一氏によるブログ記事で詳しく論じられています。この記事によれば、日本におけるAI生成物の著作権の扱いは「人間の創作的寄与」が認められるものには著作権が認められる、という見解を述べています。この見解は前述したアメリカの判例に近いと言えます。

なお、以上のSTORIA法律事務所公開のブログ記事では、画像生成AI開発に使う学習データに著者未承諾の画像が含まれる場合の法的解釈なども論じられています。この問題は、日本アニメ画像を生成するNovel AIが学習データとして活用したアニメイラスト共有サイト「Danbooru」に、無断転載イラストが多数掲載されていることで実際に問われました。

参考記事:オープンソースとして発展するAIモデル:月刊エンタメAIニュース vol.34

画像生成AIをめぐる法的・倫理的問題は、以上の事例で尽きるようなものではありません。しかしながら、これらの問題に関しては今後拡大する画像生成AI市場が健全に成長できるように対処するべきでしょう。そして、画像生成AIを利用する際には法的・倫理的により安全なものを選ぶようにすれば、健全なAIが成長していくのではないでしょうか。

Writer:吉本幸記、Image by Shutterstock

RELATED ARTICLE関連記事

CGへの扉 Vol.25:変幻自在の顔も実は人工知能

2021.4.13アート

CGへの扉 Vol.25:変幻自在の顔も実は人工知能

デザイン支援に日本アニメ画生成も。画像生成アプリの展開まとめ

2022.11.25アート

デザイン支援に日本アニメ画生成も。画像生成アプリの展開まとめ

CGへの扉 Vol.16:バーチャル開催SIGGRAPH論文を先取り

2020.7.20アート

CGへの扉 Vol.16:バーチャル開催SIGGRAPH論文を先取り

RANKING注目の記事はこちら