AIに意識が芽生えたとの主張は何を意味するのか：月刊エンタメAIニュース vol.30

2022.6.23先端技術

エンタメにおいても人工知能は日進月歩で発展しており、新しい研究成果や試みが次々と発表されています。こちらの連載では、過去1か月間、主に海外で公開された注目すべきゲームAIやエンタメAIに関連したニュース、論文などを紹介していきます。

グーグル研究者がAIに意識が芽生えたと主張した意味

この6月は、グーグルのAI研究者であるブレイク・レモインが、同社の大規模言語モデル「LaMDA」（Language Model for Dialogue Application）に意識が芽生えたという自身の主張を社外に公表し、事実を否定する同社から休職処分を受けた一連の出来事が大きく取り沙汰されました。

レモインがLaMDAと交わした会話内容と主張する文章からは、LaMDAが自己を人工知能と認識しつつも自分は人間であると主張する様子や、魂や悟りといった哲学的な概念に対するLaMDA独自の解釈、さらには自分には人間と同じように感情があり、孤独や死を恐れているというLaMDAの懸念が確認できます。

誤解すべきでない点として、この会話内容からAIに意識があると結論付けたレモインの主張は、あくまで彼の宗教観にもとづいているという事実があります。LaMDAがいかに人間のように意思疎通し、SFの創作物に登場する高度な知的生命体のように振る舞おうとも、機械に感情が芽生えたことを示す科学的根拠にはなりません。事実、グーグルをふくめて多くのAI倫理の専門家は彼の主張を否定するか、もしくは可能性を議論しようともしていません。

今回の出来事の本質は、ニューラルネットワークを使った言語モデルが感情を持ちうるかどうかではなく、AIが人間のように世界を認知するようになるという未来像を大企業やマスメディアが誇大広告のように築き上げてきた結果として、擬人化願望を刺激された一部の人間の感情をAIモデルによって操れる事実を証明したことにあります。今後、AI技術がさらに社会基盤へ浸透していくなかで、AIへの過剰な感情移入が何を招くのか。本当に議論しなければならないのは、AIに対するSFじみた幻想ではなく人間側の認識ではないでしょうか。

画像生成AIが生み出した不可解な独自言語の正体

以前、入力した文章の情報を正確に反映した画像を生成できるAIモデル「DALL-E 2」を紹介しました。OpenAIが発表したDALL-E 2は、高解像度による写実的な画像生成のみならず、既存のイメージを指定の内容で違和感なく編集できる機能面での柔軟性が特徴でした。

テキサス大学オースティン校の研究チームは6月1日、DALL-E 2が文章から画像を生成する際に、人間社会には存在しない独自の言語も同時に生み出していた事実を示す論文を発表しました。DALL-E 2のアルゴリズムが画像とともに生成した不可解な文字列には規則性があり、それぞれが描写対象に関連した意味を持っていたということです。

「DALL-E 2」は、「A bowl of soup that is a portal to another dimension as digital art（別次元への入口となるスープボウルのデジタルアート）」のような文章を入力するだけで意味を忠実に表現した画像を生成できる一方で、「Two farmers talking about vegetables, with subtitles（字幕付きで野菜について話し合う2人の農夫）」のような言語表現をふくむ画像生成を指示した際には、農夫と野菜の画像に添えて意味不明な文字列を出力する特徴があります。たとえば、前述の画像には「Vicootes」という謎の字幕や、農夫が「Apoploe vesrreaitais」という謎の台詞を発している様子が描かれています。

こうした文字列には、多くのケースで描写対象のオブジェクトや出力画像の意味に対して強い関連性があると、研究チームは指摘しています。実際に、DALL-E 2に「Vicootes」と入力してみると野菜を使った料理の画像が、「Apoploe vesrreaitais」と入力してみると木の枝に止まる鳥の画像が生成されたということです。つまり、前述の画像は2人の農夫が野鳥による作物被害について話し合っている様子が、DALL-E 2の独自言語で表現されていた可能性が高いというのです。

このようにAIモデルが出力する文字列の一貫性には、将来的にバックドア攻撃やフィルター回避といった悪用を引き起こす可能性もあるとして、同チームはさらなる研究の必要性を主張しています。

がんで声を失った俳優を支えた音声クローン技術

音楽配信サービスを提供するSpotifyは6月13日、AI音声プラットフォームを開発するスタートアップSonanticの買収を発表しました。

Sonanticの音声クローン技術は、2021年に映画『トップガンマーヴェリック』の制作に採用されたことで大いに脚光を浴びました。同作では、1986年公開の前作『トップガン』に引き続きアイスマン役を演じる米俳優ヴァル・キルマーの台詞に音声クローン技術が用いられています。

ヴァル・キルマーは2015年に喉から出血したことで病院へ緊急搬送され、その後オンラインフォーラムにて本人が咽頭がんであったことを認めています。治療のための手術で声を失った彼の俳優としてのキャリアを支えたのが、AIを活用した音声クローン技術でした。Sonanticが公開しているデモンストレーション動画からは、機械学習によって忠実に再現されたヴァル・キルマーの音声が確認できます。

誰でもワンクリックでMTG風カードが作れるサービス

自然言語処理技術の開発で知られるカナダのCohereが、トレーディングカードゲーム「マジック：ザ・ギャザリング」（MTG）をモチーフにしたカードを自動生成するAIモデル「Urzas.ai」を公開しました。

カードの効果を説明するテキスト部分の生成には同社のAIモデル「Cohere」が、イラスト部分の生成には他社のAIモデル「WOMBO」のAPIが使われているということです。30年近い歴史を持つMTGのデータセットを反映したカードの効果だけでなく、「Cohere」が自動生成したフレーバーテキストも添えてくれるのが特徴です。

Writer：Ritsuko Kawai / 河合律子、Image by ShutterStock