対話型AIは自信満々の嘘をつく：月刊エンタメAIニュース vol.36

エンタメにおいても人工知能は日進月歩で発展しており、新しい研究成果や試みが次々と発表されています。こちらの連載では、過去1か月間に公開された注目すべきゲームAIやエンタメAIに関連したニュース、論文などを紹介していきます。

流暢にデタラメを話すチャットボット

この12月は、11月30日にOpenAIが発表した対話型AIモデル「ChatGPT」の話題がSNSを席巻しました。

ChatGPTは、同社の大規模言語モデルGPT-3をベースに設計され、教師あり学習と強化学習によるトレーニングを施されたチャットボットです。ブラウザをとおして誰でも簡単にアクセスでき、ユーザーが入力した情報をもとに極めて自然な会話を出力できることから、TwitterやTikTokでたちまち話題となりました。

単なる会話相手になってくれるのはもちろん、小説や映画の脚本を書かせたり、ジョークや口説き文句を提案させたり、履歴書の添削をお願いしたり、プログラミングのコードを書かせたり、自分の書いたコードをデバッグさせたりと、ユーザーごとに活用方法は多種多様です。

現在、公式Discordサーバーでは多くのユーザーがChatGPTのユニークな使い方や結果をシェアして盛り上がっているほか、インターネット上にも用途と実力を紹介する記事があふれかえっています。

一方で、ChatGPTが出力する情報のすべてが真実とは限らないという点には留意しなければいけません。ChatGPTは現実世界のあらゆるテキストを学習しており、いともたやすくそれらしい回答を流暢に返してきますが、出力される文字数がやたら多いわりに内容が薄っぺらだったり、そもそもデタラメなことを知ったかぶりで平気で回答してきたりもします。

ChatGPTは日本語での入出力にも対応しており、現時点ではOpenAIにアカウントを登録するだけで無料で利用できます。プロトタイプでの試験運用の後、有料化を目指すということです。

言語モデルはいともたやすく悪用できる

前回、メタAIが開発した科学知識に特化したオープンソースの言語モデル「Galactica」を紹介しました。Galacticaは4800万本の論文や文献を学習しており、あらゆる科学知識を自在に言語化できる点が最大の特徴です。

関連記事：言語モデルは日常のツールとなり得るか？：月刊エンタメAIニュース vol.35

一方で、同プロジェクトのウェブサイトには、「NEVER FOLLOW ADVICE FROM A LANGUAGE MODEL WITHOUT VERIFICATION」（言語モデルが出力する情報を検証することなく鵜呑みにしてはいけません）という注意書きも表記されていました。ChatGPTと同様に、Galacticaが出力する情報のすべてが真実とは限らないということです。

事実、Galacticaが公開された直後から、科学的に正確とは限らないにも関わらず真実であるかのように結論付けられた内容や、特定の人種に対する偏見と受け取れる表現を含んだ内容を出力した事例がいくつも報告されました。こうした事態を受けて、メタAIはGalacticaのデモを公開からわずか数日で停止しました。

注意書きがあったとはいえ、科学的根拠があるように見せかけた誤情報を拡散させる可能性がある以上、メタAIの判断は正しかったといえます。しかし、入力された情報に基づいて学習したデータセットの情報を再構築している言語モデルの特性を考えれば、ユーザーの使い方次第では意図的に誤情報を返すように誘導できることも事実です。

Galacticaの公開停止について、AI研究者としてメタAIに貢献するニューヨーク大学の教授Yann LeCun氏は、「もう気軽に悪用して楽しむことはできません。満足ですか」と、皮肉めいたコメントをTwitterに投稿していました。

画像生成AIに対する拒絶反応の波

イラスト作成ソフト「CLIP STUDIO PAINT」を提供するセルシスは12月2日、試験的な実装を予定していた画像生成AI機能の搭載を中止すると発表しました。

同社は、オープンソースとして無料公開されている画像生成AI「Stable Diffusion」を組み込んだ「画像生成AIパレット」という機能を試験的に導入することを、11月29日に告知したばかりでした。

しかし、「誰かの著作物を利用して画像を生成するアプリは使いたくない」「画像生成AI機能はアーティストの活動を阻害する」「CLIP STUDIO PAINTを使っただけで、画像生成AIで作ったと疑われてしまう」といったユーザーからの批判が相次いだことを受けて、同機能の導入を見送ったということです。

同社は「画像生成AI技術をどのように創作活動に活用できるかにとらわれ、創作の道具としてCLIP STUDIO PAINTをご利用いただいている皆様の気持ちに寄り添えなかったことを反省し、お詫びいたします」とコメントしています。

スプレッドシートで使える機械学習アドオン

Googleは12月7日、Googleスプレッドシート用の機械学習アドオン「Simple ML for Sheets」を発表しました。

Simple ML for Sheetsは、プログラミングや機械学習の知識がなくても、クリックするだけでスプレッドシート上のデータから機械学習モデルが作れるようになるアドオンです。

これにより、機械学習アルゴリズムに長けた技術者のみならず、あらゆるビジネスや研究に携わるスプレッドシートユーザーが、機械学習に基づいたデータ予測の恩恵を受けられるようになるということです。

Simple ML for Sheetsはブラウザ上で動作するので、データはすべてGoogleスプレッドシートに保存されます。また、生成された機械学習モデルはGoogleドライブに自動的に保存されるので、ほかのユーザーと簡単に共有することもできます。さらに、モデルはGoogleが提供する機械学習ライブラリ「TensorFlow」へエクスポートすることも可能です。

忘年会への参加を断るためだけのAI

デジタルレシピは12月9日、同社が提供するAIライティングアシスタント「Catchy」に、人間関係を傷つけずに丁重に忘年会を断るための文章生成機能を追加しました。

全国の20代から60代の男女700名を対象に同社が実施した意識調査によると、約47%が「仕事関係の忘年会に参加したくはないが参加する」と回答したということです。その理由としては「断りにくいから」「職場の人間関係に影響が出そうだから」ということが挙げられました。

くわえて、多くの人は「断る文章を考えること」に対して負担を感じているということです。「Catchy」は忘年会に参加したくない理由を簡単に入力するだけで、やんわりと断れるテンプレートのような文章を自動で出力してくれます。

たとえば、「飲み会が苦手。騒ぎたくないから」と入力すると、「会社の忘年会にお誘いいただきありがとうございます。お酒が飲めない私としては、ちょっと気が引けるので、残念ながら欠席させていただきます。また、同僚は皆、忘年会を楽しみにしていると思いますので、その雰囲気を壊したくないという気持ちもあります。その埋め合わせとして、勤務時間中に一人一人の社員と一緒に過ごす時間を増やしたいと思っています。皆さんと楽しい時間を過ごせることを祈っています」という社交辞令の塊のような文章を返してくれます。

なお、同社では謝罪フレーズの底上げとごめんなさいの気持ちを後押しするための「謝罪パーフェクトガイドブック」も発行しているということです。

Writer：Ritsuko Kawai / 河合律子