AIが事実に基づかない情報を出力する現象「Hallucination」を標本化するR&Dプロジェクトを発足

Hallucinationを収集した2024年度研究報告書「尤（ゆう）」を発行



　テクノロジーを起点とした社会課題の解決や、新しい表現開発を実践するDentsu Lab Tokyoは、AIが事実に基づかない誤った情報をあたかも正しいかのように出力する現象「Hallucination(ハルシネーション)」に着目し、AI技術の進化とともにやがて失われてしまうHallucinationを考察とともに標本化して、記録として残すR&Dプロジェクトを発足。意図的に古いバージョンの生成AIアルゴリズムなどを採用しながら、当時の技術的限界点である様々なHallucinationを収集した2024年度研究報告書「尤（ゆう）」を限定1,000部発行いたします。本報告書はDentsu Lab Tokyoの関連イベント等で配布予定です。
[画像1: https://prcdn.freetls.fastly.net/release_image/88502/41/88502-41-d3772671b98a658d3732f05747005086-1400x972.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]


AIが引き起こすエラー「Hallucination」を通して、AIの限界と創造的な潜在能力を探るプロジェクト発足
　ケンブリッジ辞典が選出する2023年の「今年の単語」に「Hallucinate」が選出されるなど、AIが引き起こす誤認識「Hallucination」が問題になりつつあります。Hallucinationのよく知られた例としては、対話型AIが時折不正確な情報をあたかも本当の情報のように返答したりすることや、画像生成AIがスパゲティを食べる人物を生成した際に、人間の手を生成することが難しく、時折素手でスパゲティを食べるような画像が生成されたりしてしまうことなどが挙げられます。また、Hallucinationは生成AIだけではありません。砂漠の画像がポルノとして判定されてしまうなど、様々な問題を引き起こしています。
　これらの原因の一つとして「教師データの偏り」があげられます。AIをトレーニングするために使う画像の偏りによって、画像の認識精度が低くなり、誤検知やステレオタイプ的な認識をしてしまうのです。これは技術的な問題というよりも、技術によって、先天的に存在した世の中の目に見えないバイアスが炙り出された、と捉えることもできます。
　このようにHallucinationをただの「エラー」と捉えるのではなく、なぜそのような問題が起こったのかを分析することによって、AIによる誤認識をクリエイティブに捉えることができるのではないかと考え、R&Dプロジェクトを立ち上げました。

2024年度現在発現するHallucinationを標本化した2024年度研究報告書「尤」の発行
　現時点では「エラー」と捉えられているHallucinationは、企業の開発者の努力によって減少傾向にあります。しかし、例えば8bitの家庭用ゲーム機の画像が持つ独特のグラフィック感覚が今なお多くの人々を魅了していますし、フィルムカメラのもたらす独特の色合いやボケ、ブレ、光漏れやフィルムの粒子感も本来は当時の技術的限界による「エラー」であったはずです。2024年現在観測されている多くのHallucinationも、数年のうちになくなってしまうでしょう。しかし今の技術的限界がもたらすエラーには、その時代を反映する資料としての価値があるはずです。
　本研究プロジェクトでは、意図的に古いバージョンの生成AIアルゴリズムなどを採用しながら、当時の技術的限界点である様々なHallucinationを収集。AI技術の進化とともに失われてしまうHallucinationを考察とともに標本化した、2024年度研究報告書「尤（ゆう）」を限定1000部発行いたします。

■Denstu Lab Tokyo　Creative Director土屋泰洋 コメント
　機械学習においてAIは「尤度（ゆうど）」という指標を用いて、あるデータが与えられた条件下でどれだけ確からしいかを測ります。それは「もっともらしさ」を数値化したものであり、時に予期せぬ解釈を生み出す原因ともなります。私たちの研究誌『尤』は、この数理的でありながら不確実な判断プロセスに着目し、その名を冠しています。
　2023年、英ケンブリッジ辞典が「今年の単語」に「Hallucinate（幻覚を見る）」を選び、大きな注目を集めました。この言葉は、AIが誤って実在しない事実や不可能な画像を生成する現象を指します。AIの実用化が進む中で、ハルシネーションは課題とされ、開発者たちはその発生を抑えるために尽力しています。
　本冊子は、Dentsu Lab Tokyo内のクリエイティブリサーチチーム「Hallucination Research Group」によって、2024年時点で観測された様々なタイプのハルシネーションを記録するために編集されました。ここに記録されたハルシネーションは、AI技術の進化とともにいずれ消えていくでしょう。しかし、8bitゲームのグラフィックやフィルムカメラ特有のボケや粒子感がそうであるように、時代の技術が生み出すエラーには、その時代を映し出す技術史料としての価値があるはずです。本冊子が、思わぬハルシネーションから新たな創造性を見出すきっかけとなり、テクノロジーとクリエイティブの未来を形作る想像力を刺激するものとなれば幸いです。

■プロジェクトメンバー
Dentsu Lab Tokyo / Hallucination Research Group
・土屋泰洋(Creative Director)
・岸本和也(Creative Technologist)
・岸裕真(Artist)

Dentsu Lab Tokyoについて
[画像2: https://prcdn.freetls.fastly.net/release_image/88502/41/88502-41-7867b4f0caaf18122592e0ecca056e91-405x261.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]

　Dentsu Lab Tokyo（デンツウラボトウキョー)は、研究・企画・開発が一体となったクリエイティブのR＆D組織です。「PLAYFUL SOLUTION」「おもいもよらない」をフィロソフィーとしながら、デジタルテクノロジーとアイデアによって、人の心を動かす表現開発や、いま世の中が求める社会の課題解決を実践しています。　
https://dentsulab.tokyo/



企業プレスリリース詳細へ
PR TIMESトップへ