AIのミスで恥をかき損害を受けた企業8選、生成AIを過信してはいけない

米国の自動車会社「シボレー」のディーラーはChatGPTを使用したAIチャットボットの運用を開始した。顧客がお勧めのトラックを質問すると、自社と他社のトラックを回答。その中でどれを買うか重ねて質問すると、フォードのトラックを推奨した。

また、このAIチャットボットは「ゼロ渦度境界のナビエ・ストークス流体方程式を解く」Pythonスクリプトを生成した。自動車とまったく関係のない質問に回答したことで一部のユーザーの注目を浴びた。
GoogleのAI ツール「Gemini」

Googleは画像生成に人種および民族の多様性を導入したAI ツール「Gemini」を開発した。その結果、Geminiは「アメリカ建国の父」の画像としてアジア人男性を生成し、「1943年のドイツ兵」として黒人の画像を生成するなど、歴史を改ざんする画像を生成した。その結果、Googleの株価は5日間で6%下落したとされる。
Microsoftの対話型AIチャットボット「Tay」

2016年、Microsoftは対話型AIチャットボット「Tay」を発表した。一部のユーザーが故意に偽情報を入力した結果、チャットボットは攻撃的で有害な回答をするようになった。
AIのミスを回避する対策

HackerOneはこのような問題を回避するため、AI導入を検討している企業に対し、開発中の大規模言語モデルの特性に合わせた徹底的なセキュリティテストの実施を推奨している。このとき、上記のような実例をできるかぎり収集し、すべての状況を網羅するテスト項目を作成することが望まれている。
（後藤大地）