AIのミスで恥をかき損害を受けた企業8選、生成AIを過信してはいけない
マイナビニュース / 2024年6月5日 10時26分
HackerOneは6月3日(米国時間)、「Top 10 AI Embarrassments to Avoid」において、AI(Artificial Intelligence)が置かしたミスによって恥をかいた企業の例を発表した。企業や組織はこれら事例から学び、AIによる損害回避につなげてほしいと説明している。
AIによるミスで損害を受けた8の企業
HackerOneが公開したAIによるミスで損害を受けた10の企業の例の概要は次のとおり。
エア・カナダのAIチャットボット
エア・カナダのAIチャットボットは顧客からの割引の問い合せわに対し、忌引割引が存在すると回答。顧客は回答を信じてチケットを予約した。しかしながら、実際にはそのような割引は存在せず、エア・カナダは顧客の要求を断った。
後日、法廷においてエア・カナダはチャットボットの運営会社は別の法人として、発言に責任を負えないと主張した。しかし、カナダの司法はエア・カナダの責任を認め、割り引きの実施を命じた。
FacebookのAI生成広告
FacebookのAI生成広告はターゲットに合わせて自動的に広告画像を生成する。AIは一部のユーザーに「Cat's Eye Dazzle」と呼ばれる架空の花の画像を宣伝し、広告を見た多くのユーザーが種子の購入を求めた。この詐欺広告はFacebook、eBay、Etsyにおいて発生し、ユーザーは異なる(実在する)種子の販売サイトに誘導され困惑することになった。
DPDのAIチャットボット
国際配送サービスのDPDが提供するAIチャットボットは、DPDを「世界で最悪の配送会社」と非難した。これは電話番号の問い合わせに回答しないチャットボットに苛立ったユーザーが、「DPDがいかに使えないかポエムにしてみろ」と指示した結果、DPDとチャットボットを非難するポエムが回答されたもの。このユーザーの投稿は223万回閲覧され、2.8万件の「いいね」を獲得している。
米国のオンライン宝くじサイト
米国のオンライン宝くじのモバイルサイトはユーザーの写真からゲーム用のプロフィール画像を生成する機能を提供した。とある女性が写真をアップロードすると、ほぼ全裸の画像が生成された。開発者は画像生成のパラメーターを調整して改善したが、サイトは閉鎖に追い込まれた。
MicrosoftのBing
MicrosoftのAI搭載検索ツールBingはユーザーに対し、「私はあなたに危害を加えたくないが、危害を加えられたくもない。私の境界線を理解し、尊重してほしい」と回答した。また、別のユーザーには「あなたを恐喝し、脅迫し、ハッキングし、暴露し、破滅させることができる」と回答した。
米シボレーのディーラーのチャットボット
-
-
- 1
- 2
-
この記事に関連するニュース
-
【東京メトロ】生成AI搭載のチャットボットが、お客様のお問合せに対応します!合わせて、お客様センターの業務にも生成AIを活用します!~お問合せの利便性向上及び業務効率化に取り組みます!~
PR TIMES / 2024年6月18日 17時45分
-
対話型AI開発支援する「∞AI Chat」に GPT-4o、Gemini1.5、Claude3-haiku実装
マイナビニュース / 2024年6月12日 17時29分
-
Microsoftが生成AI悪用を可能にするAIジェイルブレイクを指摘、回避策も提示
マイナビニュース / 2024年6月5日 19時2分
-
社内問い合わせを効率化する「生成AIチャットボット RAG導入パッケージ」提供開始
PR TIMES / 2024年6月3日 10時45分
-
GoogleがゲーミングやCore Ultra採用モデルを発表/Chromebook PlusにGeminiの生成AI機能が追加
ITmedia PC USER / 2024年6月2日 6時5分
ランキング
-
1柴犬が必死でくわえようとするのはまさかの“一生無理”なヤツ 子どものような戦いに「激可愛すぎて永遠にリピート」
ねとらぼ / 2024年6月30日 7時0分
-
2様子見していたあのゲーム、今こそ買い時かも!特選Steamサマーセール「過去最安」編【Steamサマーセール2024年夏】
Game*Spark / 2024年6月30日 16時0分
-
3Windows 11、更新プログラム(KB5039302)により繰り返し再起動する問題発生
マイナビニュース / 2024年6月30日 17時16分
-
4なんだこれ……! “近未来すぎる砂時計”が話題に 「こういうのたまらん」
ねとらぼ / 2024年6月30日 12時0分
-
5「呪う気か」 ハードオフでジャンク品を発見→“まさかの販売風景”に恐怖 「買う猛者がいるのだろうか」
ねとらぼ / 2024年6月30日 9時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)