豪首相が謝罪「AIの不祥事」に学ぶリスク管理 迫るEU法規制、日本企業も制裁の対象になる
東洋経済オンライン / 2024年7月5日 9時0分
急速に生成AIの活用が進む一方、リスクやインシデントの懸念も大きくなってきている。海外ではAIの「ミス」によって数十万人に影響が及び、大きな混乱が起こった事例もある。AIのリスクを正しく認識し、対策するにはどうすればよいか。NTTデータのエグゼクティブ・セキュリティ・アナリスト新井悠氏に聞いた。
ディープフェイクを使った詐欺が増加
――これまでに発生した生成AIによる主なインシデントについて教えてください。
【写真を見る】「企業がAIを使う際のリスクを認識するべき」と語るNTTデータの新井悠氏
2022年の11月にChatGPTが公開されて以降、自然言語だけでなく画像や動画を生成できるAIが、私たちも使えるようになりました。
ID検出サービスSumsubによると、著名人になりすました動画等で相手を騙すディープフェイクが、2023年は前年に比べて全世界で約10倍に増えたそうです。
具体的には、ディープフェイクを使って嘘の投資話を持ちかけ、お金を入金させて騙し取る詐欺が非常に増加しています。
AIが引き起こす「想定外」の事例の数々
――企業経営に大きな影響がありそうなものとしては、どんな事例がありますか。
生成AIに限らずAI全般に関するものになりますが、オーストラリア政府が生活困窮者への給付金の不正検知にAIを導入したところ、2015年から2019年にかけて約40万人もの人を「あなたは不正に受給している」と誤って選定し、返還請求を行った事件があります。
これにより生活困窮者から17億豪ドル(当時のレートで約1554億円)以上を回収してしまい、2020年に当時のモリソン首相は謝罪に追い込まれました。
この事件のようにAIは異常を検出し、警告を与える仕組みによく使われていますが、オランダでもAIを使った検知システムで問題が発生しています。
こちらは児童への給付金申請における詐欺を検出するAIシステムで、誤って推定2万6000件もの家族が告発されてしまったのです。しかもAIが詐欺と判定するために使っていたパラメーターの中に人種差別的な内容が入っていると指摘されました。
これらはAIが意図せず従来の法的な枠組みでは予防や対処ができない事態を起こしてしまった結果、大規模な経済的損失や社会的な混乱がもたらされた事例です。
企業がAIを使うときも、こうしたリスクがあることが可視化され始めていると言えます。
オープンAIが提訴された「著作権侵害」の問題
この記事に関連するニュース
-
Vectra AI、フィッシングからネットワークを守る、AI主導のソリューションの提供を開始
PR TIMES / 2024年6月27日 13時45分
-
セキュリティーでもAI活用の流れが加速、市場と脅威の最新動向を解説
週刊BCN+ / 2024年6月20日 9時0分
-
Vectra AI、生成AIを悪用するサイバー攻撃に対応するため、AIプラットフォームの機能拡充ならびにCrowdStrikeとのハイブリッド検知防御機能アップデートを発表
PR TIMES / 2024年6月11日 14時15分
-
プルーフポイント、年次レポート「2024 Voice of the CISO」の日本語版を発表:CISOの4分の3がサイバーセキュリティの主要リスクはヒューマンエラーと認識
PR TIMES / 2024年6月11日 12時45分
-
ディープフェイクによる「偽情報」に注意を...各国で、選挙の妨害を狙った「サイバー工作」が多発
ニューズウィーク日本版 / 2024年6月8日 19時27分
ランキング
-
1妻に先立たれた65歳、年金約17万円・おひとり様シニアを襲う<老後破産へのカウントダウン>
THE GOLD ONLINE(ゴールドオンライン) / 2024年7月3日 9時0分
-
2今度はなんのコラボ? マクドナルドのX、次回の「ハッピーセット」のヒント画像公開...期待高まる
J-CASTニュース / 2024年7月4日 16時49分
-
3宝くじで「10億円」当選! でも実際に“手では持てない”って本当?「1000万円」なら片手で持てる? 元銀行員の筆者の経験もあわせ解説
ファイナンシャルフィールド / 2024年7月4日 4時40分
-
4勢いづく出社回帰 テレワークは消えゆく運命なのか?
ITmedia ビジネスオンライン / 2024年7月5日 6時35分
-
5「NHK受信料がいらない」チューナーレステレビ 山善があえて“アフターサービス”に注力するワケ
ITmedia ビジネスオンライン / 2024年7月3日 8時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください