制御なきAIに潜む"差別的な判定"のリスク
プレジデントオンライン / 2019年4月16日 9時15分
■AIに求められる「倫理指針」
EU(欧州連合)は、AI(人工知能)の倫理指針策定を進めている。すでに域内では先進国を中心に融資での与信管理や人材採用における書類選考など、様々な分野でAI導入が進んでいる。
今後は自動車の運転を委ねるなど、さらに高度な分野にまで導入が進むと見られる。だが、「AIは生身の人間のような倫理観や常識を持ち合わせていない」(ドワンゴ人工知能研究所の山川宏所長)ため、倫理指針が必要になっている。指針に沿って人間がAIをコントロールしないと、「特定の人種において延滞が多いなど、AIが偏った傾向分析を行い、差別的な与信判定を下す恐れがある」(同)。
EUは倫理指針を通じて、AI採用企業にその判断過程を説明する責任を課すとともに、AIの判断ミスで被った損害を補償する賠償責任保険への加入も求める。さらに、AIの仕組みや運用がモラルに反していないかを監査する機関や、AIの倫理面に関する認証制度も設ける。現状のAIを人間の成長に例えれば、「まだ生後半年程度の段階」(同)。人間の赤ん坊と違って口は達者である(与えられた命題に答える)が、物事の理解が軽薄なレベルにとどまっているとか。日本政府も18年12月にAIの7原則を公表、その1つに「AIを利用した企業に決定過程の説明責任」という文言を盛り込んだ。
(金融ジャーナリスト 大西 洋平 写真=AFLO)
外部リンク
この記事に関連するニュース
-
AIの平和利用に向けた会合を広島で開催 - IBM、MS、シスコなどが参加
マイナビニュース / 2024年7月11日 8時0分
-
法務DXサービスを展開するレクシスネクシス、法律分野におけるAIの活用における白書を公開
PR TIMES / 2024年7月9日 13時15分
-
豪首相が謝罪「AIの不祥事」に学ぶリスク管理 迫るEU法規制、日本企業も制裁の対象になる
東洋経済オンライン / 2024年7月5日 9時0分
-
アングル:生成AI普及、拒絶と有効利用の間で揺れる欧州コミック業界
ロイター / 2024年6月30日 7時54分
-
マイクロソフトとオープンAI提携など注視=EU競争当局
ロイター / 2024年6月29日 4時7分
ランキング
-
1急増の外国人観光客に人気の公道カート 事故や苦情が増加 安全対策強化求める声も
産経ニュース / 2024年7月20日 20時30分
-
2足立の花火、打ち上げ直前に中止 雷雨の見込みで 東京・荒川
毎日新聞 / 2024年7月20日 20時31分
-
3大型の台風3号(ケーミー)発生 暴風域伴い沖縄に接近するおそれ 進路に注意
ウェザーニュース / 2024年7月20日 16時0分
-
4米海兵隊、週末の飲酒検査を強化 国内全基地で 性的暴行事件受け
毎日新聞 / 2024年7月20日 16時51分
-
5「警察に関係なかろうが!」自衛官が警察官に暴行で逮捕 直前に飲酒した状態で自転車運転か
RKB毎日放送 / 2024年7月20日 13時40分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)