中国で加速する「下流層」AI判定の恐怖
プレジデントオンライン / 2018年5月20日 11時15分
AI(人工知能)の活用が進められ、人材採用や融資審査などの場にも導入されつつある。だが、AIの普及が、新たな差別をもたらす可能性があると慶應義塾大学法科大学院の山本龍彦教授は危惧する。
例えば採用面接の場で、あるAIから低評価をつけられたとする。そして、他のAIも同様のロジックで判定・評価を行えば、その人の社会的な評価は下層で固定化される。それにより仮想空間上の低評価層、バーチャル・スラムから抜け出せなくなるのだ。また「判定に至った理由がブラックボックスと化し、不服も申し立てられないのが問題」(山本教授)。
早くも中国では、バーチャル・スラム化の兆しがうかがえる。同国eコマース最大手・アリババ傘下の信用情報機関・芝麻信用は、利用者の年齢や学歴・職歴、保有資産、取引履歴、人脈などから個々の信用力を950点満点で採点。同スコアは融資審査や人材採用にも活用され、高得点者は観光ビザを取得しやすいなどの特典が得られるが、低得点者はあちこちで門前払いとなる。
EUでは2018年5月に、AIのみが判断した融資や人材採用は認めないというGDPR(一般データ保護規制)を施行する。主観を交えず個人の適性や信用度を判定するAIだが、人物評価のすべてをAIに委ねることには一考の余地がありそうだ。
(金融ジャーナリスト 大西 洋平 写真=AFLO)
外部リンク
この記事に関連するニュース
-
【VR・AI倫理審査】VRとAIを活用した公共政策や学術の「研究計画」の倫理審査を行う《VR研究倫理審査委員会》を創設するため、VR研究倫理審査委員会準備会の第4回を7月14日に開催しました
PR TIMES / 2024年7月16日 18時15分
-
AIファイナンスのH.I.F.、2024年6月度引受報告
PR TIMES / 2024年7月16日 15時15分
-
AIファイナンスのH.I.F.、ベンチャーデット保証 6月度取組報告
PR TIMES / 2024年7月16日 15時15分
-
採用管理システムsonar ATS、「BOXIL SaaS AWARD Summer 2024」の採用管理システム(ATS)部門で「Good Service」に選出
PR TIMES / 2024年7月5日 11時15分
-
AIファイナンスのH.I.F.、2024年5月度引受報告
PR TIMES / 2024年6月22日 13時40分
ランキング
-
1百条委提出の音声データにイチゴや塩の受け取りも示唆する発言 兵庫知事、相次ぎ受領か
産経ニュース / 2024年7月18日 21時46分
-
2埼玉・川口のマンションで爆発音、男性搬送…窓ガラスの破片飛び散り通行人らがけが
読売新聞 / 2024年7月19日 0時45分
-
3兵庫県知事「今、記憶がない」“特産品の要求音声”直撃に… パワハラ告発男性が残す
日テレNEWS NNN / 2024年7月18日 21時22分
-
4米軍関係者の性的暴行、他県でも非公表 「住民の被害を隠蔽」
毎日新聞 / 2024年7月18日 21時9分
-
5バブル期に各自治体へ1億円…「ふるさと創生」とは一体何だったのか 小学校に作った“巨大電飾看板”のその後
東海テレビ / 2024年7月19日 6時34分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)