アングル:AI利用、インド分断助長も 目立つ警察利用の弊害
ロイター / 2023年9月17日 12時16分
人権団体や技術専門家らは、インド当局が貧困層や少数派、社会から疎外された人々を標的にするためにAI技術を使用していると批判している。写真は同国アーメダバードで2019年5月、開票センター内外に設置された監視カメラを見る選挙管理スタッフ(2023年 ロイター/Amit Dave)
Rina Chandran
[11日 トムソン・ロイター財団] - 昨年、インドの首都ニューデリーで宗教間の衝突が起きた後、警察は顔認識技術を使って数十人の男性を特定し逮捕した、と発表した。2020年の暴動に続き、こうした例は2度目だ。
両事件とも、起訴された者のほとんどがイスラム教徒だった。人権団体や技術専門家らは、インド当局が貧困層や少数派、社会から疎外された人々を標的にするために人工知能(AI)技術を使用していると批判している。
当局は、AIの導入によって効率性とアクセスが向上すると主張する。しかし、技術専門家らはAIの倫理的使用に関する公式な政策が欠如しているため、古くからの偏見が定着して少数派が犯罪者とされ、ほとんどの利益が富裕層に流れることで、底辺の人々が傷つくことを懸念している。
ニューデリーで「予測的取り締まり」を研究している研究者、シバギ・ナラヤン氏は「(カースト制度で最下層とされる)ダリットやイスラム教徒、トランスジェンダーなど、社会の片隅に暮らす人々に直接影響を与えることになる。そうした人々に対する偏見や差別に拍車をかけるだろう」と語る。
14億人の人口を擁し、世界第5位の経済大国であるインドでは猛スピードで技術革新が進む。医療から教育、農業から刑事司法まで、さまざまな分野でAIを利用したシステムが導入されている。だが、その倫理的影響については、ほとんど議論されていないと専門家は言う。
インドは階級、宗教、性別、貧富の差など、古くから深い分断にさいなまれてきた。ナラヤン氏らは、AIがこうした分断を悪化させると危惧している。
「私たちは、テクノロジーが客観的に機能すると考えている。しかし、AIシステムのトレーニングのために使われているデータベースは、カースト、性別、宗教、ひいては居住地を巡ってさえ偏りがあるため、偏見や差別を悪化させるだろう」とナラヤン氏は言う。
顔認識技術は、イスラム教徒やダリット、先住民族、トランスジェンダーなど社会から疎外された人々の監視を強化する危険性が指摘されているAI技術の一つだ。
データベースを国民の身分証明(ID)システムにリンクさせ、融資の承認や雇用、身元調査にAIを利用することが増えれば、こうした人々への扉が固く閉ざされることになりかねないと、米ペンシルベニア大学のシバ・マティヤザガン准教授は指摘する。特に、チャットボットのような生成AI人気の高まりが偏見を助長していると言う。
「チャットボットにインド人医師や教授20人の名前を尋ねると、上がってくるのは一般にヒンズー教徒が支配的なカーストの姓だ。これは、データの内容が偏っているゆえに、生成AIがカースト的偏見に基づく結果を出すことを示すほんの1例だ」とマティヤザガン氏は語った。
<AIが予測的取り締まり>
インドでは75年前にカースト差別が非合法化されたが、ダリットに対する虐待は今もまん延している。ダリットやイスラム教徒、先住民族は高い教育受けたり良い仕事に就けたりする割合が低く、スマートフォンの所有率やソーシャルメディアの利用率も、カーストの高い人々に遅れを取っていることが調査で明らかになっている。
グーグル・リサーチが2021年に行った分析では、女性、農村の人々、先住民族を中心に、インドの人口の約半分がインターネットにアクセスできないため「データセットからコミュニティ全体が欠落していたり、きちんと反映されていない可能性がある。このため誤った結論や不公平の残存につながる」とされた。
その影響は広範囲に及び、医療でも顕著だ。
グーグルの分析では「貧しい人々がかかる結核ではなく、心臓病やがんのような裕福な人々の問題が優先され、AIの恩恵を受ける人々と、そうでない人々の間の不公平に拍車をかけている」と研究者らが述べている。
同様に、データマッピングを使って安全でない地域にフラグを立てるモバイル安全アプリは、中流階級のユーザーによって内容がゆがめられている。
こうしたユーザーはダリットやイスラム教徒の地域、スラム街に危険地域のマークを付ける傾向があり、過剰な取り締まりや不当な集団監視につながる可能性がある。
インドの犯罪データベースは特に問題が多く、イスラム教徒、ダリット、先住民族が他の人々よりも高い割合で逮捕、起訴、投獄されていることが公式データから明らかだ。
こうした犯罪履歴は、AIによる予測的取り締まりに利用される可能性がある。犯罪を行う可能性の高い人物を特定するのだ。
生成AIが法廷に登場する可能性もある。パンジャブ・ハリヤナ州高等裁判所は先に、殺人事件の容疑者について保釈の可否を決めるためにチャットGPTを使用した。インドで初めての事例だ。
非営利団体「クリミナル・ジャスティス・アンド・ポリス・アカウンタビリティ・プロジェクト」の共同設立者、ニキータ・ソナバネ氏は「AIを使った新たな予測的取り締まりシステムが導入されれば、カースト差別という遺産に加え、社会から疎外されたコミュニティの人々に対する不当な犯罪者扱いと監視を永続させるだけだろう」と話した。
この記事に関連するニュース
ランキング
-
1コメ在庫が過去最少、高値の懸念 156万トン、前年比2割減
共同通信 / 2024年7月30日 19時13分
-
2部屋に泥棒がいる!〈高級老人ホーム〉で優雅に暮らす86歳母からのSOS…急ぎ駆けつけた51歳長男の目に飛び込んできた「まさかの光景」【FPの助言】
THE GOLD ONLINE(ゴールドオンライン) / 2024年7月30日 11時15分
-
3反発から「柳ヶ瀬の象徴に」…岐阜県唯一のデパート・岐阜高島屋、7月いっぱいで閉店
読売新聞 / 2024年7月30日 13時53分
-
4海外の優秀なエンジニアが日本企業を選ばない訳 人気が落ちている要因は「企業の体質」にあった
東洋経済オンライン / 2024年7月30日 16時0分
-
5しまむらグループの子ども服「バースデイ」が謝罪、物議のコラボ商品の販売中止【全文】
ORICON NEWS / 2024年7月30日 20時41分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)