家や職失う「巨大冤罪」招いたアルゴリズムの怖さ オランダ政府は激しく非難され、内閣も総辞職
東洋経済オンライン / 2024年3月19日 17時0分
昨今、AI(人工知能)の急激な発達が注目されている。まるで人間のように自然な会話ができるサービス「Chat GPT」が話題になったのも記憶に新しい。一方で、こうしたAIやアルゴリズム(問題解決や目標達成のための計算・処理手続き)に意志決定や判断を委ねることへの危惧も広まりつつある。2010年代のオランダでは、アルゴリズムの判断によって大規模な冤罪事件が生じてしまったことがある。やはり最終的には人間の判断が必要になってくるのだろうか。統計学者のジョージナ・スタージ氏が上梓した書籍『ヤバい統計』から一部を抜粋して紹介する。
アルゴリズムが原因で起こった大規模冤罪事件
アルゴリズムは自分自身をつくりだすことはしないと前編で述べたが、それは完全なる真実ではない。アルゴリズム自体がみずからをつくりだすアルゴリズム、あるいは少なくとも、何をするかの判断をアルゴリズム自体に委ねたものは存在する。
【写真】ジョージナ・スタージ著の『ヤバい統計』は政府統計の世界を知りつくす著者が、多彩な事例を用いながら、その舞台裏を紹介する。
通常、アルゴリズムに与えられるタスクは、与えられたデータのパターン、つまり、物事のあいだの関連性を見つけることだ。ときには、ある問題のさまざまな側面に関するデータを与えられ、どれが「重要」なのかを判断するよう指示される場合もある。
オランダ政府は2010年代に、後者のたぐいの突然変異アルゴリズムの犠牲になった。一連の組織的な社会福祉給付金詐欺事件が世間の注目を集めたことによって、国税関税執行局は詐欺を根絶するためのさらなる対策を取ることにした。
同局は、過去に詐欺を働いた犯人たちのデータをアルゴリズムによって分析し、結果として得られた情報から、いま詐欺を行っている可能性のある人物を選び出した。
そうして、「あなたの社会福祉給付金を打ち切ります。過去数年にわたって支払われていた給付金を返納するように」という内容の通知が、政府から送られてくる人が出はじめた。
なかには、何万ユーロも返納するよう命じられた人もいた。なかなか返納しようとしなかった人には罰金が科せられた。その結果、仕事を辞めざるをえなくなったり、保育料が支払えなくなったりする人が出て、しまいには家を失うことになる人まで出た。
2018年、ジャーナリストたちは弁護士から聞いた数々の話や、巷で多く耳にする噂を詳しく調べはじめた。そうやって手に入れた情報をまとめると、非常に気がかりな傾向が浮かび上がった。
二重国籍をリスク要因とみなしていた
この記事に関連するニュース
-
和歌山毒物カレー事件を検証する驚愕ドキュメント「マミー」、8月3日公開
映画.com / 2024年5月10日 22時30分
-
和歌山毒物カレー事件から26年――驚がくの問題作『マミー』、8.3より公開
クランクイン! / 2024年5月10日 12時0分
-
「過去最多の犯罪件数」を減らすにはどうすべきか…英ブレア政権が本当にやってしまった最悪のルール変更
プレジデントオンライン / 2024年4月27日 18時15分
-
社説:司法取引 慎重な運用が欠かせぬ
京都新聞 / 2024年4月18日 16時0分
-
老親につきまとう「詐欺被害」「運転ミスによる事故」のリスク…子は親をどう守ればいい?【精神科医が解説】
THE GOLD ONLINE(ゴールドオンライン) / 2024年4月16日 7時15分
ランキング
-
1なぜマックで“客への反撃”が増えているのか いまだ続ける「スマイル0円」との関係
ITmedia ビジネスオンライン / 2024年5月15日 7時16分
-
2東大入試で出題「じゃんけんグリコ」必勝法の衝撃 「小学校の算数」で解ける問題を東大が出す意味
東洋経済オンライン / 2024年5月15日 9時20分
-
3予約3年待ち「とだか」も入る五反田新ビルの正体 ゆうぽうと跡地に再開発、星野リゾートも参画
東洋経済オンライン / 2024年5月15日 11時20分
-
4電機大手、3社で最高益 シャープ、赤字で明暗
共同通信 / 2024年5月14日 20時3分
-
5阪急阪神ホールディングス 宝塚歌劇団中核のステージ事業が減収減益
産経ニュース / 2024年5月14日 21時4分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください