家や職失う「巨大冤罪」招いたアルゴリズムの怖さ オランダ政府は激しく非難され、内閣も総辞職
東洋経済オンライン / 2024年3月19日 17時0分
要は、詐欺を疑われた人々のなかで、移民やその子どもたちの割合が不釣り合いに大きかったのだ。その後、2020年の夏にようやく真相が明らかになった。国税関税執行局で使われていたアルゴリズムは、「二重国籍」を詐欺の強力な「リスク要因」とみなしていたのだ。
近年の大規模な詐欺事件で二重国籍者が犯人だった場合が多かったことから、アルゴリズムはそれを「重要な要因」とみなすようになったのかもしれない。
だが、詐欺の犯人に二重国籍者が多かったことを、単なる連想や偶然の一致としてではなくリスク要因として捉えるのは、果たして適切なことなのだろうか。
たとえ、特定の移民コミュニティ内で組織的詐欺の証拠が発見されていたとしても(実際、ブルガリア人に関するそうした例があった)、その国籍であることを理由に犯人だと判断するのは、政治的に慎重な対応とはとてもいえない。
しかも、「二重国籍」という要因はあまりに曖昧なため、現実的に詐欺の犯人かどうかの判断材料にはとうていなりえない。
アルゴリズムが出した結果を見た同局は、オランダ以外の194カ国のいずれかとつながりのある人のほうが、オランダ国籍しかもっていない人より詐欺師になる可能性が高いと、本気で納得したのだろうか。
このアルゴリズムは、完全に自身の裁量に任されていたため、いわばブラックボックスのなかで働いていたようなものだった。もし誰かがときどき箱のふたを開けて、アルゴリズムが何に取り組んでいるのかを確認していたら、問題はもっと早く見つかったかもしれない。
この不祥事で、内閣も総辞職
「児童手当事件(toeslagenaffaire)」として知られるようになった、国税関税執行局によるこの不祥事によって、オランダ政府は10億ユーロ(約1298億円)を超える補償金を払うことになると考えられている。人種差別、人権侵害、市民に対する「前代未聞の不当行為」を行ったとして、政府は激しく非難された。総選挙を2カ月後に控えた2021年1月、この不祥事の責任を取って、首相をはじめ内閣が総辞職した。
確かに、「アルゴリズムは公平な判断に基づいて機能している」「アルゴリズムは監視しなくてもいい」と思ったほうが楽であり、「どのみち高度すぎて、一般の人には理解できないものだ」と考えるのも当然のことだ。
「最初のころは、アルゴリズムは本物の魔法にしか思えない」と、数学者のハンナ・フライは記している。「だが、しだいにその仕組みがわかってくると、謎めいた雰囲気は消え去ってしまう。ほとんどの場合、あの見た目の裏に潜んでいるのは、笑ってしまうほど単純なもの(あるいは不安になるほど無鉄砲なもの)なのだ」。
この記事に関連するニュース
-
鹿児島県警の野川明輝本部長を不起訴…不祥事の隠蔽疑惑で刑事告発
読売新聞 / 2024年7月5日 22時42分
-
〈5分でわかる統計学入門〉全員から回答を集めなくても、なぜ信頼できるデータが得られるのか?
集英社オンライン / 2024年7月4日 8時0分
-
貧困は「増えている」とも「減っている」とも言える!? 統計データはいくらでも都合のいいように使えるという事実
集英社オンライン / 2024年7月3日 8時0分
-
イギリスで壮大な「国民IDカード」構想がまさかの頓挫! 政府はなぜ根拠に乏しい計画を強引に進めようとするのか
集英社オンライン / 2024年7月2日 8時0分
-
「え?サドルが無い…」それだけ盗んでどうするの? 近年増加している「自転車盗難」…元警察官に聞いた防犯対策
まいどなニュース / 2024年6月23日 11時50分
ランキング
-
1FRBの利下げ開始「9月」の見方強まる…6月の米雇用統計、人手不足の緩和傾向で
読売新聞 / 2024年7月6日 22時30分
-
2サクランボ王国・山形県に異変 6月の暑さで収穫減、対策急務
共同通信 / 2024年7月6日 16時15分
-
3日本の中古車相場が「ロシア」の影響で下落!? 厳しい「輸出規制」のなかで「売れている」クルマも? 意外な“ロシア行き日本車”とは
くるまのニュース / 2024年7月6日 12時10分
-
4最悪、〈和式トイレ〉で助けを求める事態にも…老後の健康維持のために取り入れておきたい「超簡単な習慣」【60代の人気エッセイストが助言】
THE GOLD ONLINE(ゴールドオンライン) / 2024年7月7日 10時0分
-
5ミニストップ“大量閉店”でもスイーツ人気は底なし!? 「ソフトクリーム」や「ハロハロ」がいつの間にか遂げた進化
集英社オンライン / 2024年7月6日 19時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)