家や職失う「巨大冤罪」招いたアルゴリズムの怖さ オランダ政府は激しく非難され、内閣も総辞職
東洋経済オンライン / 2024年3月19日 17時0分
封をされた箱のなかで物事を進めているアルゴリズムのふたを実際に開けて見た人は、何もかもがひどく乱れた状態が内部でつくりだされていることに気づいて恐ろしくなり、箱と中身をできるだけ遠くに投げてしまいがちだ。
このように、コンピューターに簡単に罪を負わせてしまえることにより、自分は責任を取らずにすむという問題がある。しかも、コンピューターのせいにすることによって、本来なら向き合わなければならない不都合な真実を直視しなくなるという恐れもある。
ここまで見てきたとおり、アルゴリズムは、光合成をする植物とは違って大気からデータを吸収するようなまねはできず、人間が与えたデータを使うしかない。
怖いのは、(アルゴリズムが使われている)こうした機械は、封をされた箱のなかですべての作業をこなすという点だ。機械が自分自身にどんな指示を与えているのか、外からはまったく見当もつかない。
この状況は、ダグラス・アダムスが『銀河ヒッチハイク・ガイド』(河出文庫)で描いた世界とさほど変わらない。そこでは、スーパーコンピューター「ディープ・ソート」が「生命、宇宙、万物についての究極の疑問」の答えを見つけるよう命じられていた。その結果、750万年後にディープ・ソートが出した答えは「42」という数字だった。結果にひどく落胆した人々に対して、ディープ・ソートは「何を探すべきかをきちんと指示されたことは、一度もなかった」と不満を訴えるのだった。
統計モデリングやアルゴリズムには、計り知れない力が備わっている。正しく利用すれば、何百万個、さらには何十億個ものデータポイントを瞬時に分析できる。
パターンを読み取り、因果関係を確認でき、しかも探し出すのが非常に難しいものも見つけられる。「ビッグデータ」「機械学習」「人工知能」といった技術が実現してくれそうな効率性と徹底性における改善を、うまく活用できればと政府が熱を入れるのは、当然といえば当然だ。
アルゴリズムは優れた判断を下せないことも
結局のところ、現実を反映していないモデルは、正確な答えを人間に与えてくれないということだ。現実では成り立たない仮定に依存しているアルゴリズムは、優れた判断を下せないはずだ。
もし、機械に与えられたのが「バッドデータ」(特定の人口集団がそっくり除外されたデータ、時代にそぐわない古いデータ、目的との関連性が薄いデータ、当てにならない予測に基づいたデータ)であれば、出てくる結果も同じぐらい悪いか、さらにひどいものとなる可能性が高い。
私たちがモデルや機械の仕組みを理解していなければ、それらがいつどこで間違えるのかを把握できない。あるいは、なぜ間違えるのかを把握できないのだ。
※各国の通貨は、国際通貨基金(IMF)のデータをもとに、可能な限り、当時の為替レートで円に換算して( )で記しています。
ジョージナ・スタージ:統計学者(英国議会・下院図書館所属)
尼丁 千津子:英語翻訳者
外部リンク
この記事に関連するニュース
-
鹿児島県警の野川明輝本部長を不起訴…不祥事の隠蔽疑惑で刑事告発
読売新聞 / 2024年7月5日 22時42分
-
〈5分でわかる統計学入門〉全員から回答を集めなくても、なぜ信頼できるデータが得られるのか?
集英社オンライン / 2024年7月4日 8時0分
-
貧困は「増えている」とも「減っている」とも言える!? 統計データはいくらでも都合のいいように使えるという事実
集英社オンライン / 2024年7月3日 8時0分
-
イギリスで壮大な「国民IDカード」構想がまさかの頓挫! 政府はなぜ根拠に乏しい計画を強引に進めようとするのか
集英社オンライン / 2024年7月2日 8時0分
-
「え?サドルが無い…」それだけ盗んでどうするの? 近年増加している「自転車盗難」…元警察官に聞いた防犯対策
まいどなニュース / 2024年6月23日 11時50分
ランキング
-
1FRBの利下げ開始「9月」の見方強まる…6月の米雇用統計、人手不足の緩和傾向で
読売新聞 / 2024年7月6日 22時30分
-
2サクランボ王国・山形県に異変 6月の暑さで収穫減、対策急務
共同通信 / 2024年7月6日 16時15分
-
3日本の中古車相場が「ロシア」の影響で下落!? 厳しい「輸出規制」のなかで「売れている」クルマも? 意外な“ロシア行き日本車”とは
くるまのニュース / 2024年7月6日 12時10分
-
4最悪、〈和式トイレ〉で助けを求める事態にも…老後の健康維持のために取り入れておきたい「超簡単な習慣」【60代の人気エッセイストが助言】
THE GOLD ONLINE(ゴールドオンライン) / 2024年7月7日 10時0分
-
5ミニストップ“大量閉店”でもスイーツ人気は底なし!? 「ソフトクリーム」や「ハロハロ」がいつの間にか遂げた進化
集英社オンライン / 2024年7月6日 19時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください