「貧しい家の子の成績下げる」アルゴリズムの波紋 イギリスで起きた衝撃、責任は誰にあるのか
東洋経済オンライン / 2024年3月18日 16時0分
昨今、AI(人工知能)の急激な発達が注目されている。まるで人間のように自然な会話ができるサービス「ChatGPT」が話題になったのも記憶に新しい。一方で、こうしたAIやアルゴリズム(問題解決や目標達成のための計算・処理手続き)に意志決定や判断を委ねることへの危惧も広まりつつある。イギリスでは実際に、アルゴリズムに大学入学資格の判定を任せた結果、とてつもない混乱が生じてしまったという「苦い経験」があるのだ。私たちはどのようにAIやアルゴリズムと共存していけばよいのだろうか。統計学者のジョージナ・スタージ氏が上梓した書籍『ヤバい統計』から一部を抜粋して紹介する。
予測よりも低い成績がつけられた
アルゴリズムをつくりだすのは、アルゴリズム自体ではなく人間だ。ということは、人間はそのアルゴリズムが行ったことに対する責任がある。
【写真】ジョージナ・スタージ著の『ヤバい統計』は政府統計の世界を知りつくす著者が、多彩な事例を用いながら、その舞台裏を紹介する。
2020年8月13日、「Aレベル」の結果が発表されると、多くの生徒がひどく落胆した(注:Aレベルとは一般教育修了上級レベルの通称で、高校卒業認定資格および大学入学資格のこと)。約4割の生徒に、予測よりも低い成績がつけられていたのだ。なかには、予測より2段階低い成績だった生徒もいた(Aレベル合格者の結果は6段階で示される)。
当然ながら、結果が発表される日にはがっかりする人が多少なりともいるが、それでも今回はいつもと様子が違っていた。じつは、2020年のAレベル試験は、英国が新型コロナウイルス感染症パンデミックの最中だったため中止されていた。
その代わりに、教師は試験監査機関「オフクァル」に対して、生徒の成績予測と、クラスのトップから最下位までの成績順位を提出しなければならなかった。オフクァルは、それらのデータを各学校の過去の実績といったほかの要因と併せて判断するアルゴリズムを利用し、各生徒の成績を算出した。
だが、成績予測より低い成績をつけられた生徒が10人中4人もいるのは、何だか疑わしかった。
どのようなバイアスが働いてしまったのか
実際の成績が予測を最も下回ったのは、恵まれない境遇の生徒たちだった。また、北イングランドの学校が提出した成績は、ほかの地域に比べて上方への調整がなされなかった。一方、最高成績のグループに占める私立学校の生徒の割合は過去最大となり、公立の総合制中等学校の生徒の倍になった。
この記事に関連するニュース
-
「開成で落ちこぼれ」通信制に進学した彼の逆転劇 燃え尽き症候群で、先取り学習についていけず
東洋経済オンライン / 2024年7月17日 18時0分
-
第32回「数検」グランプリの受賞者・受賞団体が決定 7月31日(水)学士会館で表彰式典を開催
@Press / 2024年7月17日 11時0分
-
「東大に行くために、あえて通信制高校を選んだ」マッキンゼー出身起業家が中3で導いた合格への“最短距離”
日刊SPA! / 2024年7月7日 15時54分
-
イギリスで壮大な「国民IDカード」構想がまさかの頓挫! 政府はなぜ根拠に乏しい計画を強引に進めようとするのか
集英社オンライン / 2024年7月2日 8時0分
-
N 高グループ 3 校目となる「R 高等学校」を群馬県桐生市に開校、通学コースのキャンパスも全国 100 カ所に拡大 「定期テスト」導入で学力を測り個別サポートを強化
PR TIMES / 2024年6月26日 17時15分
ランキング
-
1大谷翔平の新居「晒すメディア」なぜ叩かれるのか スターや芸能人の個人情報への向き合い方の変遷
東洋経済オンライン / 2024年7月16日 20時40分
-
2工学系出身者が「先進国最低レベル」日本の"暗雲" エンジニアを育てられない国が抱える大問題
東洋経済オンライン / 2024年7月16日 17時0分
-
3申請を忘れると年金200万円の損…荻原博子「もらえるものはとことんもらう」ための賢者の知恵
プレジデントオンライン / 2024年7月17日 8時15分
-
4「再配達は有料に」 ドライバーの本音は
ITmedia ビジネスオンライン / 2024年7月17日 6時40分
-
5旅客機用の燃料不足で緊急対策 輸送船を増強、運転手確保へ
共同通信 / 2024年7月16日 23時42分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください