｢貧しい家の子の成績下げる｣アルゴリズムの波紋 イギリスで起きた衝撃､責任は誰にあるのか

この問題への世間の激しい抗議を受けて、このアルゴリズムはほぼ完全に廃止された。生徒たちは担任教師による成績評価とオフクァルが出した成績のうち、高い方を選ぶことができるようになった。その結果、大学は予想を超える数の新入生を受け入れなければならなくなり、なかには「入学を来年以降にずらせる学生には、謝礼を支払う」と呼びかける大学さえあった。

これはいったい、誰の責任なのだろうか。当時の首相ボリス・ジョンソンは生徒たちを前に、「みなさんの成績は、突然変異したアルゴリズムによって危うく台無しにされるところでした」と同情を示した。

世間では、このアルゴリズムは「失敗作」「致命的な欠陥品」と呼ばれるようになった。要するに、恵まれない境遇の生徒たちの結果を歪めかねない「固有バイアス」を抱いていたとして責められたのは、アルゴリズムそのものだったのだ。

とはいえ、アルゴリズムは、つくられたとおりに機能したのだ。その結果、「成績インフレを抑えること」と「成績分布グラフの形状を維持すること」を最優先した。この2点はまさに、「政府からオフクァルに具体的に出された指示」だと、オフクァルの関係者が公にしたものだった。

別の方針によるアルゴリズムをつくりだす方法は、いくらでもあったはずだ。だが、彼らは「成績インフレを抑えること」を最優先にするようにという指示にあくまで従い、その代わりに、とりわけ過去の実績がずっと悪かった学校に在籍していた、予想外に優秀な生徒たちが犠牲になったのだった。

このアルゴリズムは、突然変異体として誕生したあとで山々を越えて逃げていった、フランケンシュタインの怪物とはわけが違う。バイアスは、全国的な成績分布グラフを、過去数年とほぼ同じに保つのを優先する方法を選んだことの副産物だったのだ。

このアルゴリズムによって、進学実績の低い学校や、貧しい地域に対するバイアスがかかったのは当然のことだ。なにせ、その位置に留めておくためにつくられたアルゴリズムだったのだから。オフクァルは、突然変異体をつくりだしたわけではない。彼らは手渡された腐った卵を、最善を尽くしてふ化させただけなのだ。

このアルゴリズムの目的を教育省が最初から明らかにしていれば、試験の結果発表日のずっと前に同省に疑問を投げかけられたはずだ。そして世間や野党は、「成績インフレを抑えること」を第一の目標とするのが正しいのかどうか、同省に問えたはずだ。

教育大臣が「アルゴリズムは使わない」と発言