アングル：ＡＩによる採用判定に「偏見」の危険性、不当差別で訴訟も

　１０月１９日、 黒人男性のデレック・モブレーさん（４９）は職探しの際に人事プラットフォーム「ワークデイ」を通じて１００件近くの求人に応募した。写真はAIのイメージ。６月撮影（２０２３年　ロイター/Dado Ruvic）

Avi Asher -Schapiro

［ロサンゼルス　１９日　トムソン・ロイター財団］ - 黒人男性のデレック・モブレーさん（４９）は職探しの際に人事プラットフォーム「ワークデイ」を通じて１００件近くの求人に応募した。そして、ワークデイからのメール連絡に不審なパターンがあることに気付いた。「不採用のメールが届くのは全て午前２時か３時。自動化されているに違いないと思った」

モブレーさんは米ジョージア州のモーハウス・カレッジで金融の学位を取得し、以前は商業ローンを担当する幹部職として働いていた。その後、ワークデイのプラットフォームを使ってエネルギーや保険など、さまざまな分野の中堅レベルの求人に応募したが、面接まで漕ぎつけたり電話連絡が来たりすることは一度もなく、生活費を稼ぐために単発の請負仕事や倉庫でのシフト勤務に就かざるを得ないことがたびたびだった。

モブレーさんは、ワークデイの人工知能（ＡＩ）に組み込まれたアルゴリズムによって自分が差別されていると確信。不採用のパターンから黒人や障害者、４０歳以上の人々を差別するアルゴリズムが使用されている疑いがあるとして、２月にワークデイを相手取り集団訴訟を起こした。モブレーさんの弁護団によると、こうした訴訟の提起は初めてだ。

ワークデイはトムソン・ロイター財団への声明で、モブレーさんの訴えは「事実無根」であり、会社として「責任あるＡＩ」に取り組んでいると反論した。

米採用市場における自動化技術の無制限な利用に対しては反発が強まっており、「責任あるＡＩとは何か」という問いは問題の核心に触れるテーマだ。

そして、モブレーさんの訴訟は職場の自動化を巡る大きな戦いのほんの一端に過ぎない。

米国では全土で州や連邦の当局が、採用におけるＡＩの利用を規制してアルゴリズムによる偏見を防ぐにはどうすればいいか、という課題に本腰を入れて取り組み始めている。

最近の調査によると米大企業の約８５％、フォーチュン５００社企業では９９％が、採用候補者のふるい分けやランク付けに何らかの自動化ツールやＡＩを使っている。こうした仕組みには、応募者の提出書類を自動的にチェックする履歴書スクリーナーや、オンラインテストに基づいて応募者の適性を評価するアセスメントツール、ビデオ面接を分析できる顔認識や感情認識ツールの使用が含まれる。

連邦政府機関の雇用機会均等委員会（ＥＥＯＣ）は５月、雇用主が自動化された採用プロセスを使用する際の差別を防ぐ新たな指針を発表した。

ＥＥＯＣは８月、４０歳以上の応募者を自動的に不採用に判定するソフトウエアを使用していたとして、英語の個人授業を提供する会社に３６万５０００ドル（約５５００ドル）の罰金を科した。市や州のレベルでも法制化の動きが起きている。

非営利団体「民主主義と技術のためのセンター（ＣＤＴ）」の弁護士マット・シェラー氏は「今はまだ開拓時代の西部のような（無法）状態だが、変わっていくだろう」と期待を示した。

＜アルゴリズムがつま弾き＞

ＡＩは人間の知性を模倣するためにアルゴリズム（処理方法）やデータ、計算モデルを使用する。そこにバイアスが内在するリスクがある。ＡＩは「学習データ」に依存しており、利用するデータに偏りがあればＡＩプログラムでもそれが再現される可能性があるためだ。そしてデータには、過去のバイアスが存在している場合が多い。

例えばアマゾンは２０１８年に、履歴書に「女子チェス部キャプテン」のように「女子」という単語がある応募者の評価を自動的に下げる仕組みになっていたＡＩ利用の履歴書選考システムを廃止した。この仕組みは、アマゾンのコンピューターモデルが、１０年以上にわたる過去の選考パターンを学習して応募者を選ぶように訓練されていたことに原因があった。過去の応募者は大半が男性で、このこと自体が業界全体の男性優位を反映している。

エモリー大学で「ＡＩと法プログラム」を統括するイフェオマ・アジュンワ氏は、求職者は自動化された採用プロセスに応募するかどうかを選択できないことが多いと指摘した。採用システムが隠れた基準に基づいて応募者を繰り返し不採用にする、「アルゴリズムによるつまはじき」の可能性について警告。連邦取引委員会（ＦＴＣ）に一部の自動採用ツールを禁止するよう求めている。

一方、ＡＩの利用を支持する人々からは、バイアスのリスクを認めつつも、コントロール可能だとの主張も聞かれる。

ＡＩを活用した評価ツールを開発するパイメトリクスの共同設立者で元最高経営責任者（ＣＥＯ）のフリーダ・ポリ氏は、自動化されたシステムの処理を行う際の変数は、プログラマーが調整できると述べた。

ただＣＤＴのシェラー氏はこうした主張に懐疑的だ。「業界側はこうしたツールを駆使して多様性を高めることができると言うが、実際にはそれこそが疑問点だ。実のところ、採用過程で人間が持つ偏見のプロセスを自動化しているだけではないか」と指摘する。

前出のモブレーさんは、少なくとも今回の訴訟によってアルゴリズムによるバイアス拡大に歯止めがかかることを望んでいる。「私だけではないことは分かっている。世の中には、自分に適性があると考えられる仕事に応募し、不当に差別されている人たちがたくさんいる」