＜アマゾンが過去10年分の応募者のデータをAIに分析させたら、女性差別のAIになってしまったという失敗もあるが、正しく開発すれば、人間より公正で信用できる採用担当になれるはず＞
仕事がほしい？ ならば、これからは人間だけでなく、機械（=人工知能）にも好かれなくてはならない。
求人をオンラインで行うようになったため、採用側は膨大な数の応募者をふるいにかけなけなければならなくなった。米オンラインメディアのVICEが今年初め、新オフィスのマネージャーを募集したところ、数時間で2000件以上の応募があった。5人の人事担当者が5分で1通の履歴書を見るとすると、合格者を決めるまで1週間はかかる。面接はやっとそれからだ。
そこでAI（人工知能）の出番だ。最大のメリットはなんといっても、膨大な数の履歴書をあっという間に審査できること。AIは複数のデータソースを使って情報を高速処理し、人間の脳では把握できないものを見抜くことができる。しかも、単に履歴書をスキャンするのではなく、応募者のネット上での活動も評価した上で、最も採用条件に適合する候補者を効率的に選び出してくれる。今や大手企業はみな何らかの形でこのテクノロジーを使っている。
偏った学習でバイアス助長
だが昨年は、AI採用ツールの欠陥が数多く報告された。なかでも悪名を馳せたのは、アマゾンのAI採用システムの欠陥だ。同社が開発したAI採用ツールは女性を差別したのだ。アマゾンの開発チームは、過去10年間に送られてきた応募者の履歴書すべてをAIに分析させた。するとAIは、「女性」という単語を含む履歴書の評価を下げ、女子大の出身者には低い点数しか与えないというルールをみずから編み出した。
こうした欠陥が明るみに出たことで、AI開発に携わる企業は、自社のテクノロジーを再検証する必要に迫られた。他の技術と同じく、AIにも落とし穴がある。使い方を誤れば、偏見を助長し、性差別や人種差別を悪化させる危険がある。しかしこうした経験から得た教訓をAI開発に生かせば、時代遅れの人事・採用制度に革命的な進化もたらすかもしれない。
データが増えれば問題は減る
アマゾンが失敗したひとつの理由は、データに十分な規模と多様性がなかったことだ。採用したい人材像を学ぶためにAIは過去10年分の履歴書を分析したが、過去の履歴書の大半は男性からのもので、テック業界が男性優位であるという現実を反映したものだった。
実際、アマゾンのエンジニアリング部門の社員の89％は男性だ。過去のデータを使用すれば、過去の間違いを繰り返すのは当然のことで、それほど驚くにはあたらない。より多様性のある人材の採用をめざすなら、企業はもっと多様なデータをさまざまな独立した情報源から集めてくることだ。アマゾンが所有するデータだけでは、バイアス（偏見）やエラー、そして時には人為的な操作の影響も受けやすくなる。
データベースの監査
人材採用におけるAIの利用が急速に普及する一方、そのデータ解析用アルゴリズムの監査は後手にまわり、対応が遅れている。
優秀なアルゴリズムには以下の2つの要素を組み込む必要がある。
１）アルゴリズムは分析が可能で、ある結果が導き出された理由が簡単に理解できるよう構築すべきだ。過度に複雑で「ブラックボックス」と化したシステムは分析が非常に困難で、分析も非常に困難になる。
２）企業は自社のAIのアルゴリズムを独立した社外の監査機関に検証させなくてはならない。公平性の高いアルゴリズムを使っていることを証明できれば信頼性が増し、人材採用の競争でも有利な立場に立てるはずだ。
欠陥の報告こそあったが、AIは採用から性別や人種的偏見をなくし、中立性を維持する役に立つかもしれない。監査を行うなど正しく使用されれば、AIは人間よりはるかに公平な判断を下す。
人間には無意識の偏見があり、制御は不可能であり、ほとんどの場合、認識することさえできない。自分が知っていることを好み、自分と同じ長所を重視するのは、人間の本性だ。今でも昔ながらの「推薦」や「紹介」で採用が決まることは非常に多い。ある種の縁故主義がいまだに残っていることは確かだ。
一方、AIシステムの場合は監査によって、人材評価のバイアスや採用決定の理由が明確に提示される。アマゾンのAIツールは非難の対象となったが、AIシステムの欠陥は人間によるミスと違って、識別可能だ。アマゾンの場合、AIツールが特定の単語をもとに履歴書の評価を下げたことが判明した。履歴書を読んだり、面接をした後に、AIと同じ精度で自分の判断を分析できる人間はほとんどいない。
これほど細部にわたって責任が明確になれば、訴訟もほとんど起こされなくなる。偏見がなかったことを証明でき、システムの潜在的な欠陥がいかに改善されてきたかも指摘できる。企業のポリシーも明確な見識に貫かれたものになるべきだ。女性からの応募がこんなに少ないのはなぜか。はったりがきいた言葉が過度に評価されるのはなぜか。こうした傾向を変えるにはどうしたらいいのか。
AIを駆使すれば、企業側は応募者を選択する基準を設定することができる。候補者探しの段階で多様な背景とそれに基づく多様な問題解決のやり方を提供できる人々を重視するという基準設定も可能だ。そのうえで、AIは雇用主の優先度に基づいて提案を行う。
AIシステムを標準装備に
否定的な報告はあるものの、多くの企業が人材採用AIの活用の範囲を広げている。こうした企業は従来の採用モデルが破綻したことに気付いている。従来と同じプロセスで候補者を選び続けるだけでは、最適な人材確保はむずかしい。人材採用部門が時代に追いつくための突破口となる可能性が最も高いのは、AIの技術だ。
AIシステムはまだ自律的に採用を決定できるほどではないかもしれないが、採用プロセスの迅速化、効率化という点では急速に進歩している。募集職種との適合度に基づいてアルゴリズムが割り出す採用候補者のランキングは、人間による書類審査よりも公平で、時間もかからない。
今後も開発が続くAI技術は、本質的に公正なものではなくてはならない。多様性と平等に焦点を合わせたシステムであれば、職場のためになる人材発掘に役立つことはまちがいない。
（翻訳：栗原紀子）
※2019年1月15日号（1月8日発売）は「世界経済2019：2つの危機」特集。「米中対立」「欧州問題」という2大リスクの深刻度は？ 「独り勝ち」アメリカの株価乱降下が意味するものは？ 急激な潮目の変化で不安感が広がる世界経済を多角的に分析する。
ベン・チャットフィールド（人材採用ベンチャーTempoの共同設立者兼CEO）
仕事がほしい？ ならば、これからは人間だけでなく、機械（=人工知能）にも好かれなくてはならない。
求人をオンラインで行うようになったため、採用側は膨大な数の応募者をふるいにかけなけなければならなくなった。米オンラインメディアのVICEが今年初め、新オフィスのマネージャーを募集したところ、数時間で2000件以上の応募があった。5人の人事担当者が5分で1通の履歴書を見るとすると、合格者を決めるまで1週間はかかる。面接はやっとそれからだ。
そこでAI（人工知能）の出番だ。最大のメリットはなんといっても、膨大な数の履歴書をあっという間に審査できること。AIは複数のデータソースを使って情報を高速処理し、人間の脳では把握できないものを見抜くことができる。しかも、単に履歴書をスキャンするのではなく、応募者のネット上での活動も評価した上で、最も採用条件に適合する候補者を効率的に選び出してくれる。今や大手企業はみな何らかの形でこのテクノロジーを使っている。
偏った学習でバイアス助長
だが昨年は、AI採用ツールの欠陥が数多く報告された。なかでも悪名を馳せたのは、アマゾンのAI採用システムの欠陥だ。同社が開発したAI採用ツールは女性を差別したのだ。アマゾンの開発チームは、過去10年間に送られてきた応募者の履歴書すべてをAIに分析させた。するとAIは、「女性」という単語を含む履歴書の評価を下げ、女子大の出身者には低い点数しか与えないというルールをみずから編み出した。
こうした欠陥が明るみに出たことで、AI開発に携わる企業は、自社のテクノロジーを再検証する必要に迫られた。他の技術と同じく、AIにも落とし穴がある。使い方を誤れば、偏見を助長し、性差別や人種差別を悪化させる危険がある。しかしこうした経験から得た教訓をAI開発に生かせば、時代遅れの人事・採用制度に革命的な進化もたらすかもしれない。
データが増えれば問題は減る
アマゾンが失敗したひとつの理由は、データに十分な規模と多様性がなかったことだ。採用したい人材像を学ぶためにAIは過去10年分の履歴書を分析したが、過去の履歴書の大半は男性からのもので、テック業界が男性優位であるという現実を反映したものだった。
実際、アマゾンのエンジニアリング部門の社員の89％は男性だ。過去のデータを使用すれば、過去の間違いを繰り返すのは当然のことで、それほど驚くにはあたらない。より多様性のある人材の採用をめざすなら、企業はもっと多様なデータをさまざまな独立した情報源から集めてくることだ。アマゾンが所有するデータだけでは、バイアス（偏見）やエラー、そして時には人為的な操作の影響も受けやすくなる。
データベースの監査
人材採用におけるAIの利用が急速に普及する一方、そのデータ解析用アルゴリズムの監査は後手にまわり、対応が遅れている。
優秀なアルゴリズムには以下の2つの要素を組み込む必要がある。
１）アルゴリズムは分析が可能で、ある結果が導き出された理由が簡単に理解できるよう構築すべきだ。過度に複雑で「ブラックボックス」と化したシステムは分析が非常に困難で、分析も非常に困難になる。
２）企業は自社のAIのアルゴリズムを独立した社外の監査機関に検証させなくてはならない。公平性の高いアルゴリズムを使っていることを証明できれば信頼性が増し、人材採用の競争でも有利な立場に立てるはずだ。
欠陥の報告こそあったが、AIは採用から性別や人種的偏見をなくし、中立性を維持する役に立つかもしれない。監査を行うなど正しく使用されれば、AIは人間よりはるかに公平な判断を下す。
人間には無意識の偏見があり、制御は不可能であり、ほとんどの場合、認識することさえできない。自分が知っていることを好み、自分と同じ長所を重視するのは、人間の本性だ。今でも昔ながらの「推薦」や「紹介」で採用が決まることは非常に多い。ある種の縁故主義がいまだに残っていることは確かだ。
一方、AIシステムの場合は監査によって、人材評価のバイアスや採用決定の理由が明確に提示される。アマゾンのAIツールは非難の対象となったが、AIシステムの欠陥は人間によるミスと違って、識別可能だ。アマゾンの場合、AIツールが特定の単語をもとに履歴書の評価を下げたことが判明した。履歴書を読んだり、面接をした後に、AIと同じ精度で自分の判断を分析できる人間はほとんどいない。
これほど細部にわたって責任が明確になれば、訴訟もほとんど起こされなくなる。偏見がなかったことを証明でき、システムの潜在的な欠陥がいかに改善されてきたかも指摘できる。企業のポリシーも明確な見識に貫かれたものになるべきだ。女性からの応募がこんなに少ないのはなぜか。はったりがきいた言葉が過度に評価されるのはなぜか。こうした傾向を変えるにはどうしたらいいのか。
AIを駆使すれば、企業側は応募者を選択する基準を設定することができる。候補者探しの段階で多様な背景とそれに基づく多様な問題解決のやり方を提供できる人々を重視するという基準設定も可能だ。そのうえで、AIは雇用主の優先度に基づいて提案を行う。
AIシステムを標準装備に
否定的な報告はあるものの、多くの企業が人材採用AIの活用の範囲を広げている。こうした企業は従来の採用モデルが破綻したことに気付いている。従来と同じプロセスで候補者を選び続けるだけでは、最適な人材確保はむずかしい。人材採用部門が時代に追いつくための突破口となる可能性が最も高いのは、AIの技術だ。
AIシステムはまだ自律的に採用を決定できるほどではないかもしれないが、採用プロセスの迅速化、効率化という点では急速に進歩している。募集職種との適合度に基づいてアルゴリズムが割り出す採用候補者のランキングは、人間による書類審査よりも公平で、時間もかからない。
今後も開発が続くAI技術は、本質的に公正なものではなくてはならない。多様性と平等に焦点を合わせたシステムであれば、職場のためになる人材発掘に役立つことはまちがいない。
（翻訳：栗原紀子）
※2019年1月15日号（1月8日発売）は「世界経済2019：2つの危機」特集。「米中対立」「欧州問題」という2大リスクの深刻度は？ 「独り勝ち」アメリカの株価乱降下が意味するものは？ 急激な潮目の変化で不安感が広がる世界経済を多角的に分析する。
ベン・チャットフィールド（人材採用ベンチャーTempoの共同設立者兼CEO）