リクナビ問題、AI時代の恐ろしさを象徴…個人データを勝手にスコアリングされ不利益

Business Journal / 2019年9月12日 7時0分

 さまざまなビッグデータを、AIを使って分析し、新しいビジネスにつなげていく。国も主導している成長戦略であり、企業も注目している新たな事業領域です。プロファイリングによるAIを使った予測ビジネスは、ビッグデータビジネスのなかでも非常に有望なビジネスです。なぜなら、費用対効果に直結する可能性を秘めているからです。

 例えば、就職情報サイト「マイナビ」が2018年に行った調査によると、企業の採用活動にかかるコストは平均で558万円、入社予定者1人当たりにかかる採用コストは平均で48万円となっています。プロファイリングによりこのコストが削減できるとなると、かなり大きな費用対効果が見込まれます。

 また、何千万円、場合によっては何億円も費用がかかる企業の商品開発においても、プロファイリングによって成功確率を上げる、あるいは失敗する確率を下げることができれば、大きな費用対効果を生み出すことができるのです。

 しかしながら、この類のビジネスにおいて、「どういったビジネスが問題となり、問題とならないか」はいまだに明確となっていないのです。今回の内定辞退予測サービスの場合、それによって学生が「不利益を被る可能性」があるという点と、個人情報保護法という法令を違反している可能性があるという点が問題となりました。

ブラックボックスの中でAIがすべてを判断

 では、先ほどの商品開発の事例は問題とならないのでしょうか。キャッシュレス化の浸透で、ますます利用頻度が高くなるICカードの購買履歴をもとに、スマホに広告を表示させたり、メールで案内を行う。プロファイリングを用いたビッグデータビジネスそのものです。

 あるいは、「信用スコア」は問題とならないのでしょうか。「信用スコア」とは、AIを使って個人の信用力を数値化することです。中国ではすでに導入され、年齢や学歴、職歴などの個人情報だけではなく、資産情報、購買履歴、SNS上の友達の数、質、発言などを使って個人の信用度をスコアリングします。

 これにより、消費者にとっては審査に時間が短縮される、資産が少ないなどの理由で購入できなかったものが購入できる、といったメリットを得ることができます。半面、スコアリングによってさまざまな「不利益を被る可能性」もあり、場合によっては、その人の人生を変えてしまう可能性も否定できません。

 日本では、クレジットカードの利用や割賦販売時に利用される「クレジットスコア」があり、購買や支払い履歴をもとにスコアリングする「クレジットヒストリー」としてかなり昔から運用されています。これがビッグデータビジネスとして新たな発展を遂げ、「信用スコア」として運用されることは容易に想像がつきます。

この記事に関連するニュース

トピックスRSS

ランキング