責任あるAIを実現するためのデータ管理とは

画像提供：マイナビニュース

AIに人間の「判断力」を学習させ、多様性と正確性を確保する

生成AIの導入は引き続き世界中で広がっており、インフォマティカがCDO（最高データ責任者）を対象に実施した調査では、すでに45％の企業が生成AIを導入済みであることが明らかになっています。

IDC Japanは、日本国内の生成AIユースケース市場規模について、2022年から年間平均成長率194.7％で成長し、2027年には786億9400万円に拡大すると予測しています。

こうした背景から、さまざまな業界の経営者が、競争力を維持し、遅れをとらないために生成AIの導入を急いでいます。

一方で、公平性を担保し責任あるAIの開発・利用を実現するためには、さまざまな利害関係者であるマルチステークホルダーの意見や視点を取り入れるアプローチが重要です。しかし、そうした多様性や正確性を確保するアプローチや、AI導入の成功を左右するデータ管理に対して、十分な注意が払われていないという課題も存在します。

AIは学習データに基づき最適解を導き出しますが、人間と同等の判断力を備えているわけではありません。AIの導き出した推論結果をもとに、倫理観や多様な価値観を反映させ、最終的な意思決定は人間が行う必要があります。つまり、生成AIのアウトプットをより実用的なものにするためには、人間からのフィードバックを学習データに組み込む必要があります。

また、AIモデルの学習に使用されるデータは、高品質で偏りのないものである必要があります。機械学習分野の “Garbage in, garbage out （ゴミを入れるとゴミが出てくる）” ということわざの通り、AIエンジンがどれだけ最先端であっても、それらに供給されるデータが不完全で、適切なガバナンスが施されていない場合は、潜在能力を最大限に引き出すことができません。

加えて、先述の「ヒューマン・イン・ザ・ループ（人間のフィードバックが組み込まれたプロセス）」が欠如していれば、同様に問題が生じます。AIは質の高い入力データと人間による監視・介入がなければ、完全な機能を果たすことはできないのです。

例えば、生成AIを活用して問い合わせに対する回答を自動作成し、人間のフィードバックをもとにチューニングするとします。もし、ごく一部の限られた担当者のみが情報やフィードバックを提供するのであれば、学習データに偏りが生じてしまいます。