豪首相が謝罪｢AIの不祥事｣に学ぶリスク管理 迫るEU法規制､日本企業も制裁の対象になる

――AIが倫理的に不適切なアウトプットを作ってしまうなど、ほかにも想定外のさまざまな問題が起こっていますが、こうした問題はなぜ発生するのでしょうか。

EUでAIを規制する法案が2021年に公表され、この5月に成立しました。2026年に全面適用される見込みで、AI技術の進展に沿って法律が追い付いていく流れはできています。

しかし、法律で守らなければいけない範囲はこれだ、というものがある一方で、倫理的に受け入れられるべき範囲はなかなか白黒つけられていません。

――また、企業にとって気になる問題としては著作権侵害があります。2023年にはニューヨーク・タイムズが著作権を侵害しているとしてオープンAIを提訴しました。

AIは、全般的に元ネタとして学習データを読み込んで文書や画像等を作成しますが、現状では元ネタの中にインターネット上の他人の著作物が含まれていることがあります。その著作物を引用する、あるいは原典を明らかにしないまま別のアウトプットを作ることに対して法的に問題となるかは、まだ明らかな判決が出ていません。

ただし、前述のEUの規制法では生成AIの開発元に対し学習データに対する「透明性」、つまりどんな学習データを使っているかについて、できるだけ健全な形を取るよう要求しています。著作権に関する問題は透明性を担保するためにも、今後解決されていくのではと思います。

専門部署の設立や、相談できる体制を整える重要性

――AIに関するさまざまな問題が発生する中、企業にはどんな対策が必要でしょうか。

例えば、AIガバナンスの専門部署を立ち上げることが1つの手でしょう。社員からAIに関する相談を受けたり、AIを使うプロジェクトのチェックと判定を行ったりする部署です。これからAIを活用する機会がますます増えていくので、大きな企業であれば自社内に設置したほうがいいでしょう。

――EUで本格的な規制が始まる兆しもありますが、日本企業のリスクは。

EUにサービスを提供する日本企業であれば、AI法が今後適用されます。制裁金は最大3500万ユーロ、もしくは年間売上高の7%のうちの大きいほうという巨額になるので、法的なリスクは非常に大きい。

部署を立ち上げるのが難しいのであれば、AI関連や国際法に詳しい外部の専門家や弁護士に相談できる体制を整えることをおすすめします。

AIを使っているうちに「他人の権利を侵害してでも自社の利益を追求している」と自社の評判や社会的な信用を落としてしまうリスクもあり、AIの使用に関わるリスクは経営者がきちんと認識しておくべきです。

生成AIによる詐欺は、生成AIで制す