ある日突然｢サービス遮断｣､クラウドの落とし穴 解決に2カ月､AI自動審査が思わぬネックに？

アカウント復旧に当たっての要求は、ユーザーのプライバシーに踏み込むものでもあった。職務上CSAMを取り扱うことになった詳細な経緯の説明を求めることは必要なことだったのだろうが、本来守られるべき通信内容のプライバシーはもちろん、利用者の職務や組織内での立場なども証明せねばならないなど、一般ユーザーへの要求としては過度な負担ではないだろうか。

とはいえ、クラウドサービス事業者側を批判するのも的外れだ。アメリカだけでなく、ヨーロッパにおいてもCSAM拡散を防止するネット事業者向けの規制検討が進められている。アメリカでは、規制をさらに強化してプラットフォーマーにより大きな責任を持たせようという動きもある。

“お役所仕事”という言葉がある。ルール通りに粛々と業務を執行するだけで、個別事案における事情に関して判断を行わないことを意味するならば、AIによるコンテンツのスクリーニングは“お役所仕事”の典型例とも言える。

お役所仕事を打破するには、どこかで判断を行う責任あるポジションが必要となる。同様の指摘はプラットフォーマーにも可能だろう。

プラットフォーマーが属人的なコンテンツの判断を避ける傾向が強いのは、“判断すること”に責任が伴うからにほかならない。これはFacebookなどの掲載広告、Amazonのマーケットプレイス出品などの審査にも共通する課題だ。

“AI活用”が事業者の自衛手段に

中でもCSAMの判別に関しては、どのプラットフォーマーも“最も主体的に関わりたくない”テーマに他ならない。それが芸術なのか、表現なのか、それともCSAMなのか。歴史的な作品にも含まれているCSAMの論争に対するプラットフォーマーの自衛手段は、“AI活用”しかない。

また、一連の経緯を振り返ると、文化的背景の違いも少なからず影響していたように感じる。グローバル企業にとっては、サービスを展開する国や地域の法的・文化的背景を踏まえたきめ細かな対応が求められるべきだが、本社所在国の基準や方針が画一的に適用される傾向は根強い。

グローバルな展開と、各国事情を尊重したサービスのバランス。それがクラウド時代には、ユーザー、プラットフォーマーともに大きな課題だと今回の事例は示唆している。

本田 雅一：ITジャーナリスト