「ヤフーニュース」コメント欄 違反の判断をAIがすることの是非 ~誹謗中傷対策の強化
ニッポン放送 NEWS ONLINE / 2021年10月25日 17時35分
キーワード:ウェブサイト、ロゴマーク、ヤフージャパン=2009(平成21)年8月19日、東京都(ロイター=共同)
ニッポン放送「飯田浩司のOK! Cozy up!」(10月25日放送)に中央大学法科大学院教授で弁護士の野村修也が出演。ヤフーが誹謗中傷対策の強化としてニュースのコメントを人工知能などを活用して厳格に対策することについて解説した。
誹謗中傷は現状では侮辱罪 ~厳罰化を図るべき
IT大手のヤフーは、インターネット配信サービス「ヤフーニュース」のコメント欄への書き込みについて、一定の水準を超えて誹謗中傷が集中した場合には、コメント欄を自動的に非表示にする機能を導入した。違反コメントの判断は、人工知能(AI)によって自動的に行われるとのことである。
飯田)コメントが炎上するという話はよく聞きますが、その辺りをAIでコントロールするということです。
野村)誹謗中傷が犯罪になることもあるので、やはり厳罰化して行かなければいけないと思います。いま政府がそのような議論をしていますが、事実を指摘して誹謗中傷をするのであれば、厳しい刑罰があるとしても、いまは感想を述べるだけだと侮辱罪しか適用がないのです。侮辱罪は刑が軽いので、これでは抑制が働かず、「しっかりとした厳罰化を図るべきだ」という議論はあると思います。
コメントの判断をAIがするということ
野村)他方で、「AIがコメントのよし悪しを判断して、その判断によってコメントを見られなくする」というやり方がいいのかどうかだと思うのです。飯田さんはどのように考えますか?
飯田)AIに判断されるということで、「AIは公平中立なのだ」と言うのかも知れませんが、AIを運用している人たちが恣意的にAIを運用してしまった場合はどうなるのか、とは思います。「言論の自由との釣り合いをどのように見るのか」というところが気になります。
野村)AIは現状、とりあえず大量のビッグデータを見て自分で学習するため、ディープラーニングを繰り返して、「これは誹謗中傷なのだろう」と類型化して削除するような力は、それなりに整って来ているのだと思います。ただ、いまおっしゃったように、「誰かが恣意的な操作をしたときに何かが起こってしまうのか」ということは気になりますよね。大事なことは、国が管理しているものではないので、自分の場所を使わせるかどうかはヤフー側の自由であるということです。「ヤフーニュースにコメントができなければ、自分の表現ができなくなってしまう」というわけではありません。
飯田)確かにそうですね。嫌なら書くなと。
野村)このラジオもいろいろな方がいろいろなメールをくださって、時間の関係などで皆さんのメールをご紹介できているわけではないですよね。しかし、それで「表現の自由が」という問題にはならないわけです。それと同じと言えば同じなのですが、ヤフーの持っているいまの社会におけるニュース欄の影響力の大きさを考えると、意見をきちんと述べられる環境を可能な限り保障するのは大事だと思います。
大きくなってしまった権力をどのように健全に取り入れて行くか
飯田)GAFAの規制のようなことは、アメリカで問題になっているところではあります。しかし対岸の火事というか、「私たちにとっては他人事だよね」と思っていたことが、具体化して来たということですね。
野村)まったく一緒です。あまりにも大きくなり過ぎて権力になってしまっているところを、どのように自分たちの社会のなかで健全に取り入れて行くのかという問題なのです。権力になってしまっている状況は、表現の話だけではなく、経済活動においても、いろいろなところで規制の対象になりつつあるということだと思います。
AIにスクリーニングさせて、その上で第三者性のある人たちがチェックをする
飯田)かつては市場に任せておいて、「いろいろな人の判断が入れば基本的にうまく行くのだ」と言われていましたが、その市場の失敗のようなものがここでも起こって来ているということですか?
野村)起こっていますね。マーケットが作用しにくい場面ではないですか。「では、AIがそれに変われるものなのかどうか」ということも議論しなければいけないと思います。AIが民の力でコントロールする手段として、神の見えざる手のようなものとして働くのか。
飯田)コントロールする手段として。
野村)恣意性が入らず、繰り返し同じようなことをやっていると引っかかるというような、きちんとしたメカニズムになるのであれば、淘汰する道具として使うということにはなると思います。しかし、ディープラーニングの発想からすれば、相当学習を繰り返さないと本当の意味での正しい評価にはならないと思います。最初のころは、かなりギクシャクするので、まずはAIにスクリーニングさせて、第三者性のある誰かがチェックし、ヤフーの恣意に陥らないような形で議論して行くことが必要だと思います。
飯田)全部を見るということは、それこそAIに頼るぐらいなので難しいのかも知れませんが、モニタリング調査のようなところですかね。
野村)そうですね。
外部リンク
この記事に関連するニュース
-
【Yahoo!ニュース】コメント欄のさらなる健全化を目指しAIが表現の見直しを提案する「コメント添削モデル」の導入を開始
PR TIMES / 2024年9月9日 14時15分
-
ヤフコメにAI見直し提案「コメント添削モデル」導入 ポリシーに違反&不快と感じる可能性のある表現が対象
iza(イザ!) / 2024年9月9日 12時7分
-
Yahoo!ニュース、不快コメントにAIが見直し提案「コメント添削モデル」を導入
ASCII.jp / 2024年9月9日 11時55分
-
紀藤正樹氏 河野太郎氏の誹謗中傷対策発言に「ブロックから進んで法制を具体的に語ってほしかった」
東スポWEB / 2024年8月29日 15時19分
-
荒れる「LINEオープンチャット」…誹謗中傷してきた匿名者を法的に制裁する方法【弁護士が解説】
THE GOLD ONLINE(ゴールドオンライン) / 2024年8月18日 5時30分
ランキング
-
1野党、自民総裁選候補を批判=「改革周回遅れ」「今ごろ言うな」
時事通信 / 2024年9月12日 18時28分
-
2自民、19日に知事不信任案=全議員が辞職要求、可決の公算―斎藤氏は続投意向・兵庫県議会
時事通信 / 2024年9月12日 18時15分
-
3台風13号“直撃予想”奄美で不安の声「やっかいなコースに」 鹿児島
MBC南日本放送 / 2024年9月12日 18時29分
-
4「老人 頭がおかしい 理由」紀州のドン・ファン死亡日に検索 殺人罪で無罪主張の元妻
産経ニュース / 2024年9月12日 17時9分
-
5兵庫知事「予算成立が大切」 議会全会派から辞職要求も改めて否定
毎日新聞 / 2024年9月12日 16時34分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください