AI(感情分析)と心理学で誹謗中傷対策。SNSやゲーム、デジタル広告に導入可能なアルゴリズム特許取得のお知らせ。
PR TIMES / 2023年12月20日 21時15分
株式会社toyouは簡便に開発可能な、オンラインストレスを減少させる特許を取得いたしました。(特願2023-109387)
感情は人々の判断や行動に影響を与えます。
本特許はSNSやオンラインゲームなどで攻撃性の高いユーザーをあらかじめ表示しない選択肢をユーザーに与えます。
これは私たちの日常のコミュニケーションやビジネス、さらには社会全体に革命的な影響をもたらす可能性を秘めています。
本特許は特許海外優先権(PCT優先権)の期間中であり、この特許の可能性をさらに広げるパートナーを募集しています。
J-PlatPat(特許情報プラットホーム)へは12/28ごろ反映されます。
特許概要
SNS、オンラインゲーム、ニュースやEコマースのレビュー、デジタル広告などの分野をカバーしています。
オンライン上のネガティブな表現を制御し、ユーザー体験を向上させることが目的です。
ユーザー主導の体験と表現の自由
SNSでは投稿・シェア、オンラインゲームではチャットやゲーム上の行動から感情分析を行いスコア化します。
各ユーザーは自分の行動に合わせたスコアを持ち、低スコア(ネガティブ行動が多い)ユーザーを表示しない選択が可能です。
これにより捨てアカウントでの誹謗中傷にも対応可能で、様々なWEBサービスに実装可能です。
[画像1: https://prtimes.jp/i/72108/12/resize/d72108-12-64ac8bc4c7b4f79b5a3e-5.jpg ]
[画像2: https://prtimes.jp/i/72108/12/resize/d72108-12-670730d0d9670915690a-7.jpg ]
https://prtimes.jp/a/?f=d72108-12-acee925a38b994a9073ef9ab1505222c.pdf
感情分析で「ブロック」「通報」では対応できなかった誹謗中傷対策
[画像3: https://prtimes.jp/i/72108/12/resize/d72108-12-d951a0ea4fd383d779f5-0.jpg ]
SNSでの誹謗中傷が社会問題になっていますが、本特許はユーザーの投稿傾向を可視化可能です。
スコアが低い、つまりネガティブな投稿が多いユーザーの投稿を非表示にすることで、SNSでの不快なコメントやヘイトスピーチを見ずに済むようになります。
この技術により、「表現の自由」と「心地よいコミュニケーション」の両立を目指しています。
直近の投稿に重み付けをすることで急激な変化も検知可能です。
ユーザー、プラットホームへ与える影響
[画像4: https://prtimes.jp/i/72108/12/resize/d72108-12-8356bce69d99084ef6f9-3.jpg ]
ユーザー視点
・ネガティブなコンテンツの減少
ユーザーはネガティブな投稿を見かける頻度が減少し、快適なオンライン体験が可能です。
・ストレスの軽減
誹謗中傷などのストレス要因が減ることで、ユーザーの精神的健康が守られます。
・利用環境の改善
SNSやオンラインゲームでのコミュニケーションがより安全で楽しいものになることで、利用者の満足度が向上します。
プラットホーム視点
・ユーザー滞在時間の増加
ネガティブなコンテンツが減少することで、ユーザーがプラットホーム上で過ごす時間が長くなる可能性があります。
・ブランドイメージの向上
ユーザーの健全な利用を促進することで、プラットホームのブランドイメージが向上し、新規ユーザーの獲得や既存ユーザーのロイヤルティが高まる可能性があります。
・コンプライアンスとリスク管理
ネガティブなコンテンツの管理を強化することで、法的規制や社会的責任の遵守が容易になります。
これはリスク管理の観点からも重要です。
デジタル広告企業への影響
デジタル広告企業は攻撃的なユーザーを避けた表示を行うことでブランドイメージを保護し、広告の効果を最大化する新たな機会を提供します。
特に、サードパーティーcookieの規制が厳しくなる中で、ファーストパーティーcookieを活用したパーソナライズされた広告提供は、ユーザー体験の向上に寄与します。
社会心理学的なアプローチ
[画像5: https://prtimes.jp/i/72108/12/resize/d72108-12-2a45b55da47f989ff45a-8.png ]
SNSやオンラインゲーム、レビューサイトで導入することにより、「匿名化による攻撃性増大」を抑止します。
・報酬と罰の原理
感情解析スコアを導入することで、良い行動(ポジティブな投稿)が報酬(高いスコア)として認識されます。
逆に、ネガティブな投稿を行うとスコアが下がるため、これを罰として認識し、ネガティブな投稿を避けるようになります。
・社会的承認の求心力
人は社会的に承認される行動をとる傾向があります。
高い感情解析スコアが他のユーザーでも確認できるようにすると、良好な評価を受ける動機が生まれます。
これにより、ネガティブな投稿を控えるようになります。
・選択的露出の原理
この特許では、ユーザーが低いスコアの投稿を非表示にすることができます。
これにより、ポジティブなコンテンツを好むユーザーがネガティブな情報から遮断されるため、全体のムードが良好に保たれやすくなります。
SDGsに基づくWEBコミュニケーションの持続可能性
[画像6: https://prtimes.jp/i/72108/12/resize/d72108-12-dbfc63ceee130922489f-2.jpg ]
目標 3: すべての人に健康と福祉を
この特許による誹謗中傷やヘイトスピーチの抑制は、オンラインでの精神的ストレスやハラスメントの減少に寄与し、ユーザーのメンタルヘルスの保護を図ります。
目標 5: ジェンダー平等を実現しよう
ジェンダーに基づくヘイトスピーチや差別の削減を通じて、ジェンダー平等の実現に向けたオンライン空間の改善が進みます。
目標 16: 平和と公正をすべての人に
ネット上の平和の確保と、誹謗中傷やヘイトスピーチによる不正の撲滅により、公正かつ平和な社会の構築に貢献します。
株式会社toyou概要
「社会課題をテクノロジーで解決する」を理念とし、様々な企業の新規事業を「社会課題解決型新規事業」としてゼロから企画、開発を行っている企業です。
AIだけでなく、クライアント企業の強みを活かすビジネス提案を行います。
自社特許は社会課題解決のために、低価格もしくは無料でのライセンス供与を行っています。
企業プレスリリース詳細へ
PR TIMESトップへ
この記事に関連するニュース
-
「3人に1人が同業者ですよ」“院長の顔”看板の『きぬた歯科』誹謗中傷との戦い「必ず直電して説教」
週刊女性PRIME / 2024年7月19日 17時0分
-
「timelesz」オーディション参加者を守る... 誹謗中傷の注意喚起で「運営のフォローが素晴らしい」
J-CASTニュース / 2024年7月16日 16時20分
-
timelesz 新メンバー募集 誹謗中傷に注意喚起「最悪の事態を招きかねません」
東スポWEB / 2024年7月16日 15時51分
-
timelesz、オーディションに関する誹謗中傷に注意喚起「最悪の事態を招きかねません」法的措置も
スポーツ報知 / 2024年7月16日 14時5分
-
行政に声を届けるウェブサイト『PoliPoli Gov』で集まったSNS上の誹謗中傷対策をめぐる意見も参考に総務省で議論、改正プロバイダー責任制限法が2024年5月に可決・成立
PR TIMES / 2024年6月28日 13時45分
ランキング
-
1物議醸す「ダイドー株売却」の内幕を丸木氏語る 大幅増配公表直後で批判を向けられた物言う株主
東洋経済オンライン / 2024年7月19日 18時0分
-
2「みんなの意見は正しい」はウソである…ダメな会社がやめられない「残念な会議」のシンプルな共通点
プレジデントオンライン / 2024年7月20日 16時15分
-
3システム障害、影響続く=航空便、正常化に数日
時事通信 / 2024年7月20日 9時40分
-
4AI利用で6割が「脅威感じる」 規則・体制整備に遅れも
共同通信 / 2024年7月20日 16時50分
-
5セキュリティーソフト世界シェア1位があだ…ウィンドウズ障害、「過去最大規模」の見方も
読売新聞 / 2024年7月20日 6時45分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)