有害コンテンツを摘発、その理由も説明する…韓国ネット大手の「巨大言語モデル」
KOREA WAVE / 2024年10月25日 13時0分
【KOREA WAVE】韓国ネット大手カカオが、巨大言語モデルを活用して有害コンテンツをモニタリングし、人工知能生成による回答の倫理性を検討する。
カカオのチョ・ヘヨン研究員は22日、カカオAIキャンパスで開かれた「if2024」で「カカオは有害コンテンツモニタリングシステムとコンテンツ倫理性を判断するAIガードレールにLLMを適用しスパム情報を分類する」と説明した。
有害コンテンツ監視システムは▽分類結果▽要約▽疑わしいキーワード ▽推奨ポリシー――の4つの段階で構成されている
まず、運営者は、通報または公開されたコンテンツがスパムかどうかを一次的に判断する。 その後、オリジナルコンテンツの内容を簡単に整理し、コンテンツ内の新語・隠語や文脈を解釈する必要がある「同形異義語」を識別する。最後に、上記の結果を総合して、とるべき措置を提案する。
また、LLMが、スパム分類結果とともに、どの部分が有害なのか、分類理由を説明する。これにより、運営者は効率的にスパムを監視することができる。
チョ研究員は「スパム分類能力と文章生成能力の両方が必要な作業なのでLLMを適用した。大規模データ学習を通じてスパムのパターンと文脈を理解することができる」と説明した。
(c)news1/KOREA WAVE/AFPBB News
この記事に関連するニュース
-
LLMを脱獄して生成AIをだます新たなサイバー攻撃の手法、発見
マイナビニュース / 2024年10月25日 9時22分
-
体にチップを埋め込む未来は来るのか [韓国記者コラム]
KOREA WAVE / 2024年10月16日 12時0分
-
アイデミー、RAGシステムなどのLLMによる出力の品質管理を行うクラウドサービス「LLM品質管理クラウド」を開発へ
PR TIMES / 2024年10月11日 18時15分
-
「生成型AIによる医療革命」患者診断から治療まで支援…韓国IT企業も参戦
KOREA WAVE / 2024年10月4日 9時0分
-
ウェブ漫画とAIが融合「平面から立体へ」「絵が動く」…ソウル・ウェブトゥーンフェスの「熱い体験」
KOREA WAVE / 2024年9月30日 12時30分
ランキング
-
1【速報】北京の路上で刃物を持った男が5人を切りつけ 被害者のうち3人は未成年
TBS NEWS DIG Powered by JNN / 2024年10月28日 18時44分
-
2英メディア、総選挙結果は「有権者の怒り過小評価」 「高市首相」に道開くとの指摘も
産経ニュース / 2024年10月28日 8時7分
-
3石破首相「先頭に立ち取り組む」と続投に意欲、野党との連立想定せず
ロイター / 2024年10月28日 15時38分
-
4トランプ陣営、ヒスパニック系に差別的発言 ハリス陣営が非難
AFPBB News / 2024年10月28日 12時45分
-
5「ロシアによる国の乗っ取りだ」親欧米派のジョージア大統領が非難 総選挙“不正介入”に抗議を呼びかけ
日テレNEWS NNN / 2024年10月28日 17時5分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください