生成AIを用いたスパム自動検出を実現し、不適切投稿を前月比で約90%削減
PR TIMES / 2024年9月19日 17時45分
会員数12万人の技術ブログ「Zenn」の開発・運営をLLMで効率化
クラスメソッド株式会社(本社:東京都港区、代表取締役:横田 聡、以下「クラスメソッド」)は、生成AIを活用して、情報共有プラットフォーム「Zenn」へのスパム投稿対策を実現したことをお知らせします。
【背景】
クラスメソッドが運営する情報共有プラットフォーム「Zenn」は、12万人を超える会員が技術ブログ記事を執筆し、月間1,300万件以上のPV(ページ閲覧数)があります。
2024年6月よりスパム投稿(*)が増加したのを機に、快適な技術情報の共有というユーザー体験を守るため、スパム対策を検討しました。
現在、Zennにはブログ記事やコメントなど、1日あたり約111万文字相当の投稿があり、これらを人力で全件チェックするのは現実的ではありません。今後も会員数や投稿数が増加していくことを想定すると、コンテンツチェックの自動化は必須の仕組みでした。
* ブログ内容やIT技術とは無関係なサイトへの誘導や、無意味な文字列など。
【生成AIを用いたスパム投稿対策について】
クラスメソッドでは、Zennに投稿される記事やコメントなどのコンテンツについて、スパムと疑われるものを自動検出し、管理者に通知する仕組みを実装しました。2024年7月初旬から運用を開始し、8月は約1,500件を自動検出しています。
スパムの判定には、LLM(大規模言語モデル)を使用し、短期間で一定の精度をもった検出の仕組みの開発・実装を実現しました。
スパムの疑いがあるコンテンツについては、人間が最終確認し、記事の非公開化やアカウント凍結などの対応を適宜行っています。スパム投稿数は月によって大きく変動するため単純比較はできないものの、7月~8月の徹底した対策を経て、9月のスパム疑いのある投稿は前月同期比(*)で約90%削減され、ユーザーからの指摘件数も大きく減少しました。
* 2024年9月11日時点での試算
[画像: https://prcdn.freetls.fastly.net/release_image/14901/384/14901-384-3230c801ce93f30e0605310d24796dde-1200x630.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
生成AIによるコンテンツ巡回と、スパム自動検出・報告、管理者による内容確認の流れ
実装内容については、開発担当者がZennに記事を執筆し公開しています。
[参考] 開発担当者ブログ「Zennへのスパム投稿が急増したのでLLMでなんとかした話」
https://zenn.dev/team_zenn/articles/zenn-check-spam-by-llm
【「Zenn」について】
Zennはエンジニアのための新しい情報共有コミュニティを目指し、クラスメソッドが運営する技術ブログプラットフォームです。個人利用のほか、企業や団体、チームによる利用も行われており、2024年9月時点で会員数は12万人を超え、企業・法人利用も900件以上、月間PVは1,300万以上となっています。
Zennの会員は知見を記事として投稿するだけでなく、1冊の本にまとめて無料または有料で公開したり、記事としてまとめる前の短いメモを投稿することもできます。読者は、有益な記事へのバッジのプレゼントや、本の購入を通じて執筆者を支援することが可能です。
「Publication」は、Zenn上に複数人で管理できるメディアを作ることができる機能です。企業や技術コミュニティなどの単位でPublicationを作ることで、複数人で一つの場所に特定のテーマについての記事を投稿していくことができます。執筆者の創意を促すため、企業のPublicationに投稿しても記事は執筆者本人のものになるというユニークな仕組みを備えています。
企業・法人に向けた利用支援メニュー(https://zenn.dev/biz-lp)も開始し、多様な技術コミュニティづくりに貢献しています。
[参考] エンジニアのための情報共有コミュニティ「Zenn」の会員数10万人、組織利用数500を突破
https://classmethod.jp/news/20231212-zenn-members-100k/
クラスメソッドは、これからも「Zenn」におけるエンジニアの情報共有と交流が快適なものとなるよう、運営に尽力してまいります。
【クラスメソッドについて】
クラスメソッド株式会社はアマゾン ウェブ サービスをはじめ、データ分析、モバイル、IoT、AI/機械学習等の分野で企業向け技術支援を行っています。AWS支援では2015年から継続して最上位パートナーに認定され、国内の最優秀パートナーを表彰する「AWSサービスパートナー オブ ザ イヤー」を3度受賞。2022年にはグローバル最優秀パートナーとして「SI Partners of the Year」を受賞、翌23年にもファイナリストとなり、名実ともに世界トップクラスのAWSパートナーです。現在までの技術支援実績は約4,000社、AWS環境については25,000アカウント以上となりました。社員による技術情報発信にも注力し、オウンドメディア「DevelopersIO」では4万本以上の記事を公開中です。「すべての人々の創造活動に貢献し続ける」という企業理念のもと、最適な技術を提案してまいります。
本社所在地: 東京都港区西新橋1-1-1 日比谷フォートタワー26階
代表者 : 代表取締役社長 横田 聡
オフィシャルサイト: https://classmethod.jp/
技術ブログ「DevelopersIO」: https://dev.classmethod.jp/
Facebookページ :https://www.facebook.com/classmethod/
公式YouTubeチャンネル : https://www.youtube.com/c/classmethod-yt/
※ 記載されている会社名、製品名は、各社の登録商標または商標です。
企業プレスリリース詳細へ
PR TIMESトップへ
この記事に関連するニュース
-
エンタープライズのコア業務を「まるごとAI化」──neoAI「neoAI Agent Service」をリリース
PR TIMES / 2024年12月20日 15時45分
-
クラスメソッド、生成AIのビジネス活用戦略を学ぶ、マネジメント向けAWS公式トレーニングコースを開講
PR TIMES / 2024年12月16日 16時15分
-
東北仙台でAWSの最新情報を語り合い、エンジニアの交流を深める勉強会を開催
PR TIMES / 2024年12月13日 16時45分
-
クラスメソッド、教育機関向けAWS技術支援のグローバル最優秀パートナーとして「Education Consulting Partner of the Year - Global」を受賞
PR TIMES / 2024年12月4日 15時40分
-
クラスメソッド、「Google Cloud Partner Tech Blog Challenge」にて法人の部・投稿数1位、個人の部2部門で受賞
PR TIMES / 2024年11月22日 12時45分
ランキング
-
1《追悼・渡辺恒雄さん》週刊ポスト記者を呼び出し「呼び捨てにするな、“ナベツネさん”と呼べ」事件
NEWSポストセブン / 2024年12月21日 16時15分
-
2オープンAIの新たな生成AI「人間並み」近づく…安全性を確認するため当面は研究者に限定提供
読売新聞 / 2024年12月21日 18時19分
-
3ゴーン被告「日産の内部はパニック状態」「ホンダはこの取引に押し込まれた」
読売新聞 / 2024年12月21日 18時30分
-
4車両生産で相互乗り入れ検討 ホンダ、日産にHV供給も
共同通信 / 2024年12月21日 16時3分
-
5「本当に就職に強い大学ランキング」トップ150校 卒業生が1000人以上で実就職率が高い大学
東洋経済オンライン / 2024年12月21日 7時30分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください