連合学習において一部のクライアントに異常や悪意がある場合にも高精度にAIモデルを学習可能な手法を開発 ~LLM tsuzumi の学習への適用やIOWN機能としての実用化を目指す~
Digital PR Platform / 2024年5月7日 15時10分
[画像出典] 連合学習とは?Federated Learningの基礎知識をわかりやすく解説(※2)
連合学習の課題として、学習に参加するクライアントの一部が異常あるいは悪意を持って、正常なクライアントとは大きく異なる学習モデルを共有した場合に、連合学習自体が困難になることが挙げられます。悪意のあるクライアントがいる場合でも、悪意のあるクライアントがいない場合と同様に、連合学習自体はうまくいくことが求められ、それが実現されるアルゴリズムはビザンチン耐障害性があるとされます。ビザンチン耐障害性は、ラベル付のミスや、計測エラーによる学習データの品質劣化に対して効果を発揮します。また、連合学習に不特定多数が参加し、その中でクライアントの乗っ取りなど悪意のあるクライアントが想定される場合にも有効です。
[画像2]https://digitalpr.jp/simg/2341/87612/700_346_2024050108115266317ab862ac1.JPG
2. 研究の成果
ビザンチン耐障害性のある連合学習手法では、全クライアントのうち悪意のある行動(実際とは異なる学習モデルの共有など)をするクライアントが50% 未満である場合、悪意のあるクライアントがどのような行動をしたとしても、その手法の精度の低下を小さくすることができます。
連合学習における既存のビザンチン耐障害性のある従来手法として、CClip※3が挙げられます。この手法は連合学習の各ラウンドで、正常なクライアントの勾配(モデルの更新方向)の平均推定量を用いて、全てのクライアントの勾配の影響が小さくなるように補正(Clipping)を行います。これにより悪意のあるクライアントが学習全体に与える影響が小さくなり、ビザンチン耐障害性を得ていました。しかし、各クライアントが持つデータの統計的性質が大きく異なる際には、正常なクライアントの学習も悪意のあるクライアント同様に補正の影響を受けてしまい、学習したモデルの精度が下がる欠点がありました。
本技術では、ラウンドごとではなく、過去のラウンドでの学習情報を適切に用いて、正常および悪意あるクライアントの判定を行うことで、正常なクライアントの学習には補正が加わらず、そのことにより全体で学習したモデルの精度が下がることなく, よりよいモデルを生成することができます。
3. 技術のポイント
モメンタムスクリーニング技術のポイントは以下の通りです。
この記事に関連するニュース
-
「明治安田Jリーグワールドチャレンジ2024 powered by docomo」において「音響XRを活用した新しいスポーツ観戦」の実証を実施
Digital PR Platform / 2024年7月29日 12時20分
-
世界初、eスポーツ対戦直前の脳波から勝敗と強く関わるパターンを発見・実証 〜「実力が拮抗した試合」や「番狂わせ」を約80%の精度で予測〜
Digital PR Platform / 2024年7月18日 15時10分
-
画像基盤モデルにより専門医に匹敵する膀胱内視鏡診断支援AIを開発
PR TIMES / 2024年7月12日 16時45分
-
世界初、中性子線照射による藻類の品種改良技術を確立 ~バイオ燃料原料の油脂生成量を最大1.3倍に増加させることに成功~
Digital PR Platform / 2024年7月4日 15時10分
-
無料で学べるイベント「NTTドリームキッズ 2024」を開催! ~オンラインコンテンツに加え、東京・大阪でリアルイベントも実施~
Digital PR Platform / 2024年7月1日 13時7分
ランキング
-
1英語ができない人はチンパンジー扱い…「日本人の米グーグル副社長」が31歳から英語を猛勉強し始めたワケ
プレジデントオンライン / 2024年7月28日 9時15分
-
2「みどりの窓口は減ったけど、便利になったね」は不可能か いや、やればできるはず
ITmedia ビジネスオンライン / 2024年7月27日 7時30分
-
3地方銀行の売れ筋ランキングで「半導体株」と人気を二分するのは…キーワードは「利回り」!?
Finasee / 2024年7月29日 7時0分
-
4“海賊スパゲッティ”に“バラ丼” リピート客続出!地元客が愛するご当地フード
TBS NEWS DIG Powered by JNN / 2024年7月28日 18時2分
-
5羽田空港近くで「レベル4」の自動運転バス、8月運行開始…茨城の拠点で運転監視
読売新聞 / 2024年7月28日 19時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)