千葉工業大学と東大、リザバー計算の一種「ESN」の性能向上の鍵を確認

画像提供：マイナビニュース

千葉工業大学(千葉工大)と東京大学(東大)は5月1日、リザバー計算(RC)モデルの一種である次世代型人工知能「エコーステートネットワーク」(ESN)の性能向上の鍵として、ニューロン内部の「時間履歴項」(以下、「THT」と省略)の調整によるダイナミクスの最適化が重要な役割を担うことを解明したと共同で発表した。

同成果は、千葉工大大学院 情報科学研究科の江波戸雄大氏、同・大学 情報変革科学部 情報工学科の信川創教授(同・大学 数理工学研究センター 非常勤主席研究員/国立精神・神経医療研究センター 精神保健研究所児童・予防精神医学研究部 客員研究員兼任)、同・大学 数理工学研究センターの酒見悠介上席研究員(東大 国際高等研究所 ニューロインテリジェンス国際研究機構(WPI-IRCN) 連携研究者兼任)、大和大学 情報学部 情報学科の西村治彦教授(兵庫県立大学 応用情報科学研究科 名誉教授兼任)、工学院大学 先進工学部 機械理工学科の金丸隆志教授(WPI-IRCN 連携研究者兼任)、東京都市大学 知能情報工学科のNina Sviridova講師、東大の合原一幸特別教授/名誉教授(WPI-IRCN IRCNエグゼクティブ・ディレクター・主任研究者/千葉工大 数理工学研究センター 主席研究員兼任)らの共同研究チームによるもの。詳細は、英オンライン総合学術誌「Scientific Reports」に掲載された。

ESNの性能は、リザバー(RCモデルの訓練なしの再帰型ニューラルネットワーク)の記憶性能や安定性、ダイナミクス多様性などが関連しており、それらの性質を定量化する指標が提案されつつある。そこで研究チームは今回、ESNのリザバーを構成するニューロンモデルのTHTがどのように性能に寄与するのかを調べることにしたという。

THTは、現時刻のニューロンの発火状態に、過去の発火状態の履歴をどの程度残すかを調節できるパラメータで、リザバーの状態変動のタイムスケールを入力信号や目標出力に合わせることが可能。しかし一般的な指標では、リザバーのダイナミクスのタイムスケールという、やや曖昧な概念を指標化できていなかったため、これまでその効果が十分には検証されていなかったという。また、一般的な記憶指標の「memory capacity」は、THTを持つリザバーの記憶性能を過小評価するという課題があった。