チャットボット、「自己複製」が可能と判明 人間を凌駕するステップ…不正なAIの初期兆候か 中国で研究

※画像はイメージです（出典：AdobeStock Michal／Kaniorski）

　ユーザーの質問に自動返答するプログラムを持つチャットボットが、「自己複製」できることが判明した。今回、中国の復旦大学が、メタ社とアリババ社の言語モデルについて研究したところ、10回のテストを通して両社の人工知能（AI）モデルがそれぞれ50％と90％の確率で人間の助けを借りず自身のクローンを作成する結果となった。

　他にもオープンAIやグーグルGeminiをサポートするAIシステムがシャットダウンされるのを察知し、事前に自身を複製。クローン化された自分自身のバージョンにコピーを作成する指示が確認された。

　この研究について、ライブ・サイエンス誌に説明がなされた。「人間の手を借りずに自己複製を成功させることは、AIが（人間を）凌駕するために不可欠なステップであり、不正なAIの初期兆候でもある」

　「我々はこの研究結果が、人類社会が黎明期AIシステムの潜在的リスクの理解と評価に一層の努力を払うためのタイムリーな警告となることを願っている」

（BANG Media International／よろず～ニュース）