「人間以上に賢いＡＩ、早ければ５年後」「ＡＩの脅威は単なるＳＦではない」…ノーベル物理学賞・ヒントン名誉教授が語る未来

インタビューに応じるジェフリー・ヒントン氏（カナダ・トロントで）＝小林泰裕撮影

　人工知能（ＡＩ）研究の第一人者として知られ、２０２４年のノーベル物理学賞受賞が決まったカナダ・トロント大のジェフリー・ヒントン名誉教授が読売新聞のインタビューに答えた。主なやり取りは次の通り。

人間の何千倍もの知識

――ノーベル賞を受賞して、ＡＩの危険性について発信しやすくなったか。

　「非常にうれしい。自分が取り組んできたテーマでの受賞なのでなおさらだ。もともとＡＩを開発した中心人物の一人だとみなされてきたが、さらに信頼を得た。ＡＩの危険性についての発信がしやすくなったし、懸念を表明する場に招かれる機会も増えた」

――ＡＩの危険性をどう考えるか。

　「長年の研究の結果、ＡＩのようなデジタルインテリジェンスは、より優れた知性だと考えるようになった。だからこそ、ＡＩが人類を超える知性を持ち、私たちを支配する可能性についてそれを望むかどうか、真剣に考える必要がある。その脅威は単なるサイエンスフィクションではない」

――ＡＩの能力は人間を超えるか。

　「一人の人間は２０億～２５億秒程度しか生きられない。その時間では、インターネット全体の情報を学ぶことはできない。１０００個のＡＩがあれば、それぞれが別の情報を学習し、共有することで、すべてを学ぶことができる。チャットＧＰＴは人間の何千倍もの知識を持っている」

――チャットＧＰＴの公開から２年ほどがたった。ＡＩの進化をどうみているか。

　「（チャットＧＰＴの公開は）間違いなく大きなマイルストーンだった。グーグルでも似たような技術を開発していたが、公開されなかった。マイクロソフトもかつて対話型ＡＩを公開したが、ヘイトスピーチを発信し始めたため、非公開となった。

　だが、オープンＡＩは、少ない量の学習でＡＩの行動が調整できることを示した。この数年でＡＩの進化が速くなっていることに間違いはない。だれもが予想しなかった。かつては、人間を超える能力を持った知能が登場するのは、５０年、１００年先だと思っていたが、今では５０％以上の確率で２０年以内に、人間と同等かそれ以上に賢いＡＩが生まれるだろう。早ければ５年後かもしれない」

安全から利益追求の流れに

――オープンＡＩは営利組織への転換を図っているという。

　「非常に強力な政府の規制がない限り、営利組織が人類を超えるＡＩを開発するのに、安全な場所だとはいえない。オープンＡＩの当初の目的は、安全なＡＩを開発することだったが、利益を追求する流れに巻き込まれてしまった。

　グーグルがＡＩ分野で先頭を走っていた頃は、他の企業よりも技術面で先行しており、責任ある行動を取ることができた。技術を公開したら、人々が何をするかがわからないため、公開しないという判断ができた。

　だが、オープンＡＩがマイクロソフトと提携して開発すると、グーグルも何もしないわけにはいかなくなる。営利企業同士が競い合うと、安全性が後回しにされる。軍拡競争と同じだ。これを防ぐには政府の規制が必要になる」

――具体的にはどんな規制が有効か。

　「開発企業が保有するコンピューターの処理能力の３分の１を、ＡＩの安全性の研究開発のために投じることを義務づける法整備だ。現在のところ、ＡＩの開発企業が安全性の研究に使っているコンピューターの処理能力はおそらく１％程度だろう。これを３０倍に引き上げるべきだと思う」

――サム・アルトマン氏やイーロン・マスク氏のようなごく少数の人々や企業にＡＩ分野の権力が集中している現状をどうみるか。

　「マスク氏のような人物がいる場合は、大きな問題ではないか。Ｘを見る限り、社会的に無責任な行動を取っている。マスク氏が権力を握る独裁的な政府が米国で誕生すれば、人々を監視するためにＡＩを使うこともためらわないだろう」

――巨大ＩＴ企業の分割は、安全なＡＩの開発に有効か。

　「現在は、ＡＩの基本的な研究の多くがグーグルで行われている。成功した企業を分割すれば、競争を促すので消費者には良いことかもしれない。だが、基礎研究にとっては悪い影響を及ぼす恐れがある。グーグルの分割によって研究の成果が失われるかもしれない」

医療分野や自動運転、大きなメリット

――ＡＩの進化は、社会にどんなメリットをもたらすのか。

　「コールセンターの顧客サービスは劇的に改善するはずだ。膨大な知識を持つＡＩが対応することで、同じ質問を繰り返し聞くようなことはなくなるだろう。医療分野でも驚くほどの効果が期待できる。１億人の患者を診察したＡＩ医師に診てもらうことができる。珍しい病気にかかっても、医師には診察した経験がある。新薬の設計にも役立つだろう。自動運転の車も、人間よりも安全に運転できるはずだ。こうした利点がある以上、ＡＩの開発が止まることはないだろう」

――負の影響は。

　「偽情報や誤情報、陰謀論が拡散し、有権者の投票行動を操作することが考えられる。すでに民主主義は脅かされている。ＡＩが高度になるにつれ、世論操作が容易になる。フィッシング詐欺やサイバー攻撃も急増するだろう。ＡＩを使ってウイルスを合成することも可能になるかもしれない。非常に心配だ」

――雇用への影響は。

　「ＡＩによる生産性の向上は富裕層に利益をもたらす一方、労働者は貧しくなる恐れがある。産業革命では肉体労働が減ったが、ほかの仕事が生まれた。今回は日常的な知的労働がＡＩによって置き換えられる。新しい仕事が生まれるかどうか、明確ではない。生み出すよりも奪う仕事の方がはるかに多いとみている」

――人間にしかない能力は何か。

　「人間が持っている能力で、ＡＩにできないものはない。ＡＩは私たちが持つどんな特性でも再現できるはずだ」

――ＡＩ開発をどう進めるべきか。

　「市場原理にすべてを任せるという考えは、ばかげている。見えざる手が私たちを守ってくれるという考えはナンセンスだ。ＡＩは危険な薬で、米国を始め、政府は大企業が安全性の研究にもっと多くのリソースを割くよう強制すべきだ」

――国際協調で開発を制限できないか。

　「人類を支配することを防ぐ安全研究では各国が協力できるかもしれない。冷戦時代には、米ソが地球規模の核戦争を防ぐために協力した。だが、兵器開発やサイバー攻撃といった分野では相手と戦うために技術開発を行っており、協力することはないだろう」

――トランプ次期大統領の下、ＡＩ開発はどう進むか。

　「安全に開発するのが困難になると思う。トランプ氏はＡＩ企業に対し、自分たちが望むルールを作ることを認める姿勢を示している。彼に資金を提供すれば、容認されるということで、規制が売り物のようになっている。その結果、気候変動を止めることやＡＩを安全に開発することは難しくなるだろう。側近のマスク氏も自らがＡＩ開発企業を率いており、トランプ氏に安全規制を撤廃するよう助言するのではないか」

中国が米国を超える可能性は

――中国がＡＩ開発で世界一になる可能性は。

　「１０年以内に米国を追い越す可能性は高いだろう。米国は関連技術のアクセスを制限することで、中国の開発を遅らせようとしているが、数年間の遅延をもたらすだけだ。その結果、中国国内に独自の市場が生まれ、自力で技術を作る方法を学ぶと思う。米国よりも多くの資金を投入し、人材も育成するだろう。技術の開発は長い目でみれば、民主的な制度が強い国が成功する傾向にあるが、トランプ氏の再選でその基盤を失いつつある」

――日本の開発の現状をどうみるか。

　「１９８０年代初頭、日本は世界のリーダーだった。当時の米国人は日本を恐れていた。日本の産業システムの方が米国より優れているのではないかと考えていた。なぜかわからないが、現実にはならなかった。だが、日本に優れた研究者がいることは間違いない。日本は高齢者が多い。敬意を持って高齢者の世話をするロボットには需要があるはずだ。ロボットは日本が優位性を発揮できる分野の一つではないかと思う」

（カナダ・トロント　小林泰裕）