OpenAI、人間より賢くなったAIの暴走を抑える基礎研究チームを発足

OpenAIのニュースリリース

　OpenAIは7月5日、人間より賢くなったAIの暴走を抑えることを目的とした基礎研究チームを発足したと発表した。

　本研究の目標は、人間より賢いAI（AGIよりも高性能な“超知能”）が人間の意図に従うことを保証する自動調整システムの構築。同社では今後10年以内に人間より賢いAIが誕生すると予測しており、本研究は4年以内の目標達成を目指す。

　チームリーダーはIlya Sutskever氏とJan Leike氏の2名。同社は本研究にコンピューティング（計算能力）の20％を投入する一方、得られた知見は外部に広く共有し、OpenAI以外のモデルの調整にも貢献したいとしている。