OpenAI騒動が示す｢人類がAIと戦っている｣現実 効果的利他主義者が去った後､何が起こるのか

効果的加速主義は、いわば効果的利他主義への対抗路線として生まれてきたのだが、一方効果的利他主義が完全に「善」だったわけでもない。この場合の利他主義の嘘っぽさもさることながら、白人男性が中心の運動であることや、ビリオネアたちのエリートコミュニティーがサポートしたものであること、現在ではまるでカルトのような閉鎖性も見受けられるなど、さまざまな欠点が指摘されている。

最大の資金援助者だった暗号通貨取引所FTX創設者のサム・バンクマン＝フリードが詐欺罪で有罪になったことも、効果的利他主義への信頼を失墜させている。

もともとOpenAIは、AIの次に来る「AGI（artificial general intelligence＝汎用人工知能）」を標榜していた。現在のAIはChatGPTにしても多くのデータを学習し、統計学的な手法で回答を導き出す。人間のようにも感じられるが、人間がプロンプトを出さないと起動せず、物理世界に接することもない。

他方AGIは人間と同等、あるいはそれ以上の知性を持ち、独立して思考し判断する。場合によってはロボットの手を動かして、何らかのボタンを勝手に押してしまうこともできるだろう。

現実味を帯びてきたAGIとASI構想

数年前までAGIはマイナーな研究分野で、学会も変わり者が集まるような場所だった。だが、生成AIが関係者たち自身も不意を突かれるような突然の進化を見せたことで、AGIやASI（artificial superintelligence＝人工超知能）がにわかに現実味を帯びてきた。OpenAIも、生成AIの向こうにAGI開発のロードマップを描いているはずだ。

折しもアルトマンCEOは、投票権を持たないオブザーバーとして、マイクロソフトの理事会参加を認めようとしていると伝えられる。CEO追放劇にいたる前に、マイクロソフトが製品化に圧力をかけていたことも報じられている。今後、安全性よりもビジネスにはっきりと重心が移ることも予想されよう。

人類に危害を加えないAIは本当に実現され得るのか。現在のOpenAIの状況を見る限り、とても楽観的にはなれないというところだろう。アメリカや欧州連合（EU）でのAI規制の動きも、開発の速度に追いつききれずにいるように見受けられる。AIと人類との競争はすでに始まっているのだ。

瀧口 範子：ジャーナリスト