巨大ＩＴが激しい開発競争…安全対策後回し、識者「ツケを払うのは一般市民」

［生成ＡＩ考］第４部　混乱の先に＜４＞

　「ＡＩ（人工知能）は社会と人類に重大なリスクをもたらす可能性がある。強力なＡＩの開発を直ちに一時停止すべきだ」

　対話型ＡＩサービス「チャットＧＰＴ」が世界を席巻していた昨年３月。米非営利団体「フューチャー・オブ・ライフ・インスティテュート」（ＦＬＩ）が出した公開書簡が世界の注目を集めた。

　このまま開発を進めると、人間がＡＩを制御できなくなる恐れがある。巨大なＡＩ開発を一時停止せよ――。この呼びかけに、実業家のイーロン・マスク氏、歴史家ユヴァル・ノア・ハラリ氏ら多くの著名人が賛同し、署名に名を連ねた。

　日本人研究者の名前もあった。「ＡＩを拙速に世に出すことは混乱を招く。作る側、使う側が少し立ち止まり、様々な問題について考えるべきだ」（人工知能学会長の栗原聡慶大教授）。「ＡＩとの対話は人間の知的活動に大きな影響を与える可能性がある。皆で考える必要があるのではないか」（ロボット研究者の中村仁彦東大名誉教授）。急速に普及する生成ＡＩに、各分野の第一人者らは懸念を深めていた。

　だが運動は短期間で急速にしぼんだ。オープンＡＩやマイクロソフト、グーグルが次々と新しいＡＩやサービスを投入。将来の巨大市場をにらんで開発競争は激しさを増し、株式市場は生成ＡＩブームに沸いた。「資本の大きな動きの中で、公開書簡は非力だった」と中村氏は認める。

　書簡公開からわずか４か月後、マスク氏は新会社「ｘＡＩ」の設立を表明し、一時停止への賛同を事実上反故（ほご）にした。「ライバルと戦っているから、企業は開発を止めることができない。人間はやはり止められない生き物なのだ」。栗原氏は今、複雑な思いで開発競争を見つめる。

　サービス投入を急ぐあまり安全対策が置き去りにされていないか。ＡＩ開発の当事者らにも危機感がにじむ。チャットＧＰＴの爆発的な普及で世界最大級の新興企業になったオープンＡＩでは、主要幹部が次々と社を去っている。営利重視に傾く同社への反発が背景のようだ。

　「ここ数年、安全対策は華やかなサービスより後回しにされてきた。オープンＡＩは安全第一のＡＩ企業にならなければいけない」。安全対策の責任者を務めていたヤン・ライカ氏は今年５月に退社した際、Ｘ（旧ツイッター）で経営陣を批判した。

　ＡＩ研究の第一人者、ジェフリー・ヒントン・トロント大名誉教授は１０月８日、ノーベル物理学賞の決定を受けた記者会見でオープンＡＩに苦言を呈した。「サム・アルトマン（ＣＥＯ）は安全よりも利益を重視するようになっている。残念なことだ」

　オープンＡＩは１０月２日、新たに６６億ドル（約１兆円）の資金を調達したと発表。生成ＡＩ開発を一段と加速する構えだ。これまでの非営利重視の体制から営利重視へと組織を再編するとも報じられている。ビジネスの論理を前に、「全人類に利益をもたらす」とした設立理念は揺らいでいるように見える。

　「開発一時停止」の書簡には、３万３０００人を超える署名がなされた。ＦＬＩの広報責任者、ベン・カミング氏は巨大ＩＴなどによる開発競争に強い懸念を示す。「激しい競争圧力によって、彼らは安全性を犠牲にせざるを得なくなるだろう。そのツケを払うのは一般市民だ」