米カリフォルニア州知事、AI安全法案を拒否し、新たな取り組み発表（米国）

米国カリフォルニア州のギャビン・ニューサム知事（民主党）は9月29日、人工知能（AI）安全法と呼ばれる「最先端AIシステムのための安全で安心な技術革新法（SB1047）」に対し（2024年4月12日記事参照）、拒否権を行使した。

同法は、大規模AIモデルによる壊滅的な事象の発生を防ぎ、安全性を確保するために立案され、州議会で賛成多数による可決を経て、9月30日までに知事による承認または拒否権の行使が待たれていた（2024年8月30日記事参照）。しかし、壊滅的な事象が発生する前に安全性テストを義務付けるとともに、壊滅的な事象が発生した場合、第三者がモデルをベースに作り上げた個別の製品であっても、そのモデルの開発者が全責任を負う必要があった。これに対し、まだ発展途上にある技術に対して過度な負担を開発者に課すとして、主要なAI企業だけでなく、オープンモデルを利用するスタートアップやベンチャーキャピタリスト、学術関係者も多くの反対を表明していた。同州には主要なAI企業が集中しているため、この法案が事実上、全国的な技術標準を設定することになり、ニューサム知事は各方面からのロビー活動に直面してきた。

ニューサム知事は、カリフォルニア州が世界の主要AI企業50社のうち32社を抱え、それを支える研究教育機関と労働力を有しているため、同州がAI産業をリードしており、業界への規制の責任は真剣に受け止めるべきだとした。

さらに、SB1047が高コストの大規模モデルのみに焦点を当てている点に触れ、小規模で特化したモデルも同様に壊滅的な事象を引き起こすリスクがあると指摘した。技術がまだ発展途上の中、規制には慎重なバランスが必要で、同法案が最善の方法だとは言えないと結論付けた。

SB1047に対しては拒否権を行使したものの、ニューサム知事は同法の趣旨には賛同しており、壊滅的な事象が発生した後に対策を講じるのでは遅すぎるとして、実証的かつ科学的根拠に基づいたアプローチで、AIの効果的な規制枠組みを考える意向を示した。これには州議会や連邦政府関係者、技術者、倫理専門家、学術界と協力し、技術の進展に合わせて取り組むことを強調した。

また、ニューサム知事は同日、安全で責任あるAIの推進とカリフォルニア州民の保護に向けた新たな取り組みを発表した。SB1047に反対し、AIの「ゴッドマザー」として知られるフェイフェイ・リー博士、米国科学アカデミーのコンピュータ研究の社会的・倫理的影響に関する委員会のメンバーのティノ・クエジャー氏、カリフォルニア大学バークレー校「コンピュータ、データサイエンスと社会」学部のジェニファー・ツアー・チャイエス学部長が主導し、カリフォルニア州での生成AI展開で責任あるガードレール的な規制を開発していくとした。

（松井美樹）

（米国）