米商務省国立標準技術研究所（NIST）のAI安全研究所は8月29日（現地時間）、米Anthropicおよび米OpenAIの両社とAIの安全性に関する研究、テスト、評価に関する正式な協力を可能にする契約を結んだと発表した。
これにより、AI安全研究所は両社の主要な新モデルを一般公開前に利用できるようになる。三者が協力して安全リスクを評価することで、潜在的な問題を軽減できるようになるとしている。
米連邦政府はかねて、大手AI企業に対し、安全対策に関する自主的な約束を取り付けるべく取り組んできた。
米国土安全保障省（DHS）は4月、Artificial Intelligence Safety and Security Board（AIの安全性およびセキュリティに関する諮問委員会、AISSB）を設立し、OpenAIのサム・アルトマンCEOなど、AIに携わる22人を委員に招致した。
アルトマン氏は今回の新たな契約についてXで「こうした取り組みが国家レベルで実現することが重要だ。米国はAIで主導的役割を果たしていく必要がある」と語った。
AI安全研究所のエリザベス・ケリー所長は発表文で、新たな合意は「始まりに過ぎないが、AIの未来を責任を持って守るために私たちが取り組む上で重要な節目となる」と述べた。