米OpenAIは5月30日（現地時間）、「AI and Covert Influence Operations:Latest Trends」（AIと隠された影響工作:最新動向）と題した報告書（PDF）を公開した。この報告書によると、ロシア、中国、イラン、イスラエルを拠点とする複数の組織が、国民を操作するために同社のAIを利用している。
同社は、こうしたオンラインキャンペーンを5件特定し、阻止したという。
これらの組織は、ChatGPTを含むOpenAIのツールを使用して、複数の言語でSNSのコメントを生成したり、偽のアカウントの名前や経歴をでっち上げたり、画像を作成したり、コードをデバッグしたりしていたという。
たとえばロシアのDoppelgangerは、OpenAIのツールを使ってロシア語の投稿を英語やフランスなどに翻訳し、SNSに投稿していた。OpenAIはその例として、コメントはウクライナについてのものなのに、画像はガザ地区についてのものというちぐはぐな投稿を紹介した。
OpenAIは、「脅威アクターはコンテンツを改善し、より効率的に作業するためにわれわれのプラットフォームを使っているが、これまでのところ、彼らはまだ本物のオーディエンスにリーチして関与できていない」と主張した。同社は「責任あるAI導入へのアプローチを反映した安全システムを通じて」脅威アクターに対抗しているという。「われわれのモデルが、攻撃者が要求したテキストや画像の生成を拒否するケースが繰り返し観察された」。
OpenAIは、世間は攻撃者によるAIの悪用に注目しがちだが、「防御側にAIがもたらす利点を忘れてはならない」と主張する。
「われわれは生成AIの力を活用し、こうした不正行為を大規模に発見し、軽減することに尽力している」。