25万件以上の米国選挙関連ディープフェイクリクエストをChatGPTが拒否

もぐもぐニュース / 2024年11月15日 13時39分

最近の米国選挙では、有権者がChatGPTを政治や投票に関する情報を得る手段として利用するケースが増えています。OpenAIは選挙期間中、どれほど多くの有権者がAIチャットボットを活用したかを明らかにしています。

AI技術の進化とともに、オンラインでの誤情報の増加が懸念されています。これを受け、OpenAIは選挙期間中、候補者や政府を装った偽情報の拡散を防ぐための対策を講じました。具体的には、ChatGPTを使った候補者や政府のなりすまし行為を禁止しました。また、有権者に誤った情報を伝えたり、投票を妨げる行為を防ぐため、全米州務長官協会と提携し、正確な情報提供に努めました。

さらに、ChatGPTは投票に関する重要な情報を提供する中立的なウェブサイト「CanIVote.org」へのリンクを案内し、選挙の1か月前には約100万件の質問に対し、このページへの誘導を行いました。

また、画像生成AI「DALL-E」で作成された画像にはデジタル透かしを施し、識別が容易にされています。同じブログ投稿では、ドナルド・トランプ次期大統領やカマラ・ハリス副大統領、JDバンス次期副大統領、ティム・ワルツ知事に関連するディープフェイク画像の作成リクエストが25万件以上もあり、それらがChatGPTによって拒否されたことが報告されています。

選挙当日とその翌日には、ChatGPTは200万件の回答でユーザーにAP通信やロイター通信を推奨し、正確な選挙結果を確認するよう案内しました。

しかし、これらの対策が実施されていたにもかかわらず、米国のシンクタンク・超党派政策センターはChatGPTによる選挙関連の質問に誤情報が含まれる可能性を指摘し、OpenAIの対応に懸念を抱いています。同センターは、「民主主義に対する影響が大きい分野では、AIの応用に慎重であるべきだ」と述べ、2026年の中間選挙までにさらなる改善が必要だとしています。

「ChatGPTの回答にのみ頼ることは、ユーザーを誤解させるリスクが高いです」と超党派政策センターは指摘しています。「このチャットボットは、プロンプトの長さや情報の訓練に制約があり、完全で一貫した情報を提供できないことが多いです。ユーザーには、ChatGPTの回答を政府の公式ウェブサイトや地域の選挙管理委員会など、信頼性の高い情報源で確認することを強く推奨します」と述べています。

The post 25万件以上の米国選挙関連ディープフェイクリクエストをChatGPTが拒否 first appeared on MOGU2NEWS.