「AIの恋人」のめりこみ自殺、米14歳の少年 そもそもどんなサービスだったのか

・利用規約とコミュニティーガイドラインに違反する使い方への介入を強化する

・AIキャラクターが実在の人物でないという注意喚起をチャット画面に常に表示する

・AIキャラクターとの会話に熱中しすぎることを防ぐために 1時間連続して利用するユーザーへ通知する

　今回Character Technologiesが実施する施策が十分であるかはまだ分からない。今後も生成AIの技術が進化を続け、AIキャラクターが企業のマーケティング活動などで活躍することで、幅広い年齢層のユーザーがAIキャラクターと会話することが予想される。

　幅広い利用者が安全に利用するためにも、AIキャラクターを提供するチャットサービスの安全性への取り組みはより一層求められる。

　character.aiのように、技術的な側面からAIキャラクターへの過度な依存を防ぐ施策が重要である一方、根本的にAI中毒の心理的メカニズムを明らかにすることも重要である。

　ただし、心理的なメカニズムを明らかにするには時間を要する上、技術的な対策だけでは解決しない可能性もある。

　SNSを利用する上でも、長時間利用しすぎないなどSNSを適切に利用するリテラシーが利用者に求められている。

　AIも同様に、利用者は単にサービス提供者に安全対策を求めるだけではなく、AIを適切に利用するリテラシーを身に着けることが自分自身や子どもを守る上で重要となる。

●著者プロフィール：小川僚太（おがわ りょうた）　

　野村総合研究所IT基盤技術戦略室シニアアソシエイト。2024年よりITアナリストとして従事。先進的なIT技術や萌芽事例の調査を中心に活動中。

　専門はヒューマンAIインタラクションなど