フェイスブックの「自殺予防・通報」機能に賛否両論 - 冷泉彰彦 プリンストン発 日本／アメリカ 新時代

精神科医などの専門家からは、フェイスブックのアルゴリズムが「粗雑にすぎる」という批判が出ています。例えば、「とても悲しい」とか「自分はひとりぼっち」という字句を見て危険というフラグを立て、それに呼応するような内容が発見できると自動的に警告が出るというのは「まるでブラックボックスに等しい」というのです。つまり、人間の自殺意思というのは、もっと複雑な前後の文脈を見て判断しなくてはならない中で、判断の精度が低すぎるという意見です。



これに対してフェイスブックは、AIによる統計処理だけでなく、実際に警告を出す際には専門家による監視がされるとしていますが、その「専門家」というのは、医師免許とか学位という本格的なものではなく、内部研修を受けたスタッフという意味合いのようで、この点に関しても批判があります。

また本人だけでなく、友人のコメントもチェックの対象となっており、「悲しい」という本人の書き込みに対して「私が助けてあげる」とか「大丈夫」といった周囲の反応もAIはチェックして、全体的な会話が一定のパターンに入ると自動的に警告をするというのですが、自殺の危険があるという本人だけでなく、周囲の発言までモニターされることへの抵抗感も多く聞かれます。

フェイスブックに関しては、2016年の中間選挙において政治的な意図を持った団体や人間が、加入者のプライバシーにアクセスできたことで大きな批判を浴び、そのプライバシー情報の管理体制が厳しい批判にさらされています。現在の批判は、政治的な利用から発展して、フェイスブックを含む多くのネット関連企業が、お互いにプライバシー情報を共有していた問題に移っていますが、利用者の怒りはさらに増大しています。

そんな中で、このAIによる自殺リスクの警告システムを成功させることで、フェイスブックとしては「プライバシー情報を利用することが、公益となる」という事例を作りたいという意図も感じられます。

この自殺リスク検出システムですが、フェイスブックでは日本でも稼働されていると発表しています。日本の場合は、自殺による死亡率が高いことから有効性への期待がある一方で、日本語のニュアンスを読み取ることの難しさについては、相当にハードルが高そうにも思われます。また、プライバシーへの感覚ということでは、アメリカとも欧州ともまた違った厳しさと緩さとがあります。

すでに稼働しているということですが、日本での運用については、もっと透明性を高め、しっかり賛否両論のディスカッションをすると同時に、医療機関や警察などとの連携をきちんと制度化することも必要と思います。

【お知らせ】ニューズウィーク日本版メルマガのご登録を！気になる北朝鮮問題の動向から英国ロイヤルファミリーの話題まで、世界の動きをウイークデーの朝にお届けします。ご登録（無料）はこちらから=>>