フェイスブックの「自殺予防・通報」機能に賛否両論 - 冷泉彰彦 プリンストン発 日本／アメリカ 新時代

＜フェイスブックが17年から実施している自殺予防・通報のシステムには、実際に救命ができているという評価の反面、プライバシー保護が十分でないとか判断の精度が低すぎるといった反対意見も出ている＞

フェイスブックは、2017年9月10日の「WHO（世界保健機関）の自殺予防デー」に自殺防止のキャンペーンを本格化すると告知。この前後から、自殺に関する投稿内容のモニターを開始しました。ザッカバーグCEOによれば、この1年間で「3500人への支援」ができたとしています。

さらに、2018年11月にはフェイスブックは、投稿内容のなかから「自身を傷つける緊急性のあるリスク」を発見するための、AIによる自動巡回についてより詳しい発表をしました。投稿、コメントなど文字情報だけでなく、動画（ライブも含む）も対象として自動巡回を行い、検知された場合に、警察の自殺予防セクションなどに通報がされるシステムです。

この発表の後、米国内では1カ月あたり100件の検知という実績が上がっているという報道もありますが、その一方で賛否両論が起きています。

まず賛成意見としては、人命最優先という価値観から、具体的な救命ができているという考え方があります。各国・各州の警察当局からは、そのような声がありますし、精神病医の中にはそのような見解があると報じられています。また、特に銃社会であるアメリカの場合は、自殺衝動から乱射事件を起こして無関係な多くの人を「巻き添え」にするケースがあることから、その「予兆」が自動的に発見できることへの評価もあります。

その一方で、反対意見も多くなっています。

一番多く指摘を受けているのは、プライバシーの問題です。メンタルヘルスという、人間にとって最もプライベートな問題を、本人の了承なしに警察当局など第三者に渡すということは、例えば欧州では2018年5月に実施された「EU一般データ保護規則（GDPR）」に違反します。従って、フェイスブックは、この自殺防止モニターについてはEU域内では実施していないとしています。

この点では、アメリカ国内でも批判があります。例えば、一般的に医療関連の企業や団体に要求されるプライバシー管理の水準と比較して、フェイスブックの対応は緩すぎるというのです。少なくとも、医療機関の場合、メンタルヘルスの問題は、本人の同意なく第三者に渡すべきではないという規則が徹底しているからです。