＜フェイスブックが17年から実施している自殺予防・通報のシステムには、実際に救命ができているという評価の反面、プライバシー保護が十分でないとか判断の精度が低すぎるといった反対意見も出ている＞
フェイスブックは、2017年9月10日の「WHO（世界保健機関）の自殺予防デー」に自殺防止のキャンペーンを本格化すると告知。この前後から、自殺に関する投稿内容のモニターを開始しました。ザッカバーグCEOによれば、この1年間で「3500人への支援」ができたとしています。
さらに、2018年11月にはフェイスブックは、投稿内容のなかから「自身を傷つける緊急性のあるリスク」を発見するための、AIによる自動巡回についてより詳しい発表をしました。投稿、コメントなど文字情報だけでなく、動画（ライブも含む）も対象として自動巡回を行い、検知された場合に、警察の自殺予防セクションなどに通報がされるシステムです。
この発表の後、米国内では1カ月あたり100件の検知という実績が上がっているという報道もありますが、その一方で賛否両論が起きています。
まず賛成意見としては、人命最優先という価値観から、具体的な救命ができているという考え方があります。各国・各州の警察当局からは、そのような声がありますし、精神病医の中にはそのような見解があると報じられています。また、特に銃社会であるアメリカの場合は、自殺衝動から乱射事件を起こして無関係な多くの人を「巻き添え」にするケースがあることから、その「予兆」が自動的に発見できることへの評価もあります。
その一方で、反対意見も多くなっています。
一番多く指摘を受けているのは、プライバシーの問題です。メンタルヘルスという、人間にとって最もプライベートな問題を、本人の了承なしに警察当局など第三者に渡すということは、例えば欧州では2018年5月に実施された「EU一般データ保護規則（GDPR）」に違反します。従って、フェイスブックは、この自殺防止モニターについてはEU域内では実施していないとしています。
この点では、アメリカ国内でも批判があります。例えば、一般的に医療関連の企業や団体に要求されるプライバシー管理の水準と比較して、フェイスブックの対応は緩すぎるというのです。少なくとも、医療機関の場合、メンタルヘルスの問題は、本人の同意なく第三者に渡すべきではないという規則が徹底しているからです。
精神科医などの専門家からは、フェイスブックのアルゴリズムが「粗雑にすぎる」という批判が出ています。例えば、「とても悲しい」とか「自分はひとりぼっち」という字句を見て危険というフラグを立て、それに呼応するような内容が発見できると自動的に警告が出るというのは「まるでブラックボックスに等しい」というのです。つまり、人間の自殺意思というのは、もっと複雑な前後の文脈を見て判断しなくてはならない中で、判断の精度が低すぎるという意見です。
これに対してフェイスブックは、AIによる統計処理だけでなく、実際に警告を出す際には専門家による監視がされるとしていますが、その「専門家」というのは、医師免許とか学位という本格的なものではなく、内部研修を受けたスタッフという意味合いのようで、この点に関しても批判があります。
また本人だけでなく、友人のコメントもチェックの対象となっており、「悲しい」という本人の書き込みに対して「私が助けてあげる」とか「大丈夫」といった周囲の反応もAIはチェックして、全体的な会話が一定のパターンに入ると自動的に警告をするというのですが、自殺の危険があるという本人だけでなく、周囲の発言までモニターされることへの抵抗感も多く聞かれます。
フェイスブックに関しては、2016年の中間選挙において政治的な意図を持った団体や人間が、加入者のプライバシーにアクセスできたことで大きな批判を浴び、そのプライバシー情報の管理体制が厳しい批判にさらされています。現在の批判は、政治的な利用から発展して、フェイスブックを含む多くのネット関連企業が、お互いにプライバシー情報を共有していた問題に移っていますが、利用者の怒りはさらに増大しています。
そんな中で、このAIによる自殺リスクの警告システムを成功させることで、フェイスブックとしては「プライバシー情報を利用することが、公益となる」という事例を作りたいという意図も感じられます。
この自殺リスク検出システムですが、フェイスブックでは日本でも稼働されていると発表しています。日本の場合は、自殺による死亡率が高いことから有効性への期待がある一方で、日本語のニュアンスを読み取ることの難しさについては、相当にハードルが高そうにも思われます。また、プライバシーへの感覚ということでは、アメリカとも欧州ともまた違った厳しさと緩さとがあります。
すでに稼働しているということですが、日本での運用については、もっと透明性を高め、しっかり賛否両論のディスカッションをすると同時に、医療機関や警察などとの連携をきちんと制度化することも必要と思います。
【お知らせ】ニューズウィーク日本版メルマガのご登録を！気になる北朝鮮問題の動向から英国ロイヤルファミリーの話題まで、世界の動きをウイークデーの朝にお届けします。ご登録（無料）はこちらから=>>
フェイスブックは、2017年9月10日の「WHO（世界保健機関）の自殺予防デー」に自殺防止のキャンペーンを本格化すると告知。この前後から、自殺に関する投稿内容のモニターを開始しました。ザッカバーグCEOによれば、この1年間で「3500人への支援」ができたとしています。
さらに、2018年11月にはフェイスブックは、投稿内容のなかから「自身を傷つける緊急性のあるリスク」を発見するための、AIによる自動巡回についてより詳しい発表をしました。投稿、コメントなど文字情報だけでなく、動画（ライブも含む）も対象として自動巡回を行い、検知された場合に、警察の自殺予防セクションなどに通報がされるシステムです。
この発表の後、米国内では1カ月あたり100件の検知という実績が上がっているという報道もありますが、その一方で賛否両論が起きています。
まず賛成意見としては、人命最優先という価値観から、具体的な救命ができているという考え方があります。各国・各州の警察当局からは、そのような声がありますし、精神病医の中にはそのような見解があると報じられています。また、特に銃社会であるアメリカの場合は、自殺衝動から乱射事件を起こして無関係な多くの人を「巻き添え」にするケースがあることから、その「予兆」が自動的に発見できることへの評価もあります。
その一方で、反対意見も多くなっています。
一番多く指摘を受けているのは、プライバシーの問題です。メンタルヘルスという、人間にとって最もプライベートな問題を、本人の了承なしに警察当局など第三者に渡すということは、例えば欧州では2018年5月に実施された「EU一般データ保護規則（GDPR）」に違反します。従って、フェイスブックは、この自殺防止モニターについてはEU域内では実施していないとしています。
この点では、アメリカ国内でも批判があります。例えば、一般的に医療関連の企業や団体に要求されるプライバシー管理の水準と比較して、フェイスブックの対応は緩すぎるというのです。少なくとも、医療機関の場合、メンタルヘルスの問題は、本人の同意なく第三者に渡すべきではないという規則が徹底しているからです。
精神科医などの専門家からは、フェイスブックのアルゴリズムが「粗雑にすぎる」という批判が出ています。例えば、「とても悲しい」とか「自分はひとりぼっち」という字句を見て危険というフラグを立て、それに呼応するような内容が発見できると自動的に警告が出るというのは「まるでブラックボックスに等しい」というのです。つまり、人間の自殺意思というのは、もっと複雑な前後の文脈を見て判断しなくてはならない中で、判断の精度が低すぎるという意見です。
これに対してフェイスブックは、AIによる統計処理だけでなく、実際に警告を出す際には専門家による監視がされるとしていますが、その「専門家」というのは、医師免許とか学位という本格的なものではなく、内部研修を受けたスタッフという意味合いのようで、この点に関しても批判があります。
また本人だけでなく、友人のコメントもチェックの対象となっており、「悲しい」という本人の書き込みに対して「私が助けてあげる」とか「大丈夫」といった周囲の反応もAIはチェックして、全体的な会話が一定のパターンに入ると自動的に警告をするというのですが、自殺の危険があるという本人だけでなく、周囲の発言までモニターされることへの抵抗感も多く聞かれます。
フェイスブックに関しては、2016年の中間選挙において政治的な意図を持った団体や人間が、加入者のプライバシーにアクセスできたことで大きな批判を浴び、そのプライバシー情報の管理体制が厳しい批判にさらされています。現在の批判は、政治的な利用から発展して、フェイスブックを含む多くのネット関連企業が、お互いにプライバシー情報を共有していた問題に移っていますが、利用者の怒りはさらに増大しています。
そんな中で、このAIによる自殺リスクの警告システムを成功させることで、フェイスブックとしては「プライバシー情報を利用することが、公益となる」という事例を作りたいという意図も感じられます。
この自殺リスク検出システムですが、フェイスブックでは日本でも稼働されていると発表しています。日本の場合は、自殺による死亡率が高いことから有効性への期待がある一方で、日本語のニュアンスを読み取ることの難しさについては、相当にハードルが高そうにも思われます。また、プライバシーへの感覚ということでは、アメリカとも欧州ともまた違った厳しさと緩さとがあります。
すでに稼働しているということですが、日本での運用については、もっと透明性を高め、しっかり賛否両論のディスカッションをすると同時に、医療機関や警察などとの連携をきちんと制度化することも必要と思います。
【お知らせ】ニューズウィーク日本版メルマガのご登録を！気になる北朝鮮問題の動向から英国ロイヤルファミリーの話題まで、世界の動きをウイークデーの朝にお届けします。ご登録（無料）はこちらから=>>