｢監視カメラで全乗客の顔を判別｣JR東日本の出所者検知システムはどこに問題があったのか

※写真はイメージです - 写真＝iStock.com／1550539

JR東日本が駅構内に設置した顔認識カメラが9月、物議を呼び運用が中止された。成城大学の指宿信教授は「AIによる顔認識の正確性は高くなく、海外では誤認逮捕も起きている。顔認識技術の公共空間における利用の是非や、規制枠組みについては、もっと議論が必要だ」という——。

■「時期尚早」で運用中止となったJR東日本の顔認識システム

2021年9月21日、JR東日本は駅構内での顔認識技術を利用して刑務所出所者、仮出所者などの顔写真との照合する検知システムの稼働を中止すると発表した。

JR東は導入当初、JR東や乗客が被害者となった重大犯罪で服役した人や指名手配中の容疑者、うろつき行動を取るような不審者をターゲットすると発表していたが、出所者の顔情報を含んでいることは公表していなかった。

日本では顔認識技術を利用した公共空間での監視カメラの運用を規制する法令はない。従来、全国に設置されてきた監視カメラは防犯や犯罪の証拠としての利用という目的で運用されているが、これらについても自治体レベルの規制はあっても全国的な規制は存在しなかった。

JR東は「（公共空間での顔認識技術利用の）明確なルールがなく、時期尚早と判断した」とコメントしているが、今回は海外の規制動向などを含めた報道によって中止に追い込まれたもので、日本におけるルール整備の遅れを露呈することとなった。

顔認識技術とはAIを利用して初めて実施可能なものであり、従来型の監視カメラはもっぱら記録と犯罪抑止が狙いであるため設置目的も技術内容も異なっている。膨大な顔情報データとカメラに映った人物の顔情報との照合を瞬時にコンピュータが行う新たな人物同定技術だ。

本稿では、今回問題とされた顔認識技術の公共空間における利用の是非や、規制枠組みを検討したい。

なお、本稿では人物同定型の技術を「顔認識」と呼び、しばしば混同される本人認証型の技術「顔認証」と区別している。

JR東のシステムでは利用者が駅構内に立ち入る際に同社から“認証”されていたわけではなく、何らかのデータと利用者の顔情報が照合・識別されていた。つまり、その“何らかのデータ”はどこから集められ、何のために使われ、そして誰がそれを決めて誰が責任を持つか、といったことが今回の騒動で問われている。

■肖像権で保護された人の顔と顔情報

日本では人の顔は「肖像権」で保護されている。50年以上前の最高裁でこの権利が確立され、各種の肖像権侵害裁判の起点となった。最高裁は、「個人の私生活上の自由の一つとして、何人も、その承諾なしに、みだりにその容ぼう・姿態を撮影されない自由を有する」とその意味を明らかにしている。

この肖像権が侵害されるかどうかは、「被撮影者の社会的地位、撮影された被撮影者の活動内容、撮影の場所、撮影の目的、撮影の態様、撮影の必要性等を総合考慮して、被撮影者の上記人格的利益の侵害が社会生活上受忍すべき限度を超えるものといえるかどうか」で総合的に判断されることになっている。

一方、顔情報は、個人を識別する“符合”として法令上個人情報に位置付けられている。顔情報とは「顔の骨格及び皮膚の色並びに目、鼻、口その他の顔の部位の位置及び形状によって定まる容貌」（個人情報保護法施行令第一条一項ロ）であり、こうした情報を取得する場合には利用目的を特定して公表・通知することが義務付けられている。JR東が構内に看板を設置して告知したのはこの義務を受けてのことだ。

■出所者を狙い撃ちすることは再犯防止の方向性と矛盾

肖像権侵害の場合は、出版されたり何かに使用されるのでなければ人は気づかない。そのため侵害行為については一般に公表後の事後的救済で対処される。

一方、顔情報収集の場合は、収集や識別のプロセスが本人に気づかれないまま行われるため、取得後規制が働かない。よって取得時の事前規制が必要になる。それが上記の公表・通知の義務である。

ただし、公共空間での顔識別システムの利用については、監視カメラの設置と違ってまだ社会的合意はできていないといえよう。だから、JR東日本も今回の取り組みを断念したのだ。

特に今回は、対象データの一部を出所者や仮出所者の顔情報としていたとされ、個人情報の保護の観点で問題があるし（刑事事件に関する手続が行われたことを示す情報は「要配慮個人情報」として保護の対象とされている。個人情報保護法施行令第２条４項参照）、現在政府が進めている罪を犯した人の更生を後押しする「再犯防止推進法」（2016年成立）の方向性とも矛盾することとなる。

写真＝iStock.com／Rattankun Thongbun

※写真はイメージです - 写真＝iStock.com／Rattankun Thongbun

そもそも、前科がある人を公共空間で識別するという発想は、昔の日本で獄に入れられた人に入れ墨を刻印した歴史を思い出させる。現代版の“デジタル入れ墨”と言ってもいいかもしれない。

そのような差別的な監視システムをこの国の社会で本当に必要とするのか、徹底的な議論を尽くさなければならない。公共空間でどんなターゲットを選定するのか、監視する目的や必要性があるかを明らかにしないまま、一企業であるJR東日本だけの判断でこうしたシステムが稼働できるような現状は、個人情報（顔情報）の保護の観点に加えて更生を支援する社会のあり方との関係でも問題が大きすぎよう。

■AIによる顔認識の正確性は決して高くない

そもそも、AIによる顔認識技術の正確性はどうだろうか。

米国人工知能学会で行われた報告によればアマゾンの顔認識ソフトは白人男性の性別は見分けられたのに、アフリカ系や肌がダークな女性の場合、31％も男性と判別されたという。マイクロソフトの同種ソフトで誤認率は1.5％、IBMは17％だったとする。AIによる認識レベルにはまだまだ課題が多いとされ、特定の人種で誤識別が生じやすいといわれる。

実際、米国では顔認識システムを用いて検挙した後に誤認逮捕だったことが判明した事例が相次いでいる。アフリカ系のウィリアムズ氏は、2020年1月に高級時計店での窃盗の容疑でデトロイト市の自宅で逮捕された。被害を記録した防犯カメラ映像を基に顔認識システムが同氏を犯人と同定したからだ。

ミシガン州警察が4900万件の顔情報と照合した結果、ウィリアムズ氏の運転免許証の顔写真と合致したという。デトロイト市ではその後も同様の誤認逮捕が続いている。ウィリアムズ氏は2021年4月、デトロイト市警を相手取って訴訟を起こした。

民間企業が捜査機関に顔認識のためにデータを提供したとして訴訟も起きている。アップル社とセキュリティ会社は、2018年11月に起きたアップルストアでの窃盗事件について逮捕に繋がる顔情報を提供し誤認逮捕に繋がったとして、アフリカ系の男性に訴えられた。2020年2月に連邦地裁はこの訴えを退けたが、複数の訴訟が継続中である。

写真＝iStock.com／FOTOKITA

※写真はイメージです - 写真＝iStock.com／FOTOKITA

こうした誤認事例や問題点の指摘を受け、欧米では導入した顔認識カメラの使用を中止したり、導入を禁止したりする自治体が相次いでいる。例えば、米サンフランシスコ市議会は2019年5月に警察などの行政機関による顔認識技術利用を禁止する条例案を可決している。2020年6月にはアマゾンやマイクロソフトが顔認識技術を米国の警察には販売しないという方針を発表している。

日本でもこの分野で国内有数の企業であるNECは本人同意のない顔情報の登録するシステムには技術提供をしないとした。

■顔認識カメラを巡る世界の動向

最近の世界の顔認識カメラの利用動向に関するニュースを見ておこう。

たとえば、中国政府はチベット自治区やウイグル自治区でAIを活用した顔認識カメラの配備を進めて監視体制を整えていることが報じられた。国内に2億台もの監視カメラを有する中国だが、2018年4月に中国江西省で開かれたコンサートで入り口に監視カメラが設置され、逃亡犯の顔情報との識別が実施され、AIが照合、次々と逮捕にこぎ着けたという。

ロシア政府もコロナ対策を名目として顔認識技術付きのカメラで外出禁止措置の遵守を確認する計画を進めていると報じられた。モスクワ市内にはすでに約18万台の監視カメラが設置されているとされ、犯罪やテロ捜査という目的から住民監視へとその目的が拡大されることになった。ロシアの人権団体は、反政権運動指導者の釈放要求デモの参加者を拘束する目的で治安当局が監視カメラの顔認識機能を用いていると発表している。

■顔認識技術を規制する欧米諸国

このように、中露が犯罪防止の目的を超えて顔認識カメラを運用している一方、欧米各国では、少なくとも公共空間での顔認識技術の利用は、顔情報という個人情報の保護という観点から問題が大きいという立場を取っている。

世界有数の監視カメラ大国として知られるイギリスでは2020年8月、裁判所から、個人の同意なく顔情報を収集するライブ顔認識技術利用が欧州人権規約に違反するとの判決が下された。

この判決を受けて英国政府データ保護規制局は2021年6月、公共空間でのライブ顔認識技術の使用について規制当局が使用の合法的な目的を確立し、法的根拠を明らかにし、手続条件を把握し、条件に合致しているかどうかを確認し、必要性やターゲットの選定について運用の合理性を把握しなければならないとした。

アメリカでも、2021年6月に『顔認識技術：連邦法執行機関はプライバシーと他のリスクに適切なアセスメントをせよ』という報告書の中で、4000万人の顔写真を保有しているFBIを含めた12の連邦政府機関に対して、技術の利用実績を追跡し、その利用について評価制度を導入すべきだと勧告している。

■不適切な顔認識ステムの運用で制裁金を科すケースも

EUでは一般データ保護規則（GDPR）というガイドラインを作成し、AIを使った個人情報の収集を規制する動きが進んでいる。GDPRには違反行為に対して制裁金を科すことも盛り込まれており、非常にハードな仕組みとなっている。

実際、スウェーデンでは、2021年2月に警察がアメリカのIT企業「クリアビュー社」のAIを活用した顔認識システムの使用にあたって個人情報を適切に取り扱う手続を怠るコンプライアンス違反があったとして、およそ3000万円の制裁金を科され、データ主体に対して同社にデータが提供された事実を告知することが義務付けられた。

また7月には、スペインのデータ保護機関が顔認識システムを利用していたスーパーマーケットチェーンに対して、GDPR違反があったとしておよそ3億円の制裁金を課している。

■公共空間で見られること＝顔情報が取得されることなのか

現状、私たちの顔情報は知らないうちに収集され、その数はとどまることがない。ある企業はすでに国民の500万人分の顔情報を集積したという。

そもそもSNS人口はとどまることを知らず、多くの人が自身や友人の顔写真を公開モードで晒していることから、ネット上で顔情報は容易に収集可能だ。そうした利用実態を考えると、人々に顔情報を取得されることに抵抗がないのも無理はないのかもしれない。

JR東海は今年の11月から来年の1月まで顔情報を用いたチケットレス化の実証実験を行うことを発表しており、こうした顔認証技術に基づくサービスの提供は今後も増えると予想される。

そのためか、顔情報の収集や識別が行われても、公共空間を移動している以上は他者から“見られている”ことと“顔情報が取得される”ことは同質なのではないかとか、顔情報の取得に抵抗するのは“犯罪を考えている悪い人たち”であって善人にとっては安全な社会になるから問題ない、といった善意の考えも聞かれる。

写真＝iStock.com／metamorworks

※写真はイメージです - 写真＝iStock.com／metamorworks

こうした顔情報取得規制に対する異論について立ち入って検討しておこう。

【異論その1：公共空間だからよいのでは？】

他人から隠しておきたい情報と違って、公共空間では他人に顔を見られるのが普通であるから、自宅の中やカバンの中身のように外から見られない場所や領域ほどプライバシー保護の必要は高くはないのではないかとの意見がある。

確かに従来、公共空間では個人情報やプライバシーの保護の必要性は乏しいという考え方が強かった。いわゆる“公私二元論”である。これまでも肖像権侵害訴訟などでそうした区分が検討の要素にされてきたし、捜査機関が被疑者の映像を公共空間で撮影したことの正当化根拠としてこの二元論が使われてきた。

だが、この公私二元論を否定する最高裁判決が2017年にあった。警察がGPS発信装置を捜査対象者に無断で取り付けて位置情報を探索していた事件で、最高裁は「このような捜査手法は、個人の行動を継続的、網羅的に把握することを必然的に伴うから、個人のプライバシーを侵害し得るもの」として警察側のプライバシーの侵害を認定したのだ。

■最高裁は公共空間でもプライバシーの侵害を認定

結論として最高裁は、道路上のような公共空間における移動においても、“私的領域”が侵害されうると考えたのだ。つまり、公私二元論に終わりが告げられることとなった。15人の裁判官による全員一致の意見であり、反対意見が一人も付かないという珍しいケースだった。公共空間でも個人情報の収集は規制される時代になったのだ。

この例からわかるように、公共空間だからといって顔情報を取得しても問題ないというのは誤りである。これを許容すると、最高裁が指摘した「私的領域への侵入」と同じような権利侵害となるだろう。

■「悪いことをしないから気にしない」は通用するか

【異論その2：監視は安全を守るよい仕組みでは？】

もう一つの異論としてよく聞くのが、監視（防犯）カメラで顔情報が記録されたとしても「悪いことをしているわけではないから気にしない」「悪いことをしたい人が気にするのではないか」といった善意の意見だ。実際、犯罪が多発する国々では顔認識技術での監視で安全が向上し支持が集まっている。

安全が確保されていない社会では肯定的評価が多いのは肯けよう。だが、先進国ではこうした評価とは異なった考え方から顔認識問題を捉えようとしている。

プライバシー研究の第一人者で米国ジョージタウン大学教授のダニエル・ソロブ氏は、“監視されても気にしない”という善意の捉え方について2つ大事なポイントを指摘している。

ひとつは、監視が人々の行動や表現を萎縮させる危険性が高いということだ。その危険性は、ある市民の行動や表現が政治的なメッセージを帯びている場合に特に顕著になると考えられる。

権力者は必ず自分たちに対する異議申し立てを行う者たちを把握しておきたい誘惑に駆られる。

例えば、東ドイツには隣人を監視する仕組み（通称「シュタージ」）が体制の中に組み込まれていた。社会主義体制が崩壊した後、この仕組みに携わっていた人々が報復されたり社会的に差別されたりしたことは有名である。

つまり、監視とはあなたと監視者の間の問題ではなく、監視者が好まないような人々と監視者の間の問題なのだ。だから、監視されても自分は困らないという善意の考え方は、監視の対象となる可能性のある市民とそうでない市民の分断に繋がる。

国家安全法を導入し反政府的言論を取り締まっている香港では、市民による通報が10万件も寄せられているという。香港市民の分断が始まっているわけだ。これは監視したい側には嬉しい状態と言えるだろう。

監視技術や顔認証問題を研究する杏林大学の尾崎愛美氏も、こうした点をフェアネス（公平性）という観点から捉えておく必要を指摘している。監視問題はプライバシーと対置されることが多かったが、公平性という民主主義社会で重要な価値が侵されることに気づくべきだろう。

■監視活動が“監視”されなくなる

ふたつは、監視が往々にして「野放し」となる危険性がある点だ。監視そのものが自己目的化してしまい、監視対象の選び方が適切か、記録はいつまで保存されるのか、どんな目的で利用されるのかなど、全く規制されないままとなる。

全体主義国家が監視を好むのは珍しくないが、その恐ろしさは監視そのものよりも監視活動が“監視”されないことだ。監視システムを持つとき、その説明責任と透明性は不可分でなければならない。第一の点とも関係するが、誰が監視の対象となっているか、そこに差別性や政治的な意図などが隠されていないかを確認できるようにすべきだ。

日本でも、中国のように街の隅々にまで顔認識技術を組み込んだカメラを設置した社会を構築するのかどうかを考える前に、ソロブ氏の問いかけを振り返っておく必要があるだろう。

■顔情報の収集とプライバシー

すでに顔認識システムを採用している先進国の動向をまとめると、次のようなことがわかる。

①顔認識技術が個人情報保護の観点から規制されていること
②顔情報の収集に対して、監督・調査・評価権限を持った独立した機関やメカニズムが存在していること
③顔認識技術の内容や収集利用の目的・方法、収集されているデータの性質などが外部から評価されていること
④顔情報収集に伴うプライバシー保護法令の遵守状態や、侵害の危険性などのリスク評価がされていること
⑤顔情報収集の体制や手続の妥当性を審査する事前規制と収集活動を監督する事後規制が推奨されていること

写真＝iStock.com／martinwimmer

※写真はイメージです - 写真＝iStock.com／martinwimmer

■日本は個人の情報をコントロールする権利作りが遅れている

では日本で今後、顔認識技術を公共空間で利用するにあたりどのような仕組みを作っておけばよいのか。

第一は、顔情報収集段階の同意・承諾プロセスだ。指紋やDNAとは違って顔情報は知らないまま容易に収集することができる。公共空間での識別時だけではなく、元データの顔情報収集の場合にも必要だ。どんな目的に使われるかも知らないままに自身の顔情報がデータベースの一つのピースになることを選ぶかどうか、情報を取得される個人が決定権を持つべきだ。

第二は、顔情報認識技術の利用目的や利用方法を公表し、第三者の評価を仰ぐことだ。説明責任を果たしていない限りこうした技術の利用は許されないとしておくべきだ。

第三は、第三者による評価を個別のシステムや設置場所ごとに用意することはコスト的に割に合わない。独立した中立的で技術に通じた全国的な審査機関を設けて、顔認識技術の公共空間利用について、用いられるアルゴリズムの正確性や利用目的について事前チェックを行い、運用実態に対しても検証が不可欠だ。

AIについて憲法学の立場から発信を続ける慶應義塾大学の山本龍彦教授は、個人が自身の情報をコントロールする権利を保障できるような制度作りが日本で遅れている点を指摘している。そうした権利を「情報自己決定権」と言い、その確立が急務である。こうした権利から出発することで、顔情報の利用について包括的な規制の枠組みを構築していくことが望ましいだろう。

----------

指宿 信（いぶすき・まこと）
成城大学法学部教授
鹿児島大学法文学部教授、立命館大学法科大学院教授などを経て2009年より現職。刑事訴訟法、法情報学を専門とする。近著として、編集委員『刑事司法を考える・全7巻』（岩波書店）、編著『GPS捜査とプライバシー保護』（現代人文社）など。元・情報ネットワーク法学会副理事長、現・法と心理学会理事長。近刊として、『電脳空間と刑事手続』（成文堂・2022）を予定。

----------

（成城大学法学部教授 指宿 信）