"AIに仕事を奪われる暗黒の近未来を防ぐ方法"マイクロソフトCTOが語る4原則

※写真はイメージです - 写真＝iStock.com／Kinwun

人工知能（AI）の普及は、「AIに仕事を奪われる」という悲観論と「遊んで暮らせるようになる」という楽観論、どちらの未来をもたらすのか。マイクロソフト最高技術責任者（CTO）のケヴィン・スコット氏は、「テクノロジーは使い方次第でポジティブな将来をもたらす」とし、「4つの原則」を提案する――。

※本稿は、ケヴィン・スコット『マイクロソフトCTOが語る新AI新時代』（ハーパーコリンズ・ジャパン）の一部を再編集したものです。

■世界は明らかにいい方向に進んでいる

有名SF作家のウィリアム・ギブスンは、1982年にサイバースペースという言葉を生み出し、2年後に小説『ニューロマンサー』の中で使って、わたしを含め、多くの若手技術者に多大な影響を与えた。

「未来はそこにある。まだ等しく分け与えられていないだけだ」というギブソンの言葉は、いろいろな場所で引用されている。こうした未来と財産の不平等な分配は、いまも各所に残っている。先進国と途上国、都市と農村、資本を持つ者と持たない者、専門知識のある人間とない人間の格差は、今という時代を象徴する問題だ。

それでも大部分の人にとっては、世界は以前よりも暮らしやすい場所になっている。スティーブン・ピンカーは『21世紀の啓蒙』の中で、ハンス・ロスリングは『ファクトフルネス』の中で、世界は明らかにいいほうへ進んでいると主張している。実験して実証するのは難しい説だが、わたしも2019年現在、ヴァージニアの田舎で暮らす貧しい少年だったころ、あるいはコンピュータを初めて買った80年代初頭よりもいい暮らしをしている。

そのコンピュータ、ココ2は84年当時199.95ドルもしたから、わたしは買うためにいろんな雑用をこなし、誕生日やクリスマスにもらったピカピカの5ドル札も貯金した。当時の199.95ドルは、現在の価値では480ドルにもなる。今ならその値段の半分も出せば、4ギガのメモリと32ギガのハードディスクドライブ、11.6インチの高解像度カラータッチスクリーン、さらにココ2の890キロヘルツのプロセッサMC6890E（そう、キロヘルツだ！）をはるかに上回る性能のCPUを備えたノートPCを手に入れられる。

しかし残念なことに、今がどれだけ恵まれているかを分析したり、子どものころこうだったらよかったと妄想したりしても、今後の歩みを考える役にはほとんど立たない。未来が均等に分け与えられていないのは明らかだ。そして哲学的な互恵の精神でも、日曜学校で教わる黄金律でも呼び方はなんでもいいが、すばらしい未来を実現するには、助け合いの精神が大事なのも明らかだ。

その助け合いの精神が具体的に何を意味するかは、テーマの深さの点でも、広さの点でもここで扱える範囲を超えているし、地域社会や大学のキャンパス、あるいは選挙戦で話し合うべき事柄だろう。もっとも、この記事にできることがないわけではなく、AIが未来に果たす重要な役割のアイデアは提供できる。AIは、非常に難しい課題を解決するツールになる。それゆえ今後のAI開発は、誰もが自分の潜在能力をフルに発揮できるよう、等しく力を与えるものになることを原則と目標にしなければならない。

■マイクロソフトのAI開発の原則

マイクロソフトは、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、そしてアカウンタビリティ（説明責任）をAI開発の6つの原則に定めている。どれも熟慮を重ねて定めた大切な原則だ。

そして、わたし自身はエンジニアとして、また市民として、AI開発の原則には4つの柱があると考えている。

【原則1　誰もが使えるようにする】
AIは、個人や企業が創造性と生産性を高めるのに、もしくはとりわけ重大な社会課題を解決するのに使うプラットフォームにならなければいけない。

【原則2　誰もが開発に参加する】
われわれは、誰もがAIプラットフォームの開発に参加し、プラットフォームの進化と管理をテーマとした重要な議論に積極的に参加できる環境を作らなければならない。

【原則3　人のためになっているか常に監視する】
最先端のAIをさらに進化させ、新製品を作り出し、工程を自動化し、AIテクノロジーを活用したまったく新しいビジネスを立ち上げるうえで、われわれはすべてのエネルギーがすべての人を助けることに使われているかを常に監視しなければならない。

【原則4　被害が生じたら迅速に対応する】
われわれは、AI開発がよくない結果をもたらすことを防ぎ、可能であればその確率をゼロにしなければならない。またまずい事態が発生した際には、全力で、被害者を思いやりながら、悪影響を可能な限り迅速に緩和しなければならない。

こうした倫理的な枠組みや開発の原則を定めるうえでは、すべての人にその人なりの役割があることを理解しなくてはならない。

■「大いなる力には大いなる責任が伴う」

AIの未来に影響を及ぼせる能力が最も高く、それゆえ責任が最も大きいのがAIの専門家だろう。スパイダーマンのベンおじさんは「大いなる力には大いなる責任が伴う」と言ったが、専門家の働きがなければ今のようなAIが存在していなかったのは間違いないし、これだけ多くの専門家がクリエイティブなエネルギーと知識の多くをAIの進歩に注ぎ込んでこなかったら、これほどのペースで進化することもなかったはずだ。

こうした能力と責任を踏まえれば、AIの専門家は作っているものの細部にこだわりすぎたり、新たなブレイクスルーの科学と実践に没頭しすぎたり、手がけているプロジェクトの勢いに呑まれたりして、自分と自分の取り組みの土台にある人類という文脈への意識が薄れないようにしなければならない。

わたしも身をもって体験したことだが、AIプロジェクトを手がけていると複雑なタスクにばかり意識が行き、ほかのことが見えなくなりやすい。実際、専門家の多くは複雑なAIを理解する能力を追い求め、手に入ればそのことを祝福しがちだ。心理学者のミハイ・チクセントミハイが言うところのフロー状態の典型例で、その感覚はあまりに強烈だから、その状態に入ると時間の認識もゆがんでしまう。若手エンジニアだったころのわたしも、ノっているときに妻から電話があると、「あとちょっとだったのに、夕食まではまだじゅうぶん時間があるだろ」と苛つき、実はもう3時間過ぎていると妻に言われて気づくということがあった。

写真＝iStock.com／Eva-Katalin

※写真はイメージです - 写真＝iStock.com／Eva-Katalin

それでも、非常に複雑なタスクをこなすのに必要なフロー状態に入り、維持するのと同じくらい、自分の仕事を人類という文脈に置き、両者の関係がほかの人に与える影響を考えることが重要なのだ。AIの専門家にとっては、ふたつのバランスが大切になる。そのバランスを見いだせず、教訓に基づいた行動ができなければ、社会はわたしたちをAIの専門家とはみなさなくなるだろう。

バランスに基づいた行動とは、わたしが提唱したAI開発の4つの原則と自分たちの仕事とを協調させることを指す。受け取る以上の価値を生み出し、すべての人のことを考え、人類に利益をもたらす仕事をし、自分たちの仕事が起こす可能性のある破壊に対して責任を持たなくてはならない。具体的には、適切なタイミングでどんな研究を行っているかを発表し、再現可能な研究成果を示し、仕事をやりやすくするツールを開発するチャンスを見つけ出し、それからツールをオープンソース化するなどして、多くの人が活用できるようにする必要がある。

もちろん、どんな物事にも改善の余地はあるが、実はこうしたことの大部分は仕事のリズムとして、すでにAI開発の流れに組み込まれている。一方で専門家には、一般市民を啓発し、AIの性質をテーマにした話し合いに呼び込むという隠れた役割もある。AI分野が非常に複雑で、変化のペースもすさまじいことを考えれば、業界の情勢を一番先にはっきり把握し、今後数カ月、数年の新たな方向性をいち早く見通せるのは専門家だ。

わたしとしては、論文やオープンソース化を通じて自分の研究内容を専門家仲間に伝えるのはもちろん、取り組みの基本的な考え方を誰にでも理解できる、手の届くものにすることが義務だと信じている。最高に刺激的なブレイクスルーは、たいてい研究のエッセンスを誰にでもわかるシンプルな形にまとめる過程で発生する。アインシュタインは「天才とは複雑な物事をシンプルにできる人間を指す」と言った。

あなたがAIの専門家なら、どうか自分の声と力を使ってAIがみんなのためになるようにしてほしい。専門家がいなければAIは開発できない以上、あなたは自分で思う以上の力を持っている。AIの専門家は、知性を刺激し、個人的な満足感をもたらす仕事よりも、人類のためになる仕事に力を入れてほしい。

■優秀でも倫理的でない開発者は排除される

これからの10年で、IT技術者は程度の差こそあれ、誰もがAI開発者になる。AIは、問題解決の新たな方法を毎年教えてくれる開発者のテクニックのひとつになる。マイクロソフトでもこの大変動が全社的に起こり、AIの専門家の生み出すツールやテクニック、知識が民主化されて無数の開発者に行き渡り、公開したAI関連のツールとインフラが世界中の無数の開発者に使われ始めている。

開発者にはソフトウェアを安全で、安心で、手に入りやすく、高速で、安定性があり、使いやすいものにする責任があるが、AIによって責任はさらに増すだろう。

たとえばマイクロソフトでは、全員が1年に1回、ビジネススタンダードという講習を受ける必要がある。講習の項目のひとつに、自分の仕事が生み出す可能性がある法的、倫理的な問題をテーマにしたドラマ仕立ての動画の視聴がある。ストーリーには毎年調整が入り、AIが製品開発ツールとしてどんどん普及していることから、最近はAIの倫理に関するストーリーも追加した。

そこでは、天才的なアルゴリズムを組んだばかりのスターAI開発者が、廊下で仲間から祝福を受ける。アルゴリズムがデモで示した性能は、顧客の抱える問題を解決するアプローチとして、同僚がまさに探し求めていた画期的な手法だったからだ。

写真＝iStock.com／fizkes

※写真はイメージです - 写真＝iStock.com／fizkes

ところがそこで、開発者の元上司が、デモ結果があまりにも都合がよすぎることに疑念を抱き、みんなの前で開発者を問い詰める。モデルのトレーニングに使った顧客のデータはどこから手に入れたのか？　会社の法務や倫理に関する指針には従っていたのか？　徐々に雲行きが怪しくなり、開発者が墓穴を掘りつつあることを見ている側も察するなかで、本人もついに使用許可を得ていないデータを使ってトレーニングを施したことを打ち明け、バグを修正するためにもう一度使わせてほしいと訴える。しかし、データの不正利用という規定違反を犯した開発者に対して、仲間たちはノーと答える。この話のテーマは、道理に背いたAIは優れたAIではないということだ。

■AI倫理問題の中心は「データ利用」

業界でも、学界でも、倫理的なAIの定義はまだ検討が始まったばかりの段階だ。しかし機械学習システムが尽きることのないデータ欲を持っていることを考えれば、AI倫理の中心はデータに関するものになるだろう。

この原稿を書いている時点では、欧州連合(EU)の一般データ保護規制が、プライバシーを尊重した透明な顧客のデータの扱い、また顧客にデータ利用の主導権を与えることの重要性を考える優れた規制の枠組みになる。マイクロソフトは、顔の写っている写真から本人を特定できるAIシステムをサポートしている。しかし、AI技術がプライバシーを侵害したり、個人の自由を損なう使い方をされたりする可能性がある以上、政府にはAIの適切な使い方を示し、規制を定めた法律をぜひ成立させてほしいと思っている。

■製品に人間中心のAIを搭載しよう

善(よ)し悪(あ)しは別として、AIの性能アップのペースは、民主的な選挙で選ばれた政治家グループがこの問題に対処し、適切な規制を定めていくペースを上回る可能性が高い。たとえば、ユーザーの注意を惹くことに最適化されたAIの副作用が誰の目にも明らかになり、業界や規制当局が対応の必要性を感じるようになるまでには15年以上がかかった。

しかし、次はもっとうまくやれるはずだ。

それには、高い意識で正しいことをし、何が正しいかを繰り返し考え、議論する必要がある。医師でも、弁護士でも、エンジニアでも教師でも、多くの仕事には正式な倫理規定がある。たとえば全米教育協会の倫理網領では、「生徒に対する職責を満たすなかで、教育者は生徒の成長に関わる学習内容を意図的に抑圧したり、ゆがめたりしてはならない」といった責任が定められている。AIで言うなら、技術者には、自分たちの職業と雇用主、株主、製品とサービスを提供する権限、同僚、製品のユーザー、そして公共の善に対する責任がある。

マイクロソフトでは、AIエンジニアリングとリサーチの倫理を扱う“AETHER（イーサー）”という委員会を立ち上げ、上級幹部に助言している。委員会は複数分野の専門家から成る部門横断型の集団で、偏見と公平性、AIエンジニアリングの実践、人とAIの関係と協力、わかりやすさと説明、安定性と安全性、AIのきわどい使い方という6つのエリアを重点的にチェックする。AIのパイオニアであるエリック・ホーヴィッツを長とする委員会の活動は、会社がAIに関する大きな決定を下す際の重要な判断材料になっている。しかも、委員会のメンバーは社外の広いAIコミュニティーとも関わりを持っていて、パートナーシップオンAIや、スタンフォード大学・人間中心人工知能研究所といった組織の設立にも携わっている。

そして、倫理規定に関する議論に参加し、AI倫理やAI規制をめぐる情勢の変化にアンテナを張っておくことに加えて、開発者は、日々の判断の基準となる常識を養い、自分の仕事がルールをバランスよく満たすようにする必要がある。

ケヴィン・スコット『マイクロソフトCTOが語る新AI新時代』（ハーパーコリンズ・ジャパン）

ここでも、4つの柱が常識を育むいい出発点になるだろう。自分自身や自分の製品、自分の会社のためといった枠を外れて、できるだけ多くの人にとって価値のあるAIプラットフォームを使い、強化し、可能であれば構築するのだ。製品が意図せぬ偏見を持たないようにし、製品とユーザーとのやりとりにAIがどう関わっているかの情報をわかりやすく示そう。製品に人間中心のAIを搭載しよう。そして、製品が及ぼしうる悪影響に思いをめぐらせ、その影響を和らげる方法を考えよう。

人々の生活に大きな影響を及ぼすものの作り手として、開発者は最前線で日々、判断を求められる。自分の仕事を人々を操るものにするのか、それとも力を与えるものにするのか。ゼロサムゲームの範疇で、生み出す以上の価値を周囲から奪うものを作るのか、それともノンゼロサムゲームに切り替えてパイのサイズを大きくし、みんなに恩恵をもたらすものを作るのか。自分の作ったものを使って人々のためになることをするという、開発者の特権と責務に見合った仕事をできているか。どうか賢明な判断をしてほしい。

----------

ケヴィン・スコット マイクロソフト チーフ テクノロジ オフィサー（CTO）兼エグゼクティブ バイスプレジデント
モバイル広告のAdMobでテクノロジー・チームの立ち上げを指揮し、業界で頭角を現す。AdMobが2010年に買収されたのを機にGoogleに移籍。GoogleやLinkedInで役員や技術職を歴任し、現職に至る。Google Founder's AwardやIntel PhD Fellowship、ACM Recognition of Service Awardなど輝かしい受賞歴を誇る。また現在は、スタートアップ企業顧問、エンジェル投資家、非営利団体Behind the Techの創設者、Anita Borg Instituteの名誉理事などの顔も持つ。ヴァージニア州の田舎町出身で、妻と2人の子供とともにカリフォルニア州ロスガトス在住。

----------

（マイクロソフト チーフ テクノロジ オフィサー（CTO）兼エグゼクティブ バイスプレジデント ケヴィン・スコット）