MITメディアラボ所長 伊藤穰一が考える「社会参加型人工知能 」
ニューズウィーク日本版 / 2016年7月7日 16時50分
第二の方法は、機械を世間によって訓練させること(社会を参加させる)だ----人間が、機械が自分たちの、おおむねおそらくは、多様な価値観を信頼できる形で代弁していると思うような形で訓練してもらえばいい。これは前例がないことではない----多く意味で、理想的な政府は、それが十分に物事を理解しており、熱心だと人々が思っているので、それが自分を代弁していると感じ、そして政府の行動に対して自分が最終的に責任を負うと感じるようなものだ。
社会が機械の価値観や行動を試験し、監査する手法が必要
社会が訓練できて、社会が信用できるほど透明性があるようにすることで、社会の支持と代弁能力を獲得できる機械を設計する方法があるのかもしれない。政府は、競合して対立する利害と対処できているし、機械だってそれができるかもしれない。もちろんややこしい障害はたくさんある。たとえば伝統的なソフト(コードは一連のルールだ)とはちがい、機械学習モデルはもっと脳みたいなものだ----一部だけを見て、それが何をするか、今度どう動くかをずばり理解するのは不可能だ。社会が機械の価値観や行動を試験し、監査する手法が必要だ。
この機械の究極の創造者にしてコントローラーとしての社会からインプットを得て、そしてその支持を得る方法を編み出せれば、それはこの司法問題の裏面も解決するかもしれない----人間が作った機械が犯罪を犯したらどうするか、という問題だ。
たとえば、自動運転車の振る舞いに対して、社会が十分な入力とコントロールを得ていたと感じるならば、その社会は自動運転車のふるまいや潜在的な被害についても、自分やそれを代表する政府に責任があると感じ、自動運転車の開発企業すべてが直面する製造物責任問題を迂回する一助になるんじゃないだろうか。
機械が社会からの入力をどのように得て、社会によりどう監査されコントロールされるかという問題は、人命を救い正義を実現するために人工知能を導入するにあたり、開発されるべき最も重要な領域となるかもしれない。それにはおそらく、機械学習ツールを万人が使えるようにして、とてもオープンで包含的な対話を実施し、人工知能の進歩からくる力を再分配することが必要になる。見かけ上だけ倫理的に見えるよう訓練する方法を考案するだけじゃダメだ。
Credits
*イヤド・ラフワン (Iyad Rahwan) - 「社会参加型 (society-in-the-loop)」など多くのアイデアについて
*カルシック・ディナカール - 「人間参加型 (human-in-the-loop)」機械学習について教えてくれたことと、ぼくのAIの先生となってくれたこと、その他のアイデアについて
*アンドリュー・マカフィー (Andrew McAfee) - 仮出所審査委員会についての研究紹介と考え方を教えてくれた
*ナタリー・サルティエル - 編集作業
*訳:山形浩生
CC BY 2.1 JP
この記事は、JOI ITO ブログからの転載です。
伊藤穰一
MITメディアラボ所長。株式会社デジタルガレージ共同創業者で取締役。ソニー株式会社社外取締役。The New York Times、Knight財団、FireFox 開発の Mozilla Foundationのボードメンバー。 2008年米国Business Week誌にて「ネット上で最も影響力のある世界の25人」、2011年米国Foreign Policy誌にて「世界の思想家100人」、2011年英オクスフォード大学インターネット研究所より特別功労賞受賞。
Photograph of Joichi Ito by Mizuka. CC BY 2.0
伊藤穰一
この記事に関連するニュース
-
画像基盤モデルにより専門医に匹敵する膀胱内視鏡診断支援AIを開発
PR TIMES / 2024年7月12日 16時45分
-
クラスターメタバース研究所が手がけた研究論文が機械学習の主力国際会議ICML2024に採択~メタバース研究所早瀬友裕を中心としたチームの成果
PR TIMES / 2024年7月11日 14時15分
-
茨城県主催「令和6年度茨城県データサイエンティスト育成講座」(茨城県内企業・個人事業主・個人向け)の開始に先立ち、平山雄太氏および、山田典一氏によるキックオフセミナーを無料開催(別日開催)
PR TIMES / 2024年7月9日 17時15分
-
"ドラえもんを本気でつくる"日本大学文理学部大澤研究室、"感性に響く価値を創りだし、心豊かな未来を実現する"artience、AIエージェントとともにすごす未来コンセプトに関しての共同研究のお知らせ
PR TIMES / 2024年7月9日 11時15分
-
AI技術アドバイザーとして明治大学教授 櫻井義尚氏とのアドバイザリー契約締結のお知らせ
PR TIMES / 2024年7月8日 12時45分
ランキング
-
1仏女優バルドーさん、反捕鯨団体創設者の拘束で日本を批判 「彼を助けねばならない」
産経ニュース / 2024年7月23日 12時33分
-
2「トランプ氏は朝米関係に未練」と北朝鮮が論評 「親交誇示も肯定的変化なし」と主張
産経ニュース / 2024年7月23日 18時50分
-
3韓国IT「カカオ」創業者を逮捕 株価不正つり上げ疑い
共同通信 / 2024年7月23日 10時15分
-
4「過去数十年で最も重大な失敗」…米シークレットサービス長官、トランプ氏銃撃事件の責任認める
読売新聞 / 2024年7月23日 10時22分
-
5米大統領選で民主党ハリス氏の指名獲得ほぼ確実な情勢…重鎮ペロシ氏らも有力者も相次ぎ支持表明
読売新聞 / 2024年7月23日 11時50分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)