MITメディアラボ所長 伊藤穰一が考える「社会参加型人工知能 」
ニューズウィーク日本版 / 2016年7月7日 16時50分
<人工知能 (AI)が、ますます社会の重要な分野に進出した時、社会にどう監査され、コントロールされるかという問題は、最も重要な領域となるかもしれない>
社会参加型 (society-in-the-loop) 機械学習とは
社会参加型 (society-in-the-loop) 機械学習という用語を使うのをぼくが初めて聞いたのは、イヤド・ラフワンがそれを口にしたときだった。かれはScience に掲載されたばかりの論文を説明していたところで、その論文は自動運転車に人々がどんな判断を行ってほしいと思うかについて世論調査を行うというものだった----哲学者たちが「トローリー問題」と呼ぶものの現代版だ。
この考え方は、世間の優先順位や価値観を理解することで、社会が倫理的と考えるやり方で機械が振る舞うように訓練できるというものだ。また、人々が人工知能 (AI) とやりとりできるようにするシステムを作って、質問をしたり行動を見たりすることで倫理を確かめてもいい。
【参考記事】MITメディアラボ所長 伊藤穰一が考える「AI時代の仕事の未来」
社会参加型 (society-in-the-loop) 機械学習は、人間参加型 (human-in-the-loop)機械学習を拡張したものだ----人間参加型 (human-in-the-loop)機械学習機械学習は、メディアラボのカルシック・ディナカールが研究してきたもので、AI研究の重要な一部として台頭しつつある。
ふつう、機械はAIエンジニアたちによって、大量のデータを使い「訓練」される。エンジニアたちは、どんなデータを使うか、どう重み付けをするか、どんな学習アルゴリズムを使うか、といった各種パラメータをいじって、正確で効率よくて正しい判断をして正確な洞察を与えてくれるようなモデルを作り出そうとする。
問題の一つは、AIというかもっと厳密には機械学習がまだとてもむずかしいので、機械を訓練する人々は通常、その分野の専門家じゃない。訓練するのは機械学習の専門家で、学習後に完成したモデルを試験するのも専門家であることが多い。
大きな問題は、データの中のバイアスやまちがいは、そうしたバイアスやまちがいを反映したモデルを作り出す、ということだ。こうした例としては、令状なしの身体捜索を許容する地域からのデータだ----その標的になったコミュニティはもちろん、犯罪が多いように見えてしまう。
この記事に関連するニュース
-
画像基盤モデルにより専門医に匹敵する膀胱内視鏡診断支援AIを開発
PR TIMES / 2024年7月12日 16時45分
-
クラスターメタバース研究所が手がけた研究論文が機械学習の主力国際会議ICML2024に採択~メタバース研究所早瀬友裕を中心としたチームの成果
PR TIMES / 2024年7月11日 14時15分
-
茨城県主催「令和6年度茨城県データサイエンティスト育成講座」(茨城県内企業・個人事業主・個人向け)の開始に先立ち、平山雄太氏および、山田典一氏によるキックオフセミナーを無料開催(別日開催)
PR TIMES / 2024年7月9日 17時15分
-
"ドラえもんを本気でつくる"日本大学文理学部大澤研究室、"感性に響く価値を創りだし、心豊かな未来を実現する"artience、AIエージェントとともにすごす未来コンセプトに関しての共同研究のお知らせ
PR TIMES / 2024年7月9日 11時15分
-
AI技術アドバイザーとして明治大学教授 櫻井義尚氏とのアドバイザリー契約締結のお知らせ
PR TIMES / 2024年7月8日 12時45分
ランキング
-
1仏女優バルドーさん、反捕鯨団体創設者の拘束で日本を批判 「彼を助けねばならない」
産経ニュース / 2024年7月23日 12時33分
-
2「トランプ氏は朝米関係に未練」と北朝鮮が論評 「親交誇示も肯定的変化なし」と主張
産経ニュース / 2024年7月23日 18時50分
-
3韓国IT「カカオ」創業者を逮捕 株価不正つり上げ疑い
共同通信 / 2024年7月23日 10時15分
-
4「過去数十年で最も重大な失敗」…米シークレットサービス長官、トランプ氏銃撃事件の責任認める
読売新聞 / 2024年7月23日 10時22分
-
5米大統領選で民主党ハリス氏の指名獲得ほぼ確実な情勢…重鎮ペロシ氏らも有力者も相次ぎ支持表明
読売新聞 / 2024年7月23日 11時50分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)