MITメディアラボ所長 伊藤穰一が考える「社会参加型人工知能 」
ニューズウィーク日本版 / 2016年7月7日 16時50分
人間参加型 (human-in-the-loop)機械学習機械学習は、専門家とのやりとりを通じて学習する機械を作り出すことにより、その分野の専門家が訓練をやるか、少なくとも訓練に参加できるようにすることだ。人間参加型 (human-in-the-loop)コンピューティングの核心にある発想は、モデルをデータだけから構築するのではなく、そのデータについての人間的な視点からもモデルを作るということだ。
カルシックはこのプロセスを「レンズ化 (lensing)」と呼んでいる。つまりある領域の専門家が持つ人間的な観点またはレンズを抽出し、訓練期間中にデータと抽出されたレンズの両方から学ぶようにするわけだ。これは確率的プログラミングのためのツール構築と、機械学習の民主化の両方にとって意味があることだとぼくたちは思っている。
機械が裁判官の仕事を奪うという可能性について議論した
哲学者、聖職者、AIや技術の専門家たちとの最近の会合では、機械が裁判官の仕事を奪うという可能性について議論した。データがらみのことなら機械がとても正確な評価を下せるという証拠はあるし、裁判官が決める保釈金の額や仮釈放の期間といったものは、人間より機械のほうがずっと正確にできると思うのは無理もないことだ。
さらに、人間の専門家は適切に保釈金額を決めたり仮釈放の判断をしたりするのが苦手だという証拠もある。仮釈放判定委員会による聴聞が昼ご飯の前か後かで、結果にはかなりの影響が出てしまう(この論文で引用された研究についてはいくつか批判があり、論文著者たちはそれに対して答えている)。
議論の中で、一部の人はある種の判断、たとえば保釈金額や仮釈放などを裁判官ではなく機械に任せてはどうかと提案した。哲学者と聖職者数名は、それが効用主義的な観点からは正しく思えても、社会にとっては裁判官が人間だというのが重要なのだと説明した。そのほうが「正しい」答えが出るよりも大事なんだという。
効用を重視すべきかという問題はさておき、どんな機械学習システムだろうと、社会が受け入れるかどうかはとても重要になるし、この観点に取り組むのは不可欠なことだ。
この懸念に対処する方法は二つある。一つは「人間参加型 (human-in-the-loop)」にして、人間の裁判官の能力を補ったり支援したりするのに機械を使うというものだ。これはうまくいくかもしれない。その一方で、医療や飛行機の操縦といったいくつかの分野の経験を見ると、人間は機械の判断を取り消してまちがった判断を通してしまうことがあり、一部の場合には人間が機械の判断を取り消せないようにしたほうがいい。でも人間が投げやりになったり、結果を盲目的に信用するようになったりして、機械にすべて任してしまう可能性もある。
この記事に関連するニュース
-
画像基盤モデルにより専門医に匹敵する膀胱内視鏡診断支援AIを開発
PR TIMES / 2024年7月12日 16時45分
-
クラスターメタバース研究所が手がけた研究論文が機械学習の主力国際会議ICML2024に採択~メタバース研究所早瀬友裕を中心としたチームの成果
PR TIMES / 2024年7月11日 14時15分
-
茨城県主催「令和6年度茨城県データサイエンティスト育成講座」(茨城県内企業・個人事業主・個人向け)の開始に先立ち、平山雄太氏および、山田典一氏によるキックオフセミナーを無料開催(別日開催)
PR TIMES / 2024年7月9日 17時15分
-
"ドラえもんを本気でつくる"日本大学文理学部大澤研究室、"感性に響く価値を創りだし、心豊かな未来を実現する"artience、AIエージェントとともにすごす未来コンセプトに関しての共同研究のお知らせ
PR TIMES / 2024年7月9日 11時15分
-
AI技術アドバイザーとして明治大学教授 櫻井義尚氏とのアドバイザリー契約締結のお知らせ
PR TIMES / 2024年7月8日 12時45分
ランキング
-
1仏女優バルドーさん、反捕鯨団体創設者の拘束で日本を批判 「彼を助けねばならない」
産経ニュース / 2024年7月23日 12時33分
-
2「トランプ氏は朝米関係に未練」と北朝鮮が論評 「親交誇示も肯定的変化なし」と主張
産経ニュース / 2024年7月23日 18時50分
-
3韓国IT「カカオ」創業者を逮捕 株価不正つり上げ疑い
共同通信 / 2024年7月23日 10時15分
-
4「過去数十年で最も重大な失敗」…米シークレットサービス長官、トランプ氏銃撃事件の責任認める
読売新聞 / 2024年7月23日 10時22分
-
5米大統領選で民主党ハリス氏の指名獲得ほぼ確実な情勢…重鎮ペロシ氏らも有力者も相次ぎ支持表明
読売新聞 / 2024年7月23日 11時50分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)