グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中
ニューズウィーク日本版 / 2016年6月10日 17時10分
<人工知能(AI)が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した>
数年前から、人工知能(AI)が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。
【参考記事】「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授
電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。
Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.— Elon Musk (@elonmusk) 2014年8月3日
こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。
AIが「人類の敵」になるのを防ぐアルゴリズム
グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」(安全に中断できるエージェント)と題した論文。この中で同社は、自律学習型のエージェント(AI)が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」(非常ボタン)を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。
論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。
同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。
AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。
【参考記事】アンドロイド美女に深い不安を託して
高森郁哉
この記事に関連するニュース
-
犠牲者ゼロで2.4キロ先のプーチン軍を粉砕する…ウクライナ軍のロボット兵器「死の鎌」の知られざる実力
プレジデントオンライン / 2024年7月23日 16時15分
-
AI兵器戦「半年内に激変」=ドローン大群での攻勢示唆―民生と軍事「境界消滅」・ウクライナ副首相
時事通信 / 2024年7月22日 14時57分
-
グーグルが断言する、効果の出せるチームとそうでないチームの「たった一つの違い」とは
文春オンライン / 2024年7月22日 6時0分
-
法務DXサービスを展開するレクシスネクシス、法律分野におけるAIの活用における白書を公開
PR TIMES / 2024年7月9日 13時15分
-
EU、競争法違反の調査検討 MSとオープンAI提携で
共同通信 / 2024年6月29日 19時26分
ランキング
-
1仏、日本引き渡しに反対=反捕鯨の容疑者
時事通信 / 2024年7月23日 22時41分
-
2「トランプ氏は朝米関係に未練」と北朝鮮が論評 「親交誇示も肯定的変化なし」と主張
産経ニュース / 2024年7月23日 18時50分
-
3仏女優バルドーさん、反捕鯨団体創設者の拘束で日本を批判 「彼を助けねばならない」
産経ニュース / 2024年7月23日 12時33分
-
4「過去数十年で最も重大な失敗」…米シークレットサービス長官、トランプ氏銃撃事件の責任認める
読売新聞 / 2024年7月23日 10時22分
-
5トランプ氏暗殺未遂事件、米シークレットサービストップ「過去数十年で最大の失敗」と証言
産経ニュース / 2024年7月23日 8時49分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)