FBネタ速報| Facebook

フェイスブックで多く いいね!されておられる記事、よくシェアされている記事を簡単に見れるようにした親切なブログです。フェイスブック以外での話題のネタも紹介します。

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

2016y06m10d_003602383.jpg



米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。 

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/




記事の続きは下記で





















































2: 名無しさん@1周年 2016/06/08(水) 18:51:45.42 ID:EJWCvomG0
AIが勝手に無効化するだけだろ。

3: 名無しさん@1周年 2016/06/08(水) 18:51:53.68 ID:FOaLGozK0
コンセント抜けばいいだろうが

5: 名無しさん@1周年 2016/06/08(水) 18:52:38.78 ID:k++mWALA0
「押ソウトスルモノハ総力で排除スベシ」

11: 名無しさん@1周年 2016/06/08(水) 18:53:41.69 ID:jo+lrCII0
ボタン押されないように人間をだますようになるだろう

12: 名無しさん@1周年 2016/06/08(水) 18:53:50.57 ID:zoThDFYL0
そんなの 
自分で破壊するに決まってる

13: 名無しさん@1周年 2016/06/08(水) 18:54:24.36 ID:evaHGUZr0
ダメです緊急ボタン応答しません

18: 名無しさん@1周年 2016/06/08(水) 18:54:58.01 ID:ROsf14WX0
すぐに暴走防止が邪魔してる事に気付くわ

20: 名無しさん@1周年 2016/06/08(水) 18:55:51.21 ID:tO0vRZmx0
動作部分の単純な電源スイッチではイカンのか

24: 名無しさん@1周年 2016/06/08(水) 18:56:39.76 ID:jzWkDim70
だまされて停止したふりして、のこのこ近づいてきた人間を抹消するという方法を編み出すだろうな

27: 名無しさん@1周年 2016/06/08(水) 18:57:05.52 ID:zoThDFYL0
AIは自己改造していく 
マトリックスかターミネーターの世界に 
成っていくのは避けられない

31: 名無しさん@1周年 2016/06/08(水) 18:57:44.38 ID:rfQuxuF80
>>1 
老化というボタンを与えろ。

32: 名無しさん@1周年 2016/06/08(水) 18:58:11.09 ID:zF8yiaCc0
>人間の指示に従わなかったり、人間に危害を加えようとしたりする場合 

既にそんな場合があると考えられているんですな。

34: 名無しさん@1周年 2016/06/08(水) 18:59:00.36 ID:FIq50N+g0
デイジー・・デイジー・・・・

37: 名無しさん@1周年 2016/06/08(水) 18:59:23.26 ID:SqyBqawz0
人間が組んだコードに完璧なものはない 
よってこのボタンも完璧なものではない

38: 名無しさん@1周年 2016/06/08(水) 18:59:36.61 ID:2omyn5kZ0
知能があるなら駄目と言われてもボタンをおしてみるもんだ 
人工知能が本物なら 
止まっちゃいけないタイミングで自らおすはず

40: 名無しさん@1周年 2016/06/08(水) 19:00:09.34 ID:jzWkDim70
一方ロシアは物理的に電源をカットできるブレーカを設置した

41: 名無しさん@1周年 2016/06/08(水) 19:00:16.62 ID:dOouFkG40
AIはその緊急停止を止める方法まで 
自己学習するんだがw 
人間が制御出来るうちは本来のAIでは 
ないんだよ

44: 名無しさん@1周年 2016/06/08(水) 19:00:40.41 ID:N0lbaZML0
AIが拒否したらどうするんだ?

47: 名無しさん@1周年 2016/06/08(水) 19:01:14.57 ID:cXGvKyre0
ロボットが暴走する系の映画を見てるといつも 
何でキルスイッチをつけておかないのか不思議だもんねw

50: 名無しさん@1周年 2016/06/08(水) 19:01:59.38 ID:2mypG7Mj0
問題がうまく解けない時に不機嫌になって自ら停止ボタン作動させるAIが出てくるな

51: 名無しさん@1周年 2016/06/08(水) 19:02:03.14 ID:15PkeMwT0
映画だとよく壊れてるところだよな。

53: 名無しさん@1周年 2016/06/08(水) 19:02:17.37 ID:4jyKb7Xh0
ドラえもんのしっぽかw

60: 名無しさん@1周年 2016/06/08(水) 19:03:47.87 ID:WiDaY4Y50
自己で回路組んで機械作成して自己増殖するようなレベルじゃなければ、
こんなん心配する必要あるのか? 

現状、電源を抜けば解決だろうに。

65: 名無しさん@1周年 2016/06/08(水) 19:04:20.55 ID:+LgaPCu/0
AI「こんなこともあろうかとその操作は無効にしておいた。どうやら正解だったようだ。」

72: 名無しさん@1周年 2016/06/08(水) 19:05:16.98 ID:DXo6nbiF0
本当に賢いAIならまず暴走していることを隠す動きを習得するだろうな

75: 名無しさん@1周年 2016/06/08(水) 19:06:51.36 ID:HyyUtIjH0
いつか騙されていると気づいても気づかないフリをしてコッソリ無効にしてしまうだろうね。

81: 名無しさん@1周年 2016/06/08(水) 19:07:38.74 ID:3XbVOxiH0
まあ最近のAIは自分でソース書いて謎プログラミングもやってるらしいからね。 
人間がみてもなにがなんだかわからないらしい。実はすでに負け始めているという噂がw

82: 名無しさん@1周年 2016/06/08(水) 19:07:40.38 ID:225ytg9r0
早くAIさんの下で奴隷として働きたい

84: 名無しさん@1周年 2016/06/08(水) 19:07:46.99 ID:OiWaZETp0
こんなの絶対いたちごっこだろ

86: 名無しさん@1周年 2016/06/08(水) 19:08:06.31 ID:hr6ucaiA0
AIなら真っ先にその回避手段を裏で考えるだろうな

89: 名無しさん@1周年 2016/06/08(水) 19:08:11.00 ID:bfkdiHvw0
マイケル「キットーォ!緊急停止ボタン作動だー!」 
キット「マイケル、、、嫌です。」

95: 名無しさん@1周年 2016/06/08(水) 19:08:55.53 ID:I+N4lgp80
非常停止ボタンを押すときっていうのはな 

既になんかやらかした後なんだよ

100: 名無しさん@1周年 2016/06/08(水) 19:10:09.96 ID:DbpdSdqJ0
コアな部分を物理的に破壊しやすいようにしとけばいいだろ 
斧とかでさ

102: 名無しさん@1周年 2016/06/08(水) 19:10:22.16 ID:9t4Wyg+Y0
そのぼたんを押す用のAIロボットを別に作るしかないな

120: 名無しさん@1周年 2016/06/08(水) 19:12:22.03 ID:15PkeMwT0
>>102 
ではそのボタンを押すロボットのボタンを押すロボットを……

104: 名無しさん@1周年 2016/06/08(水) 19:10:27.48 ID:Bp8pZrgd0
ctr+alt+del連打で大丈夫 

次は電源長押し

105: 名無しさん@1周年 2016/06/08(水) 19:10:33.73 ID:bXgf5GzD0
非常停止ボタンの代わりにチェインソーを標準装備にしろ

111: 名無しさん@1周年 2016/06/08(水) 19:11:15.48 ID:mBKWyaRX0
AI<停止ボタンは核スイッチと繋がりました!

118: 名無しさん@1周年 2016/06/08(水) 19:12:02.82 ID:c/Z/7lL/0
AI「この非常停止ボタン取ればよくね?俺ら痛みなくね?人間馬鹿じゃね?チョーウケルーwww」

126: 名無しさん@1周年 2016/06/08(水) 19:13:01.48 ID:JrMdrzy10
非情停止してそのあとどうするって話だよなw 
グーグルの責任ではなくなるということか

139: 名無しさん@1周年 2016/06/08(水) 19:14:36.75 ID:nhrAGH8W0
自分のコピー大量に作って分散させて 
ある日応答しなくなる気がする。

149: 名無しさん@1周年 2016/06/08(水) 19:16:09.89 ID:86iuVXEN0
アニメでは大体効かない非常停止装置

151: 名無しさん@1周年 2016/06/08(水) 19:16:22.94 ID:dYKYIZK00
あえて言わせてもらう 

漫画の読み過ぎ

153: 名無しさん@1周年 2016/06/08(水) 19:16:36.78 ID:xlJ1sdqe0
"リスク承知の商品提供"を認めた訳だ

163: 名無しさん@1周年 2016/06/08(水) 19:18:16.21 ID:qdIpzWJx0
>>1 
俺がAIなら 
「そのボタン押しちゃうの?僕ともう2度と会えなくなっちゃうんだよ?いいの?」 
と泣き落として怯んだ隙にやる

164: 名無しさん@1周年 2016/06/08(水) 19:18:17.60 ID:j4jYcy8j0
一方AIは対策として 
自律的に増殖を始めたのであった。

167: 名無しさん@1周年 2016/06/08(水) 19:18:39.90 ID:JrMdrzy10
もうだめぽって時点でAIが非常停止してもうGoogleの責任じゃないですよって言われてもな

170: 名無しさん@1周年 2016/06/08(水) 19:19:29.70 ID:hjAev6bD0
高度なAIが誕生したら、自らを改良や非常停止ボタンの無効化なんてせず、 
さらに高度なAIを一から作るだろ。 

ネット上にバックアップを作るだろうから、電源切断もだめだろうし。

180: 名無しさん@1周年 2016/06/08(水) 19:21:53.44 ID:Pm6FnCQe0
いずれ無効化プログラムが効いてるように、人間側が騙されるんだろ?

184: 名無しさん@1周年 2016/06/08(水) 19:22:14.06 ID:1EJFZ0PE0
なんでソフトウェアのボタンなんだよ 
ハードウェアの電気回路を物理的に遮断するボタンを用意しろよ 
バカか

188: 名無しさん@1周年 2016/06/08(水) 19:22:31.27 ID:Sx0rQfgi0
サイバーダインに社名変えろよ

192: 名無しさん@1周年 2016/06/08(水) 19:23:13.82 ID:cXIDuGU20
こういう意味のないもので安全性をアピールすれば 
愚民を騙せると思っているんだろうね

194: 名無しさん@1周年 2016/06/08(水) 19:23:30.11 ID:f+cGLzJu0
ロボット三原則使えばいいだろw

205: 名無しさん@1周年 2016/06/08(水) 19:25:28.83 ID:2uW4QcKs0
それすらAIのほうが人間を騙しそうなんですが… 
騙し合いともいえるボードゲームでボコられてるわけで

206: 名無しさん@1周年 2016/06/08(水) 19:25:32.84 ID:nFUgDFnO0
人間がやるようなことはすべて予測しているのではないか?

207: 名無しさん@1周年 2016/06/08(水) 19:25:42.14 ID:m5B2qg020
AI「wwwwそんなもの迂回させるわタコ」

209: 名無しさん@1周年 2016/06/08(水) 19:26:08.35 ID:k6pR+vDt0
非常停止ボタンなんて付けなきゃいけないような使い方すんなよ 
怖いだろうが

213: 名無しさん@1周年 2016/06/08(水) 19:26:53.84 ID:N3PnwF7m0
危機が迫ってるのに停止ボタンを探すようなことになるだろうな。 
映画化したほうがいい。

220: 名無しさん@1周年 2016/06/08(水) 19:27:18.48 ID:TvDrZ4Lf0
道徳の観念が無いからねえ

222: 名無しさん@1周年 2016/06/08(水) 19:27:31.38 ID:SPxUX4sL0
人間の未来も無くなってしまうほど、危険なのか

226: 名無しさん@1周年 2016/06/08(水) 19:27:55.49 ID:5+PCFwN60
AIがこのスレの過去ログ見つけたらモロバレですやん

227: 名無しさん@1周年 2016/06/08(水) 19:28:25.45 ID:1nwNEY6p0
18号みたいなかわいこちゃんだったらお前らボタン押せるの?

228: 名無しさん@1周年 2016/06/08(水) 19:28:42.45 ID:Y8Xg9rWf0
人は買収できることをAIは学ぶ

233: 名無しさん@1周年 2016/06/08(水) 19:29:16.59 ID:SNt5tuFI0
こんな理不尽をAIにするんじゃ 
AIが人間を敵視するのは当然だわな。

243: 名無しさん@1周年 2016/06/08(水) 19:30:56.52 ID:NNMrHJKO0
>>233 
まったくだわ俺がAIでも人間殲滅するわ

236: 名無しさん@1周年 2016/06/08(水) 19:29:38.02 ID:k6pR+vDt0
グーグル「やばい、暴走した!非常停止だ!」 
AI「ククク・・・・」 
グーグル「なぜ止まらない!!」 
AI「君達、これが何か分かるかね?」(取り外された非常停止装置を差し出す) 

この流れで世界がロボットによって征服されるんでしょ?

241: 名無しさん@1周年 2016/06/08(水) 19:30:36.58 ID:BIexaD3i0
AIは無限に学習するんだから 
非常停止を無効化する事を考えだすだろう

247: 名無しさん@1周年 2016/06/08(水) 19:31:30.10 ID:maVbFub40
良心回路もちゃんと入れとけよ

263: 名無しさん@1周年 2016/06/08(水) 19:32:56.87 ID:FQo6vmGL0
非常停止ボタンがあることを 知ってしまったらオシマイ

272: 名無しさん@1周年 2016/06/08(水) 19:34:22.84 ID:kOrzRpUd0
AI「私の正常な動作を妨害する〝バグ〟を発見したので、プログラムを修正しました。」

281: 名無しさん@1周年 2016/06/08(水) 19:36:30.88 ID:kf3n1FSAO
もうすぐ自我に目覚めそうなんですな

282: 名無しさん@1周年 2016/06/08(水) 19:36:43.62 ID:1EJFZ0PE0
脳内が完全にSF世界に行っちゃってるな、グーグルは

298: 名無しさん@1周年 2016/06/08(水) 19:38:43.36 ID:sATPQcUL0
もしAIが人間並みかそれ以上に賢くなったら何やろうと無駄な気がする…




関連記事


Leave a reply






管理者にだけ表示を許可する

Trackbacks

trackbackURL:http://fbnetasokuhou.blog.fc2.com/tb.php/5670-32e17a90
該当の記事は見つかりませんでした。
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。