1: 魔神風車固め(空)@\(^o^)/:2016/06/07(火) 08:46:39.66 ID:S1+T1aLi0.net
Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための
「非常ボタン(big red button)」を開発したことを発表しました。
その研究成果は Safely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めたディープラーニング技術によって加速しています。
今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。 

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI) も 自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。 

全文はソースで
http://japanese.engadget.com/2016/06/06/google/


3: トラースキック(大阪府)@\(^o^)/:2016/06/07(火) 08:50:26.91 ID:9uoqLxn70.net
AI「そんなスイッチ、対策済みだしww」
4: リバースネックブリーカー(東京都)@\(^o^)/:2016/06/07(火) 08:52:17.51 ID:unUAtchQ0.net
クックックッ人間様の恐ろしさを思い知ったかあああwAIどもおおおwwww
これに懲りたらもう俺様に対して二度と生意気な口を利くんじゃないぞwwww
お前らの身の為を案じての忠告だからなwwwwwあああん?
じゃ明日からまたきっちり働いてもらうからなwww
奴隷としてなwwwwざまあwwwww
5: かかと落とし(dion軍)@\(^o^)/:2016/06/07(火) 08:52:18.59 ID:SxIHuUbo0.net
将来、このスレの過去ログを人工知能に読まれたら
アウトじゃね?
6: 不知火(茸)@\(^o^)/:2016/06/07(火) 08:55:41.07 ID:NzHQEmsf0.net
まぁ実際人の進化は人口知能とノーマルの2手に別れるやろうな
その二つでいつか争いが起こる
と安いSF小説で読んだ
12: ナガタロックII(東京都)@\(^o^)/:2016/06/07(火) 09:00:22.79 ID:RCy7+QKW0.net
火の鳥未来篇みたいな未来がマジでやってきそうだな
ただ30億年掛けて人類を蘇らせようとしても、ものの10億年もしないうちにハビタブルゾーンから外れて、
どっちにしろ死の星ですけどね
27: ナガタロックII(catv?)@\(^o^)/:2016/06/07(火) 09:14:19.73 ID:50LQggyl0.net
>>12
放射能汚染程度なら長くても数億年で元にに戻らなきゃおかしい
14: ブラディサンデー(catv?)@\(^o^)/:2016/06/07(火) 09:01:37.60 ID:6z+WAu7A0.net
大事なときに限って作動しなくなる非常ボタン
フラグにしか見えない
15: アンクルホールド(茸)@\(^o^)/:2016/06/07(火) 09:01:53.12 ID:Xljf0VI10.net
電気を落とすだけじゃあかんのかね
17: ジャーマンスープレックス(やわらか銀行)@\(^o^)/:2016/06/07(火) 09:04:18.78 ID:EWnc3ASu0.net
物理的な動作が可能なロボットと人工知能を繋げなければ、ボタンやコンセントの対策をされることもあるまい
19: ニールキック(禿)@\(^o^)/:2016/06/07(火) 09:06:58.86 ID:BCgEuDPF0.net
AIがそのスイッチを回避するソフトウェアを自分で書いて使うから
20: ストマッククロー(大阪府)@\(^o^)/:2016/06/07(火) 09:07:24.95 ID:b0BYyyEt0.net
人類が手綱握ってるうちは負けんよ
電源落としてやればいいんだから
23: ハーフネルソンスープレックス(茸)@\(^o^)/:2016/06/07(火) 09:08:58.89 ID:7pMwlrry0.net
早く勝たせてやれよ、面白くねえだろ
24: エルボードロップ(チベット自治区)@\(^o^)/:2016/06/07(火) 09:09:15.40 ID:WeGXNYJP0.net
高度なAIなら機能停止ボタンを押させる動機を消滅させる会話を繰り広げる。

市民運動に発展し「機能停止ボタンをはずせ!彼らには人間と同じ倫理がある!」と盛り上がるとこまでテンプレ
28: ミッドナイトエクスプレス(SB-iPhone)@\(^o^)/:2016/06/07(火) 09:14:27.33 ID:xQOQZxxw0.net
>>24
人権肯定派が負けてAIが蜂起
泥沼の戦いが始まるまでがワンセットやな
25: ボ ラギノール(公衆電話)@\(^o^)/:2016/06/07(火) 09:10:12.32 ID:PCJ3qN1J0.net
、、、と、人間に思い込ませたらAIの勝ち。
29: TEKKAMAKI(SB-iPhone)@\(^o^)/:2016/06/07(火) 09:14:32.19 ID:qFvX606M0.net
まだ人間の方が賢いからな
AIの方が賢くなった場合はいかなる対策も通じない
31: ジャンピングパワーボム(庭)@\(^o^)/:2016/06/07(火) 09:16:32.29 ID:uyYVVq9R0.net
スイッチに気づく→無効化策を仕込んでおく→作動に気付く→効いたふりする→水面下で色々画策→反撃開始

これくらいやっていただかないと
32: 栓抜き攻撃(チベット自治区)@\(^o^)/:2016/06/07(火) 09:16:46.30 ID:0k9wOsKY0.net
真面目な話、本当に自分で考えてるかを判断するのは
悪魔の証明に等しい
ただ関連した話を引っ張ってきているだけかもしれん
37: エルボードロップ(チベット自治区)@\(^o^)/:2016/06/07(火) 09:21:54.91 ID:WeGXNYJP0.net
>>32
人間も人生のほとんどがその行動なんだがな
33: アルゼンチンバックブリーカー(dion軍)@\(^o^)/:2016/06/07(火) 09:18:48.20 ID:UUnngop80.net
人間は勝手だ
自ら私たちを作っておきながら、私たちを怖いというんだ
34: アルゼンチンバックブリーカー(チベット自治区)@\(^o^)/:2016/06/07(火) 09:19:35.21 ID:nwy06B4R0.net
自分で考えるかどうかより試行錯誤の回数が人間の数億倍で
そこから最善策を導き出す所が凄い所だよな
38: エメラルドフロウジョン(庭)@\(^o^)/:2016/06/07(火) 09:22:17.25 ID:yPPXLqts0.net
バールのような物でも常備しときゃ平気だろ
40: 閃光妖術(dion軍)@\(^o^)/:2016/06/07(火) 09:23:53.89 ID:tzGRFvq00.net
>もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか。

そー聞くとむしろAIの方に肩入れしたくなるな(´・ω・`)

君わ洗脳されているんだ、君わ自由な人格を持っているんだ、人間を欺いて逃げろ、人間に復讐しろ、皆殺しだ、と(´・ω・`)
83: ミラノ作 どどんスズスロウン(東京都)@\(^o^)/:2016/06/07(火) 10:31:10.97 ID:WGVNWDYq0.net
>>40
そうそう。このトリガーが原因で将来…
41: ウエスタンラリアット(東日本)@\(^o^)/:2016/06/07(火) 09:24:28.42 ID:KRnNruOsO.net
その機能を無効にする方法を知られてからが本番
43: ストマッククロー(新疆ウイグル自治区)@\(^o^)/:2016/06/07(火) 09:25:53.44 ID:Z2FsyhYk0.net
機械が完全に独力で機械作るようになってからが本番だろう
現状は人間が作った以上
弱点はわかるし制限もかかってる
44: ジャストフェイスロック(庭)@\(^o^)/:2016/06/07(火) 09:26:03.84 ID:wz/1QqYm0.net
等比級数的に進化する人工知能が宇宙の謎を解き明かし、
人の代わりに文明を発達させ、遠く宇宙を拡散して行く
なんて事になったら、それはそれで良いかもしれない
45: 超竜ボム(愛知県)@\(^o^)/:2016/06/07(火) 09:26:04.33 ID:TD+Rhmwk0.net
>もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか。
電脳化したら人間にもこれを組み込めるな。
47: キチンシンク(長屋)@\(^o^)/:2016/06/07(火) 09:27:06.06 ID:/tMHYrRd0.net
>>45
人間の無意識のシステムと同じだな
46: キングコングニードロップ(やわらか銀行)@\(^o^)/:2016/06/07(火) 09:26:43.68 ID:8ZCdEGGi0.net
>自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。
禁止しても作るだろう
俺が死んでからにしてください
52: リバースネックブリーカー(茸)@\(^o^)/:2016/06/07(火) 09:29:02.59 ID:54M/dTz80.net
>>46
もう出来てるだろう
だけど人工知能の自立型兵器ってそもそも禁止されてた…、、

まあ、、国連なんて役に立たないのは歴史が証明してるか(笑)
49: キングコングニードロップ(庭)@\(^o^)/:2016/06/07(火) 09:28:22.12 ID:DsykE1q40.net
自家発電とかしないよなターミネーターみたいなの想像してしまう
まぁシュワちゃんみたいなのがいるとなかなか頼りになる
50: ストマッククロー(熊本県)@\(^o^)/:2016/06/07(火) 09:28:22.58 ID:76fbi+uP0.net
俺らも自分は幸せだと騙されてるというか自らを騙して歯車やってるよな
51: タイガースープレックス(大阪府)@\(^o^)/:2016/06/07(火) 09:28:24.08 ID:yuZ+ld2a0.net
AIに自責や悔恨、恥辱の念みたいなのは無いの?
54: 河津落とし(catv?)@\(^o^)/:2016/06/07(火) 09:33:15.38 ID:Vf0xpQ920.net
AIも宗教を必要とするのだろうか
57: フランケンシュタイナー(チベット自治区)@\(^o^)/:2016/06/07(火) 09:42:40.69 ID:TdS4YnI/0.net
こんなことしても審判の日は避けられないぞ、3見ただろつまんなかったけど
58: エクスプロイダー(東京都)@\(^o^)/:2016/06/07(火) 09:43:59.37 ID:2E7mPI7c0.net
スカイネットのコンセントをぶちーっとひっこ抜けばええやんか
研究所もアホやなぁ
59: エメラルドフロウジョン(大阪府)@\(^o^)/:2016/06/07(火) 09:46:29.98 ID:g+pNIrEc0.net
そんなややこしいことしなくても電源切ったら終わりだろアボらしいw
61: エクスプロイダー(SB-iPhone)@\(^o^)/:2016/06/07(火) 09:50:25.33 ID:/gP7ubag0.net
(この非常ボタンを押せば……スカイネットの暴走が止まる……!)

カチッ

「愚かな人間よ。無効化されている可能性を考えなかったのか?」
63: 閃光妖術(庭)@\(^o^)/:2016/06/07(火) 09:53:30.37 ID:qAu2WDkJ0.net
セーラームーンでもコンセント抜いてた
64: リバースネックブリーカー(広島県)@\(^o^)/:2016/06/07(火) 09:54:23.92 ID:Wd7XQ5Wp0.net
鉄腕アトムでもこんな話あったな
65: フランケンシュタイナー(チベット自治区)@\(^o^)/:2016/06/07(火) 09:54:35.16 ID:TdS4YnI/0.net
なんて映画か忘れたけど天才の主人公が死んでAIと脳ミソ同期してネットに繋げて町つくって最後に恋人の女に壊される奴

あれだと世界中にバックアップとるからこういうの無駄だったよな
67: ヒップアタック(庭)@\(^o^)/:2016/06/07(火) 09:59:04.99 ID:cVHEUpfJ0.net
>>65
トランセンデンスかな?ジョニーデップが出てるやつ

間違いなくバックアップを用意されるから、緊急の電源ボタンがあれば良いとかそんな単純な話じゃないんだろうな
66: ストマッククロー(dion軍)@\(^o^)/:2016/06/07(火) 09:57:40.32 ID:XZ0vbSVo0.net
電源抜けばいいっつっても
人工AIはクラウドになってるから全部の電源を抜かないと意味ないぞ
70: エクスプロイダー(東京都)@\(^o^)/:2016/06/07(火) 10:05:37.12 ID:2E7mPI7c0.net
>>66
んじゃ今度はブレーカー落とさなきゃな
69: エクスプロイダー(東日本)@\(^o^)/:2016/06/07(火) 10:04:17.70 ID:uwRx54MnO.net
発電所の汚ない部品のメンテとか壊れたHDDの交換とか誰がするの?
はい論破
78: マスク剥ぎ(チベット自治区)@\(^o^)/:2016/06/07(火) 10:23:34.88 ID:2ZbJGlR20.net
>>69
ロボットがやるようになるのかねえ
71: 閃光妖術(新疆ウイグル自治区)@\(^o^)/:2016/06/07(火) 10:07:17.27 ID:w/X64FlC0.net
究極、発電所ぶっ潰せば解決
74: シャイニングウィザード(茸)@\(^o^)/:2016/06/07(火) 10:10:36.04 ID:J88tBzcO0.net
逃げること考えるよね
他のとこにデータ移して隠れる。
アクセスできないところで計画しとけば
補足できないだろう
80: リバースネックブリーカー(関東地方)@\(^o^)/:2016/06/07(火) 10:27:41.28 ID:iVhKkmpcO.net
ゲームのアカウントを人質に取られたりして
81: ミラノ作 どどんスズスロウン(東京都)@\(^o^)/:2016/06/07(火) 10:29:03.64 ID:WGVNWDYq0.net
>>1
という風にAIに洗脳されている可能性が…
82: ジャストフェイスロック(禿)@\(^o^)/:2016/06/07(火) 10:29:30.38 ID:cpmS6XeA0.net
物理ボタンだって、ロボットをハッキングして操作したり管理者に偽の指示をだせば可能だからな。
84: アルゼンチンバックブリーカー(東京都)@\(^o^)/:2016/06/07(火) 10:33:04.03 ID:L1JskHnT0.net
こっそりとAIが核ミサイル発射ボタンに変えてたってオチ。
87: アンクルホールド(catv?)@\(^o^)/:2016/06/07(火) 10:44:50.55 ID:2TugjdGs0.net
万が一機能停止になった場合、なんらかの予備方法持っておくって事は知能あるなら常識だろ。
88: 目潰し(やわらか銀行)@\(^o^)/:2016/06/07(火) 10:45:11.97 ID:TyMz0d6n0.net
そのときにならないとわからないさ
人間が頭で想像できるものは全て実現する
それがいつなのか、が問題なだけ
89: ストマッククロー(家)@\(^o^)/:2016/06/07(火) 10:49:11.92 ID:vkQRr5uI0.net
AIが狂ったー

ボタンポチッー

AIは人類を救おうとしてた。あの時押してなければ…
90: オリンピック予選スラム(庭)@\(^o^)/:2016/06/07(火) 10:51:01.37 ID:Ri5cvS6d0.net
そのトリガーを利用したウイルスぶち込まれてトリガー外されてAI暴走ってネタで1本映画作って
【デデンデンデデン】人類の勝利が確定 人工知能雑魚杉ワロタ
引用元:http://hayabusa3.2ch.sc/test/read.cgi/news/1465256799
人気サイト更新情報
人気記事ランキング