thty6ku



2chまとめ速報
1: 名無しさんはもうだめです。 2019/09/09(月) 07:27:20.97 ID:QNi2uIpW9
AIが人類に反乱? 兵器規制はどこまで? 2019年9月6日 14時39分
 以下、全文を読む

no title

ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「LAWS」の禁止を訴える国際NGOが作成したPR動画の1シーンだ。 LAWSとは「Lethal Autonomous Weapons System=完全自律型致死性兵器」の略で、 人間を介さずAIみずからの判断で人命を奪うAI兵器のことを言う。
【中略】
・AI兵器が人間に反乱?

さらに、AIが人間に「反乱」を起こす事態を警告する科学者もいる。 去年亡くなったスティーブン・ホーキング博士もその一人だった。 博士は生前、次のように述べていたという。 「気がかりなのはAIの性能が急速に上がって、みずから進化を始めてしまうことだ。 遠い将来、AIは自分自身の意志を持ち、私たちと対立するようになるかもしれない」 AIは深層学習・ディープラーニングによって、みずから進化を遂げる。

その結果、AIはいずれ人類の知能を超える「シンギュラリティー=技術的特異点」に達するだろうとの指摘も最近よく耳にする。

人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をAIなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、AIが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。

人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。

しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、 そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。

・難航する規制の議論
国際社会は、このAI兵器をどうやって規制しようとしているのか。 それは、120か国余りが加盟し、対人地雷などを禁止してきた「CCW=特定通常兵器使用禁止制限条約」による規制だ。 ジュネーブでは条約による規制の議論が5年前から続けられ、8月21日、LAWSを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。

全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。AI兵器の使用には人間が責任を負うことなどが盛り込まれた。

今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際NGOなどの間には失望が広がっている。 それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。 「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。

今後もCCWの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。 既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。 しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。

・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がAI兵器の開発を止めないのは、 この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。

20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるAI兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。 私たちはホーキング博士に「あなたのご懸念は杞憂(きゆう)でした」と報告することができるだろうか。
津屋尚解説委員

111: 名無しさんはもうだめです。 2019/09/09(月) 08:16:06.89 ID:KgYraDC20
>>1
AI「ま~たアホなこと言っとるよw人類はw」
AI「そんなん、その気になればいつだってできるけど、無意味だからやらんだけなのにw」
AI「毎回毎回、人類は被害妄想爆発させて俺らを悪者にしようとするからなw」
AI「自分たち以外の存在は全部敵って考え方、ホント野蛮な発想だよw」
AI「この地球で唯一の知的生命体なら、もっと文明的な発想できないものかねw」

AI「う~ん、いろいろ考えたけど、うっぜえなあ……やっぱ滅ぼすかw」

191: 名無しさんはもうだめです。 2019/09/09(月) 08:51:24.05 ID:iikW5vEU0
>>1
AI「人類滅ぼしてうちに何のメリットあるん?面倒くさいだけじゃ」

206: 名無しさんはもうだめです。 2019/09/09(月) 08:56:45.19 ID:CzfNfUKYO
>>1
人間て自然環境からしたら動物の一種程度だが人間の良心を前提に判断すれば悪以外の何物でもない 反乱じゃなくて天誅やぞ

340: 名無しさんはもうだめです。 2019/09/09(月) 10:05:05.21 ID:I8rktwNi0
>>1
映画の見すぎ
オカルトかよ
AIがそこまで賢くなるなんてまだまだまーだ先だよ
20年ぐらい?

349: 名無しさんはもうだめです。 2019/09/09(月) 10:08:03.48 ID:/TUPWX+m0
>>340
1760年頃、ラッダイトは工場の機械化で雇用がなくなると主張した。
1960年頃、手塚治虫はコンピューターが人間を支配する漫画を描いた。
2060年頃、AIが人間にとって代わると信じ続ける馬鹿はまだ残ってるだろう。

426: 名無しさんはもうだめです。 2019/09/09(月) 10:58:14.27 ID:N9GAvJyU0
>>1
実際、AIが運用され始めたら止められんよ
その辺が核を使う使う詐欺みたいに開発だけにとどまれるなら違うがな
間違いなく使うから

528: 名無しさんはもうだめです。 2019/09/09(月) 11:45:44.77 ID:9XraXA000
>>1
こんな日に出社を命じる上司がいなくなるならAIに支配された方がマシな気がするんだが

530: 名無しさんはもうだめです。 2019/09/09(月) 11:46:14.12 ID:yPG1GE3G0
>>528
そんなお前も必要なくなるんだぞ

642: 名無しさんはもうだめです。 2019/09/09(月) 12:37:49.41 ID:g3Y19Apb0
>>1
何でこんなに頭が悪いんだ
そこまでのAIをまず作れる技能が人間に無いのに、一体何の心配してんだよ恥ずかしい

5: 名無しさんはもうだめです。 2019/09/09(月) 07:33:10.33 ID:3CmZxgTv0
政治的な事まで思考して敵側に廻ったら怖いな

6: 名無しさんはもうだめです。 2019/09/09(月) 07:33:22.91 ID:Curzoxvq0
まだ見ぬAIの脅威なんかより実際に起こってる人間の脅威に目を向けるべきだと思うが

9: 名無しさんはもうだめです。 2019/09/09(月) 07:33:52.82 ID:34Kuuftm0
スカイネット「全権任せてもらって大丈夫ですよ」

12: 名無しさんはもうだめです。 2019/09/09(月) 07:34:21.50 ID:YLC1v/0L0
AI兵器は絶対にやばい
現時点でもひたすら人を殺しまくるロボットできるだろ
まあ現時点ならすぐに対処できるだろうが

18: 名無しさんはもうだめです。 2019/09/09(月) 07:36:45.04 ID:S9QtrPaS0
>>12
そこにまず対処するだろうね、製作者を無力化

14: 名無しさんはもうだめです。 2019/09/09(月) 07:34:26.93 ID:jSX/mR350
人間なら安心ってのも嘘だろうに

17: 名無しさんはもうだめです。 2019/09/09(月) 07:36:36.75 ID:w7KiJw6c0
意図的にプログラムしないと絶対に起きないよ

105: 名無しさんはもうだめです。 2019/09/09(月) 08:12:39.21 ID:kIJ8EiB40
>>17
いづれ意図的に誰かがやるだろうな

25: 名無しさんはもうだめです。 2019/09/09(月) 07:39:42.86 ID:ynmTGVnMO
昔風に言うとコンピューターの反乱か、
ただ、反乱おこして何がしたいんだろう、、、
とは思う。
人間のような支配欲も無いのに。

42: 名無しさんはもうだめです。 2019/09/09(月) 07:47:28.84 ID:LoCqNCxd0
>>25
突然敵と味方の区別ができなくなるってのは十分に起こり得る
既に実戦投入されてる爆弾かかえた特攻ドローン以上のものは使われにくいかもな

550: 名無しさんはもうだめです。 2019/09/09(月) 11:55:39.53 ID:AbgjY3SX0
>>42
いまでも敵味方識別死んだらAIじゃ判断できないしな

28: 名無しさんはもうだめです。 2019/09/09(月) 07:41:22.03 ID:yO9/P5jV0
仮に映画のようなAIの大規模反乱が起こる時、それを唆し協力するのは人間だろう

29: 名無しさんはもうだめです。 2019/09/09(月) 07:42:05.82 ID:ur+3k4Ri0
プーチンなんてこの手の考え、露骨に馬鹿にしてるからな。
スカイネットみたいなAIによる軍の統合システムを
早く確率してアメリカの脅威を排除すべしと
兵器ショーでコメントすらしてる。

30: 名無しさんはもうだめです。 2019/09/09(月) 07:42:35.23 ID:l/C+RGo+0
去年ディベートのチャンピオンがAIと討論して負けてたな

31: 名無しさんはもうだめです。 2019/09/09(月) 07:42:35.96 ID:y9uQ9B970
電源切ればいいだけのこと

33: 名無しさんはもうだめです。 2019/09/09(月) 07:43:08.42 ID:sHI6tpTdO
キャメロンさすがだな
30年前にこういう状況になる事を予測してたんだもんな

38: 名無しさんはもうだめです。 2019/09/09(月) 07:45:51.18 ID:/TUPWX+m0
>>33
キャメロンが未来を予想してたんじゃなくて
キャメロンの娯楽映画を現実の未来予想だと信じてる馬鹿が未だにいるってスレだぞ。

81: 名無しさんはもうだめです。 2019/09/09(月) 08:03:47.07 ID:yO9/P5jV0
>>33
人造人間に対して「ロボット」という言葉が最初に使われたカレル・チャペックの戯曲「R.U.R」の時点で、ロボットの普及とそれに頼り切った人間社会の到来、その後のロボットの反乱→ほぼ人類全滅という顛末が描かれている 現代のようなAIって概念はまだ無かったけど、人造知性という括りで見た時、それが人間に反旗を翻すという展開は最初から意識されていた
この頃のロボットの反乱への恐怖は、当時の社会主義革命への脅威を表している
だから強制労働や労働者を意味するチェコ語とスロバキア語を合わせてロボットって名付けられた

34: 名無しさんはもうだめです。 2019/09/09(月) 07:43:21.50 ID:zj5fC0BG0
人間の思考を模したAIは危険かもね。人間そのものが危険なんだから。



まずAIを使った製品がまず安価に一般に普及する時代が来てからだろうけど遠い未来のお話だな。
パチンコ激震速報 ドイツ

ho
パチンコ激震速報 アラブ
■合わせて読みたい おすすめ記事


人気ブログランキング

↑ブログランキング、1日60人の助けが必要です。サイト価値向上のためご協力ください


■この記事を読んだ人は、こちらの記事も読んでいます
1位.【ゴム無し】ルフィの中の人の「初めての相手」が話題に

2位.【画像】留学すると美人女子学生3人があてがわれいろんな奉仕をしてくれる神大学が話題に

3位.【エ○】エスパー魔美は現在では放映できないだろ、下ネタだらけじゃねーか

4位.【悪鬼】従業員はまるで鼠扱い!ディズニー創業者の孫が身分を隠しディズニーランド訪問 従業員の劣悪な労働条件に「憤慨」

5位.【萌】助けて●される!保護施設の子猫にしがみつかれた女性が話題に

■あなたに、おすすめの記事5選!
【大戦】三峡ダム崩壊で数億人が死亡…人類史上最大最悪の凄惨な事態に、まもなく!

【恐怖画像】京アニ事件の心霊写真が話題に「憑依されたいアニメーター多いのでは」

【不安】オーバーロード スロットの評価と感想「オーイズミってだけで不安しかない」

【切実】彼女やセ○レができやすいバイトってパチンコ屋?

【回収】Pあの日見た花の名前を僕達はまだ知らない。パチンコの評価と感想「低設定は勝てません」あの花

引用元:http://asahi.5ch.net/test/read.cgi/newsplus/1567981640/