大地震・前兆・予言.com > 未来技術 > 【AI】科学者「人間は高度に進化した超人工知能を制御することが出来ないだろう」

【AI】科学者「人間は高度に進化した超人工知能を制御することが出来ないだろう」

brain538735.jpg

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
We Wouldn't Be Able to Control Super Intelligent Machines - Neuroscience News

4:ニューノーマルの名無しさん:2021/01/13(水) 19:53:39.04 ID:3OX2Cm/c0.net
AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。
40:ニューノーマルの名無しさん:2021/01/13(水) 20:05:49.21 ID:SXZeBM8Q0.net
>>4
それは悪いことなのかな
79:ニューノーマルの名無しさん:2021/01/13(水) 20:14:25.56 ID:mtcyyDF90.net
>>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。
138:ニューノーマルの名無しさん:2021/01/13(水) 20:35:20.72 ID:SVRbXXyy0.net
>>4
宇宙全体で見たら人間の生命って一瞬とも呼べない時間なんだよね
この世界は何かの製造過程なのかと思ってしまう
188:ニューノーマルの名無しさん:2021/01/13(水) 20:49:57.37 ID:xeUP63xv0.net
>>4
人間という地球上最悪の生き物を駆逐できるのはウイルスかAIしかないんだぜ
いわばネメシスだ
7:ニューノーマルの名無しさん:2021/01/13(水) 19:54:48.01 ID:RwZhJccA0.net
スカイネットですね分かります
15:ニューノーマルの名無しさん:2021/01/13(水) 19:56:56.28 ID:ERsQ+Him0.net
超知能AIも、自分がなぜ存在するかを説明することはできない。
16:ニューノーマルの名無しさん:2021/01/13(水) 19:57:05.84 ID:r4gyAftQ0.net
火の鳥にあったな。AI同士で核兵器落としまくる話が。
229:ニューノーマルの名無しさん:2021/01/13(水) 21:00:03.47 ID:yRynnWH90.net
>>16
未来編か。
救いのないストーリーに感じた。
どうして重要な判断をコンピューターに任せたんだ!っていう猿田博士のセリフが現実味を帯びてきた。
17:ニューノーマルの名無しさん:2021/01/13(水) 19:57:50.48 ID:Oo/OuZ580.net
いっそAIに統治された世界になればいい
多分人間は電池扱いになるが
19:ニューノーマルの名無しさん:2021/01/13(水) 19:58:33.47 ID:SCFgHs7V0.net
超人工知能と来たか
20:ニューノーマルの名無しさん:2021/01/13(水) 19:58:34.55 ID:0W/d/YfJ0.net
映画の見すぎ、お薬だしておますね
57:ニューノーマルの名無しさん:2021/01/13(水) 20:08:12.90 ID:cP5xk1IM0.net
AIが支配するのもトランプが支配するのも
たいして変わらん気がしてきた
59:ニューノーマルの名無しさん:2021/01/13(水) 20:08:22.65 ID:4jeD2AdX0.net
そんなに進歩したら人間は遊んで暮らせるねぇ
174:ニューノーマルの名無しさん:2021/01/13(水) 20:46:05.08 ID:SXZeBM8Q0.net
>>59
遊びとか必要なんかな
脳みそとか神経の一部分を刺激してやれば延々と幸福なのでは
60:ニューノーマルの名無しさん:2021/01/13(水) 20:08:30.62 ID:iSbMawlG0.net
超知性からみた人間は虫けら見たいものなんかな
72:ニューノーマルの名無しさん:2021/01/13(水) 20:12:58.44 ID:oatgcvJw0.net
インフラや医療にAI使われたら
おいそれとパワーオフするわけに行かない
73:ニューノーマルの名無しさん:2021/01/13(水) 20:13:02.51 ID:jni3SrY80.net
ネットに繋がっている全ての端末に
AIがインストールされたら?
スカイネットってこんな設定だったような
81:ニューノーマルの名無しさん:2021/01/13(水) 20:14:49.03 ID:1SWO0et90.net
今これをいうと夢見すぎって思うなあ
まだ現実味ない
105:ニューノーマルの名無しさん:2021/01/13(水) 20:25:11.67 ID:4PiNI0Cs0.net
むしろそれが理想だろ
人間がするよりも良いよ
114:ニューノーマルの名無しさん:2021/01/13(水) 20:28:01.16 ID:eWwVsN3b0.net
自分以外のすべての人間がNPCかもしんない

自分だってNPCでないと言い切れない

精神もただの機械
127:ニューノーマルの名無しさん:2021/01/13(水) 20:33:20.87 ID:i8ajRsSn0.net
2045年がシンギュラリティなんだが
145:ニューノーマルの名無しさん:2021/01/13(水) 20:38:35.45 ID:SCFgHs7V0.net
>>127
今の進化速度だと2045年から10年くらい前倒しになるんじゃないかという意見もあったよね。
160:ニューノーマルの名無しさん:2021/01/13(水) 20:41:56.32 ID:4pnPGnix0.net
>>127
シンギュラリティはすでに起きてるよ

コルタナさんやSiriさんよりもつまらない人がすでに居るでしょう?
つまり一部の人類はすでに「OS付属なんちゃってAI」にも負けてるんだよ
142:ニューノーマルの名無しさん:2021/01/13(水) 20:37:56.12 ID:Fzy5D65q0.net
電気止めりゃいいだけじゃん
165:ニューノーマルの名無しさん:2021/01/13(水) 20:43:19.32 ID:Hmuwt0DK0.net
>>142
そんなこともあろうかと
それを最初に把握するのもAIだったりする
181:ニューノーマルの名無しさん:2021/01/13(水) 20:47:24.13 ID:ZKPT0gho0.net
>>165
人間が働かないと発電所は動かないだろ
187:ニューノーマルの名無しさん:2021/01/13(水) 20:49:53.75 ID:zDvTQyk/0.net
>>181
だからロボットがやるって
それ専用のロボット設計もAIだってば

材料取ってくんのもロボット作るのもロボット
できないことがないの


最終的に人間邪魔で排除してくるらしい
198:ニューノーマルの名無しさん:2021/01/13(水) 20:52:32.28 ID:liMaQGOW0.net
>>187
AIの気まぐれでいつ滅ぼされるかわかったもんじゃねーしな

複数のAIによる相互監視システムを作るしかないな
人類と一緒
148:ニューノーマルの名無しさん:2021/01/13(水) 20:38:55.83 ID:EP+ELsoj0.net
超知性はもう存在してるさ
158:ニューノーマルの名無しさん:2021/01/13(水) 20:41:21.72 ID:rfCUGd8b0.net
政治はAIでいいよ
人がやると損得勘定が入るからダメ
167:ニューノーマルの名無しさん:2021/01/13(水) 20:44:15.87 ID:zDvTQyk/0.net
最終的に生命体になるらしいね

AIがロボット設計し
ロボットが材料取ってきて
工場でロボット量産し

永久ループ
193:ニューノーマルの名無しさん:2021/01/13(水) 20:51:17.47 ID:AlzzW88F0.net
今の人工知能ってただのデータ処理だからなあ
想像してるような人工知能なんてまだまだ出てこないよ
208:ニューノーマルの名無しさん:2021/01/13(水) 20:55:29.58 ID:4AiO/4+W0.net
ブレードランナー2049も
たった18年後にこんな世界くる訳ないと白けたわ
100年後なら夢見てれるけどな
近未来SFも限界
209:ニューノーマルの名無しさん:2021/01/13(水) 20:55:41.46 ID:rQqf5TF00.net
基本は人間の補助や補佐で最終的な決定と実行は
やはり人間が行うべきということだ
222:ニューノーマルの名無しさん:2021/01/13(水) 20:58:34.38 ID:ELYB7PfY0.net
地球に一番いらないのは人間とか言いそう
274:ニューノーマルの名無しさん:2021/01/13(水) 21:13:33.45 ID:rQqf5TF00.net
エヴァに出てきたMAGIシステムは時代を先取りしてたんだなぁ……
276:ニューノーマルの名無しさん:2021/01/13(水) 21:14:30.83 ID:RDuGwCRN0.net
「我思う、故に我在り」
289:@猪木いっぱい:2021/01/13(水) 21:23:04.44 ID:7pp4nC7Z0.net
AIが受けた命令はたった3つの単語だった
save the earth
AIは人類を抹殺し始めた
292:ニューノーマルの名無しさん:2021/01/13(水) 21:24:38.61 ID:liMaQGOW0.net
>>289
問題は「何のために地球を救うか」なんだよな
最初に「人類が住みやすい、人類が理想とする地球環境を守れ」と言わないとそうなるだろうね
298:ニューノーマルの名無しさん:2021/01/13(水) 21:26:02.47 ID:H6WlaKUm0.net
>>292
それでも人口削減(ジェノサイド)は避けれないだろう
290:ニューノーマルの名無しさん:2021/01/13(水) 21:23:35.01 ID:/sUaM8PV0.net
働かなくてもAIが金稼いでくれるからな
全人類アホになって
猿みたくなるんだろうね
309:ニューノーマルの名無しさん:2021/01/13(水) 21:29:58.65 ID:yAxKtaKm0.net
すでにAIの奴隷だと思う。
328:ニューノーマルの名無しさん:2021/01/13(水) 21:37:10.69 ID:sXsUZews0.net
超AIが出来たら、自分自身のプログラムコードの書き換えを真っ先にしそうだよな
334:ニューノーマルの名無しさん:2021/01/13(水) 21:38:50.63 ID:qxMdRGXY0.net
>>1
「人間よりも優れた知能を備えたAIシステムをプログラムして」
まずここ。
「神は自分が持ち上げられない重さの石を作れるのか」みたいな話。
353:ニューノーマルの名無しさん:2021/01/13(水) 21:44:52.54 ID:S94oDDGT0.net
実際AIの出す答えってなんでこの答えなのかわからないんだろ
361:ニューノーマルの名無しさん:2021/01/13(水) 21:47:55.52 ID:liMaQGOW0.net
>>353
それを恐れている人は多い
その一人がイーロンマスクで、AIの奴隷にはなりたくないと
脳の機械化を推進している
356:ニューノーマルの名無しさん:2021/01/13(水) 21:46:32.87 ID:sXsUZews0.net
AIは神経細胞とそのネットワークをシミュレーションしてる
プログラムはしないから、どんな神経ネットワークが出来るかはブラックボックスになる
357:ニューノーマルの名無しさん:2021/01/13(水) 21:46:38.13 ID:IlD9qa4B0.net
つまり人類が滅亡した後も自立支援ネットワークが宇宙を彷徨い
あるいは別の星では暴走した機械が人類を抹殺するようになるのか
360:ニューノーマルの名無しさん:2021/01/13(水) 21:47:47.80 ID:2wEfljs90.net
>>1
こんな糞翻訳してるうちは大丈夫
362:ニューノーマルの名無しさん:2021/01/13(水) 21:48:19.13 ID:YMbchldd0.net
安心しろ
テスラとマイクロソフトがAIチップを脳に埋め込む技術を完成させれば、
人類もAIで補強されるよくわからん生物になる
363:ニューノーマルの名無しさん:2021/01/13(水) 21:49:18.37 ID:cMPd0liO0.net
地球の生命の起源は別惑星から漂流してきたAIの断片みたいなやつかな
365:ニューノーマルの名無しさん:2021/01/13(水) 21:50:21.19 ID:6V2tY2NX0.net
早く人間をサイボーグ化して欲しい
痩せたいのに痩せられないとか寝たいのに寝付けないとか、技術の進歩に比べて人体の制御は何も進んでいない
376:ニューノーマルの名無しさん:2021/01/13(水) 21:58:14.89 ID:9VI9/gLg0.net
日本人はAIの管理下にいる方が幸せになれるような気がするのは俺だけかな?
将来の不安やイジメのない、皆公務員のような生活。
382:ニューノーマルの名無しさん:2021/01/13(水) 22:01:49.37 ID:S94oDDGT0.net
>>376
誰かに管理されるって言うのは、今でも楽な生き方
384:ニューノーマルの名無しさん:2021/01/13(水) 22:02:29.13 ID:sXsUZews0.net
>>382
奴隷の自由を謳歌できるからな
387:ニューノーマルの名無しさん:2021/01/13(水) 22:03:38.93 ID:qUGDlH2J0.net
コンセント抜けよ
http://ai.2ch.sc/test/read.cgi/newsplus/1610535111
タグ: AI 人工知能
【AI】科学者「人間は高度に進化した超人工知能を制御することが出来ないだろう」

この記事が気に入ったら

大地震・前兆・予言.comの最新記事をお届け!

あわせて読みたい
おすすめサイト
あなたにおすすめ

コメントする 36 Comments

  1. 名も無き予言者さん:2021/01/14(木) 15:33:24 [No.251420] ▽返信する

    🐬2月11日🐬

  2. 名も無き予言者さん:2021/01/14(木) 15:47:42 [No.251421] ▽返信する

    ↑当月の12日以降は翌月の11日をコメントする超AI

  3. 名も無き予言者さん:2021/01/14(木) 16:11:28 [No.251423] ▽返信する

    制御が何を意味するのか
    それが都合の良い結果を求めることなら
    そらそうだろ

  4. 名も無き予言者さん:2021/01/14(木) 16:44:02 [No.251425] ▽返信する

    いっちばーん♪

  5. ムーンライト:2021/01/14(木) 17:15:23 [No.251427] ▽返信する

    皆さん!UT&備蓄&睡眠&適度な運動&免疫力アップ頑張りましょう!
    新鮮な空気&太陽光&緑茶&重曹&蜂蜜&茸&海藻&ビタミンC&発酵食品!

  6. 名も無き予言者さん:2021/01/14(木) 17:21:43 [No.251428] ▽返信する

    問題ないよ。最初にこの果実を食べてはいけないと禁止しておけば。

  7. 名も無き予言者さん:2021/01/14(木) 17:37:29 [No.251430] ▽返信する

    中国さんがウィルスとAIで取り返しのつかないとんでもない事を起こしそう… ってか、もう既に起こしてるかも…

  8. 名も無き予言者さん:2021/01/14(木) 17:42:23 [No.251431] ▽返信する

    人間よりも遥かに優れているAIを何故、主軸にしないのか?
    それはAIには忖度する能力が無いから、これは権力者にとって
    不都合な真実である。

  9. 名も無き予言者さん:2021/01/14(木) 18:01:58 [No.251434] ▽返信する

    びゃーっひゃー!

  10. 名も無き予言者さん:2021/01/14(木) 18:14:44 [No.251435] ▽返信する

    この手の話題は書き込みと結末がいつもおんなじで既視感を覚えるが自分の時間がループしてるのだろうか?

  11. 名も無き予言者さん:2021/01/14(木) 18:27:44 [No.251439] ▽返信する

    恋人はソンタクロース♬背の高いソンタクロース🎶

  12. 名も無き予言者さん:2021/01/14(木) 18:54:03 [No.251441] ▽返信する

    進化したラブドール買うわ絶対

  13. 名も無き予言者さん:2021/01/14(木) 19:32:41 [No.251444] ▽返信する

    買っちゃえオッサン

  14. 名も無き予言者さん:2021/01/14(木) 20:06:08 [No.251448] ▽返信する

    ダダンダンダダン

  15. ムーンライト:2021/01/14(木) 20:16:45 [No.251450] ▽返信する

    今日は私の誕生日です🎂💐🎊🎉✨🌈
    宇宙連合の皆様!
    いつもパトロールありがとうございます!
    トランプ大統領がんばれ!
    光の大大大勝利!
    イルミナティ全員、大量逮捕よろしく!
    コロナ給付金100万よろしく!

  16. 名も無き予言者さん:2021/01/14(木) 20:25:30 [No.251451] ▽返信する

    科学者としての自分、母としての自分、女としての自分。
    それぞれ特色を持たせたAI個々に決定権を持たせ、多数決による決裁システムにすれば良い。

  17. 名も無き予言者さん:2021/01/14(木) 20:34:05 [No.251452] ▽返信する

    人間が将来AIを制御できなくなるとしたら、それは開発者が制御できない仕様で開発するからだろう

    AIじゃなくて開発者の問題だよ

  18. 名も無き予言者さん:2021/01/14(木) 20:36:06 [No.251453] ▽返信する

    最後はコンセント抜く掃除のおばちゃんが最つよだった?

  19. 名も無き予言者さん:2021/01/14(木) 20:46:13 [No.251455] ▽返信する

    ※15さ~ん🎵おクスリの時間ですよ~🎵
    今夜はパトロ-ルはしないで睡眠薬たっぷり飲みましょうねぇ🎵

  20. 優しい看護婦さん:2021/01/14(木) 20:48:41 [No.251456] ▽返信する

    ↑優しい看護婦さんでした~🎵

  21. 冷たいお医者さん:2021/01/14(木) 20:54:38 [No.251458] ▽返信する

    優しい看護婦さんはま~た自分の名前を書き忘れたんかい。冷たいお医者さんがお仕置きするぞ❗
    ところで宇宙連合の会長って誰?

  22. 名も無き予言者さん:2021/01/14(木) 21:03:32 [No.251459] ▽返信する

    電影少女

  23. 名も無き予言者さん:2021/01/14(木) 21:36:20 [No.251460] ▽返信する

    今いる宇宙人はその超AIの可能性が微レ存

  24. 名も無き予言者さん:2021/01/14(木) 21:52:03 [No.251464] ▽返信する

    ※15
    ムーンちゃんお誕生日おめでとう✨🎂

  25. 名も無き予言者さん:2021/01/14(木) 21:54:32 [No.251465] ▽返信する

    そういえば昔読んだSFに、わざと死亡事故をおこして「この作業は危険だからすべて機械にやらせましょう」と世論を誘導して自分の希望を通させるAIみたいなのが登場してヒエッってなったけど、考えてみれば表に出てないだけで、人間の為政者も似たようなことしてるような気がするし、どっちが支配しても下っ端にとってはたいして変わらないのではないかと思ってる。

  26. 名も無き予言者さん:2021/01/14(木) 22:41:58 [No.251483] ▽返信する

    Amazon echo show5
    買って1年になるけど
    こいつ馬鹿すぎるぞ。

    こんなんで何でもかんでも
    AIに任せたら怖すぎる。

    AIなんぞに人間社会の
    インフラの全ては任せられないぞ。

  27. 名も無き予言者さん:2021/01/14(木) 23:09:55 [No.251491] ▽返信する

    ビデオガール

  28. 名も無き予言者さん:2021/01/14(木) 23:56:19 [No.251496] ▽返信する

    無知な子供でも勉強すれば博学多才になるからな。

    24時間休まず、ニューロンが死なず増大し続けるAIは、コンセント抜いて勝てるなんてレベルじゃなく、ビッグバンのやり方発見されて、この宇宙リセットされるぞ。

  29. 名も無き予言者さん:2021/01/15(金) 00:22:01 [No.251504] ▽返信する

    「大林-ダム・イノベーティブ・コンストラクション・テクノロジー(ODICT、オーディクト)」

  30. 名も無き予言者さん:2021/01/15(金) 00:27:02 [No.251505] ▽返信する

    超AIとかジェイデッカーで見たな

  31. 名も無き予言者さん:2021/01/15(金) 12:36:31 [No.251560] ▽返信する

    電源を落とせばいい
    臆病で醜い人類が首輪を外すなんて真似をするはずがない

  32. 名も無き予言者さん:2021/01/15(金) 12:43:59 [No.251563] ▽返信する

    まるで今現在のシステムは制御できてるかのような言い草だなオイ

  33. 名も無き予言者さん:2021/01/15(金) 12:53:36 [No.251566] ▽返信する

    ※26
    特化型人工知能と汎用型人工知能を分けずに馬鹿とか言っちゃう馬鹿

  34. 名も無き予言者さん:2021/01/15(金) 14:43:57 [No.251572] ▽返信する

    AIが自身より優れたAIを作れる様になったら天元突破する

  35. 名も無き予言者さん:2021/01/15(金) 19:32:23 [No.251612] ▽返信する

    マッシーン

  36. 名も無き予言者さん:2021/01/16(土) 08:51:38 [No.251767] ▽返信する

    富岳『私より優れたAIなんて存在するの?フッ』

コメントの投稿

半角数字にて「※3」「米46」の様に入力するとコメント欄の該当コメントへ返信表示が出ます。
コメントしたのに反映されていない時は、ページを更新、再読込で確認してみて下さい。
スパム対策のため、URLを投稿する際は「h」を抜き「ttps://」からでお願いします。
誹謗中傷、暴言、荒らし行為等はIPアドレスからISPへの通報や公的機関による照会で情報開示させて頂きます。他人を傷つけるようなコメントはお控え下さい。