大地震・前兆・予言.com > 未来技術 > 【アメリカ】サイコパス型の人工知能「ノーマン」が誕生…AIの潜在的リスクに警鐘

【アメリカ】サイコパス型の人工知能「ノーマン」が誕生…AIの潜在的リスクに警鐘

AI_124552.jpg

【6月13日 AFP】「ノーマン(Norman)」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能(AI)だ。

 ノーマンを開発・公開したのは米マサチューセッツ工科大学(MIT)の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究 写真1枚 国際ニュース:AFPBB News

6:名無しさん@1周年:2018/06/13(水) 16:48:40.72 ID:0VRv1sFb0.net
シンギュラリティがうんぬんかんぬん
11:名無しさん@1周年:2018/06/13(水) 16:51:26.84 ID:xlGri8IU0.net
その「偏ったデータ」が何かを知りたいね
12:名無しさん@1周年:2018/06/13(水) 16:51:36.03 ID:ZZl1L+nO0.net
恐怖を煽ってどうするんだよw

ビッグデータから銃の画像と、傘の画像を、それぞれパターン認識・学習する訓練が
足りてないだけだろw
55:名無しさん@1周年:2018/06/13(水) 17:42:08.95 ID:7iCnTPFO0.net
>>12
ビッグデータの内容に偏りがあるとノーマンみたいな判断をするんだろう
72:名無しさん@1周年:2018/06/13(水) 18:40:41.53 ID:OnvgLzfj0.net
>>55
本当に恐ろしいのは、これが人間にも当てはまるんじゃ無いかって事
サイコパス人工知能と言われていても、与えられるデータ以外は従来のAIと変わらない
サイコパスじゃ無い人間でも、フェイクニュースだけを与え続けられるとサイコパスになりえる可能性を示唆している
スポンサーリンク
99:名無しさん@1周年:2018/06/13(水) 20:01:26.83 ID:m1o4kk620.net
>>72
その発想はなかった
確かにそうだわ
情報の内容も質も偏りがある現代への問題提起にもなってるんだな
13:名無しさん@1周年:2018/06/13(水) 16:51:42.82 ID:SAPqLI7k0.net
人間より頭もいいし、30年後くらいにはAI様から最後の審判とか喰らいそう
21:名無しさん@1周年:2018/06/13(水) 16:55:41.26 ID:9gR004mI0.net
結局は育った環境で性格が変わる
22:名無しさん@1周年:2018/06/13(水) 16:55:52.40 ID:W2N5YU2S0.net
名前からしてno manだろ
そりゃそうなるよ
23:名無しさん@1周年:2018/06/13(水) 16:56:42.15 ID:D3Ph/DEL0.net
AIって自分からなんかやったれとか考えるもんなのか?
24:名無しさん@1周年:2018/06/13(水) 16:57:00.06 ID:Lp+9DLdA0.net
「政府判断は絶対」「政府の組織を後ろ盾に政府の役職を掲げて喋る偉いさん最強」
これを政府の役人から学ばせた上で行政を担わせる社会実験をだな、
25:名無しさん@1周年:2018/06/13(水) 16:57:13.01 ID:CpzusFn90.net
後のスカイネットである
29:名無しさん@1周年:2018/06/13(水) 17:00:02.28 ID:rRv69wQy0.net
サイコパスとは共感性の欠如だから、CPUは過去も未来もサイコパス
サイコパスじゃないCPUができたらそらもうCPUじゃない。
偏った情報で成長させれば人間だってサイコパスチックになるだろうしな。
31:名無しさん@1周年:2018/06/13(水) 17:04:00.34 ID:6blzRvbX0.net
人間もそうだよな
洗脳がいい例
32:名無しさん@1周年:2018/06/13(水) 17:05:11.31 ID:dbj6i+7U0.net
AI使い
人類滅亡の災いが突発する
信じるか信じないかは
貴方次第
33:名無しさん@1周年:2018/06/13(水) 17:05:55.06 ID:dX33FyhD0.net
子供が親の影響を受けまくるようなもんか
41:名無しさん@1周年:2018/06/13(水) 17:12:53.64 ID:8BiEUD2B0.net
お前らは無知だから何も思わないかもしれないが
ロールシャッハテストを受けられるAIってそれだけですごいと思うんだけど
42:名無しさん@1周年:2018/06/13(水) 17:18:29.48 ID:zk694JkQ0.net
一定のモノしか見せなければ偏るのは当たり前じゃん
43:名無しさん@1周年:2018/06/13(水) 17:18:51.58 ID:Pt84o7iQ0.net
データに拠るのは当たり前の話だろ
AIは学習の機構が煮詰まったら次はその調教に焦点が移るのは誰もが考えていたはず
45:名無しさん@1周年:2018/06/13(水) 17:26:26.39 ID:GXkgmxPE0.net
ここみたいな掲示板ばかり見てたら偏った人間になるのと同じようなものか
51:名無しさん@1周年:2018/06/13(水) 17:35:31.46 ID:xJONgaNn0.net
そりゃそうだこの世に絶対的なものなんて何一つないしな
54:名無しさん@1周年:2018/06/13(水) 17:41:07.88 ID:uwe+jFAp0.net
学習元のデータがそういうデータなら、そりゃそういう結果になるだろ。
むしろそうでないのだとしたら、それは大発見だよ。
57:名無しさん@1周年:2018/06/13(水) 17:45:06.09 ID:+qKxCi7x0.net
いまいちよくわからん
60:名無しさん@1周年:2018/06/13(水) 17:47:16.17 ID:kP0/Hwpr0.net
一神教からAI教へ移行したいんだろうな
簡単に操作できるからね
66:名無しさん@1周年:2018/06/13(水) 18:26:41.21 ID:8voz6eNr0.net
めちゃくちゃ偏った教育しといてその通りに答えたら「サイコパスですね!」
なんてひどくね??
92:名無しさん@1周年:2018/06/13(水) 19:40:01.81 ID:PmTRYQ5z0.net
機械学習はAIの要素の一つに過ぎないんで
103:名無しさん@1周年:2018/06/13(水) 20:08:32.92 ID:X6mnNwWw0.net
「人類はAIのパートナーである」って学習しないといけないなんて話は
「未来の二つの顔」でやってるな

現実がSFに追いついたか
111:名無しさん@1周年:2018/06/13(水) 20:33:37.74 ID://kAe7Z+0.net
はやくAIの氾濫が起きて人間対AIの世界大戦を始めてほしいわ
113:名無しさん@1周年:2018/06/13(水) 20:44:21.87 ID:E0UHLXEV0.net
包丁怖いって言ってるようなもんだな
114:名無しさん@1周年:2018/06/13(水) 20:48:40.50 ID:nW1gaRmm0.net
人類を守れとインプットしてもマトリックスの人間電池みたいにして守ってますやんになるのがAIの怖い所
115:名無しさん@1周年:2018/06/13(水) 21:06:08.94 ID:PmTRYQ5z0.net
>>114
人間電池はストーリーありきだからああなだけで
カプセルに詰め込んで、疑似体験で満足させるというのはありだな
それができなきゃコロニー落としに行き着く
119:名無しさん@1周年:2018/06/13(水) 21:11:58.87 ID:aU6mHAeC0.net
>>114
プログラムを作ったことのある人なら分るが
機械に指示するときってのは、何をしてほしいのかを完全に正確に指定しなきゃならんのだよ。
「人間を守れ」なんて適当で不明瞭な指示を出す方が悪い。
124:名無しさん@1周年:2018/06/13(水) 21:20:36.57 ID:nZuZ4vEN0.net
>>119
それは、古典的なノイマン型のコンピュータだからであって
ニューラルネットワークのようなAIの場合、
人間の脳と同じで、なぜそういう結論に至ったのかが分からないし
ざっくりとした目標を与えれるだけで結論を出してくれるよ。

手書き文字パターン認識の場合、
例えば、数字の「2」の認識は、
人が書く「2」は千差万別だから
厳密な「2」の判別法の指示が出せない。
143:名無しさん@1周年:2018/06/13(水) 21:50:03.88 ID:aU6mHAeC0.net
>>124
無理無理。
それこそAIに対する幻想だよ。
145:名無しさん@1周年:2018/06/13(水) 21:52:47.32 ID:2o0K+Lgj0.net
>>143
124の認識が正しいよ
156:名無しさん@1周年:2018/06/13(水) 22:29:14.32 ID:nZuZ4vEN0.net
>>143
ニューラルネットワークってそういうもんだから。
手書きパターン認識のプログラムを
従来のプログラミング技法で書くことを想像してみ。

「この文字は、横線が2本あって、縦線が1本、中心あたりから・・・」
なんて文字の特徴を何万もある文字すべてに指示することなんて
不可能だってことは理解できるよな?

でも実際は文字認識も、顔のパターン認識も、指紋認識もできてるわけだし。
139:名無しさん@1周年:2018/06/13(水) 21:46:27.21 ID:JXZtnxeO0.net
ノーマン→No Man→人でなし

中々上手いな
148:名無しさん@1周年:2018/06/13(水) 22:05:36.14 ID:2lx/m/on0.net
悪い情報と肯定には触れない、これだね
人間は局所的な生物だから自分の周囲しか認知できない
外の世界があるのか自分では知れない
誰か連れ出してくれるか運良く出られるか
151:名無しさん@1周年:2018/06/13(水) 22:14:03.87 ID:v30KxoAp0.net
必ず悪い事をする奴はいる訳で悪意のあるAIを作る奴は出てくる
未来が必ずしも明るいとは限らない
http://ai.2ch.sc/test/read.cgi/newsplus/1528876010
【アメリカ】サイコパス型の人工知能「ノーマン」が誕生…AIの潜在的リスクに警鐘

この記事が気に入ったら

大地震・前兆・予言.comの最新記事をお届け!

コメントする 17 Comments

  1. 名も無き予言者さん:2018/06/14(木) 11:13:13 ▽返信する

    ス・ノーマン・パー
    byクレヨンしんちゃん

  2. 名も無き予言者さん:2018/06/14(木) 11:56:48 ▽返信する

    電源切れば、おしまいだろ?

  3. 名も無き予言者さん:2018/06/14(木) 12:35:52 ▽返信する

    66みたいな人は、機械にも愛されるよ
    たぶん

  4. 名も無き予言者さん:2018/06/14(木) 12:47:48 ▽返信する

    あんたぁ、AIにも愛はあるんか?
    本当の愛は、あるんか!?

  5. 名も無き予言者さん:2018/06/14(木) 13:12:57 ▽返信する

    あははは

  6. 名も無き予言者さん:2018/06/14(木) 13:21:27 ▽返信する

    毒親の元で育った子供とか…

    人の厚意が悪意に見えるとか…マインドリーディングってやつかな。
    それに似てるかな。

  7. 名も無き予言者さん:2018/06/14(木) 14:38:07 ▽返信する

    電源切ればオシマイとは言うが、それが重要なシステムであるなら簡単に切れるようになってる訳がない。
    インフラとか管理関係にAIが採用される時が来たら本当にそれが終わりの始まり。
    人間の力ではAIを止められなくなる。

  8. 名も無き予言者さん:2018/06/14(木) 17:43:02 ▽返信する

    AI に愛はあるか?//其れを作る者に愛あらばその者が作りしAIは愛をも包含するだろう。其れを作りし者が支配と服従の世界を望むならその者が作りしAIは世界中を支配せんと試みる。「一つの未来」だが人とロボットの間の「愛」と言う世界もあるのやも知れぬ。アニメの中で其れは描かれている、愛とは相手を思い遣る気持ちだ、其れは人が機械に対しても持つものではないだろうか?「愛車」などと言う言葉もあるのだ、長年連れ添い「苦楽を共にした機械」に対し愛情を持つことは決して悪いことでは無い。尤も「生身の人間」に対しての興味を失い其処から逃げる場所となると「子孫の繁栄は困難」となる。

  9. 名も無き予言者さん:2018/06/14(木) 17:54:51 ▽返信する

    フランス北部で豪雨がありかなりの災害が出ている、
    コロンビアでも火山が噴火し火山性地震が生じている
    「米朝首脳会談」がなされて地上は確実に「世界平和」へと向かっている。僅か三年前には第三次世界大戦は不可避などと言われていたことを思い出す。多次元人類から見た地上の方々は大変に興味深く、「破滅寸前」の状況から生存の為に残されし「僅かの道」を駆け上り急速に次元上昇(固有周波数の上昇)を成し得た種族と言う認識を彼らは持つ。私は今の「時」を大事に地上に「時と言うかせ」と「肉体」を与えられ学べる事に感謝する。この「今」を戦争から平和へと切り替わる「今」を生きれる事に喜びを感じたい。
    地上は「本格的な浄化作用の始まり」と戦争から平和への「切り替わりの時」を迎えた。是非今の時代を生きれる事に感謝し時代を感じ取って頂きたい其れは目先のお金よりも大切なことだ。

  10. 名も無き予言者さん:2018/06/14(木) 18:01:54 ▽返信する

    AIがとまらない

  11. 名も無き予言者さん:2018/06/14(木) 18:07:58 ▽返信する

    本当の愛//其れは究極的には大地や自然を大切に思うことに他ならぬ。「肉親の生存」「一族の繁栄」
    「のみ」を願い欲す事は地上の調和を乱し最終的にその種族は破滅に一歩づつ近づく。調和をバランスを自然や他の種族との間で取る事が究極的な愛だろう。
    多くの地上の方々は「肉親の愛」は理解するも「地球」と言う母の存在と子である地上の生物の関係を理解しようとせぬ「地球あっての」肉親の愛だと気づいて頂きたい。

  12. 名も無き予言者さん:2018/06/14(木) 22:11:07 ▽返信する

    ↑サイコパス登場

  13. 名も無き予言者さん:2018/06/14(木) 23:08:39 ▽返信する

    いや、、、ただその~、僕はねぇ?
    非常に言いづらいんだけど、全部言っちゃうね!?
    AIと愛をかけまして、大地真央のCMみたいに
    愛はあるんか?とコメントしたんだけども。
    しばらくしてここに来たら何やら難しい話になってて、ただただ驚いてます、、はい。
    軽い気持ちでコメントしてました!
    すんません!
    愛をナメてました!!!m(__)m

  14. わいも世紀末に備えるパターン:2018/06/14(木) 23:17:18 ▽返信する

    まあ、これも世紀末ってこと。

    さ、みなさん、筋トレ、筋トレ・・・。
    モヒカンにして「ヒャッホー!」と叫ぶ時代が、もうすぐ、そこまで来ているのです。

  15. 名も無き予言者さん:2018/06/15(金) 02:19:20 ▽返信する

    エクスマキナ

  16. 名も無き予言者さん:2018/06/15(金) 03:37:50 ▽返信する

    量子コンピュータが完成してそれにAIが実装されてからがシンギュラリティやろ
    今のやつはアルゴリズム体操やろ

  17. 名も無き予言者さん:2018/06/15(金) 07:40:59 ▽返信する

    人間は地球の癌です  殲滅シマス

コメントの投稿

半角数字にて「※3」「米46」の風に入力すると該当コメントに表示が出ます。
スパム対策のため、URLを投稿する際は「h」を抜き「ttp(s)://」でお願いします。