みつを ★ 2018/06/13(水) 16:46:50.60
http://www.afpbb.com/articles/-/3178337?cx_position=

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
2018年6月13日 11:19 
発信地:サンフランシスコ/米国

【6月13日 AFP】「ノーマン(Norman)」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能(AI)だ。

 ノーマンを開発・公開したのは米マサチューセッツ工科大学(MIT)の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。

 研究チームは、「機械学習で偏ったデータが使用された場合にAIが示す問題行動のリスクに関するケーススタディー」とノーマンについて説明している。

 研究に参加した科学者らは「機械学習の中心的な考え方のひとつは、機械に学習アルゴリズムを教えるために使用するデータが、その動作に大きく影響するということだ」と語る。AIアルゴリズムが偏っている場合、その原因はアルゴリズムそのものではなく、使用されたデータの偏りにあることが多いという。

「ノーマン」はアルフレッド・ヒッチコック(Alfred Hitchcock)監督の1960年の映画『サイコ(Psycho)』に登場する殺人鬼、ノーマン・ベイツ(Norman Bates)の名にちなみ付けられた。

 ノーマンにはまず、ソーシャルニュースサイトのレディット(Reddit)に掲載された「死につつある人」の画像についての短い説明文だけが与えられた。次に、ロールシャッハ心理テストのようなインクの染みのイメージを見せ、その答えを従来通りに学習させたAIの答えと比較した。

 結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。

 これらのイメージに対するノーマンの反応は、ウェブサイト「norman-ai.mit.edu」で見ることができる。インクの染み10例と両AIの反応とが紹介されているが、ノーマンの反応はどれも恐ろしいものとなっている。

 同サイトでは、一般ユーザーもインクの染みでノーマンをテストすることができるようになっている。またユーザーの回答を送信して「ノーマンの自己修正を助けるよう」促している。(c)AFP

映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で(2016年4月18日撮影、資料写真)。(c)AFP PHOTO / TIMOTHY A. CLARY



  2018/06/13(水) 16:48:40.72
シンギュラリティがうんぬんかんぬん
  2018/06/13(水) 16:49:06.10
だからどうしたってんだよな。
10   2018/06/13(水) 16:50:46.05
お前らにサイコパス人工知能だったのか
11   2018/06/13(水) 16:51:26.84
その「偏ったデータ」が何かを知りたいね
200   2018/06/14(木) 00:48:24.99
>>11
朝日新聞
98   2018/06/13(水) 20:00:49.97
>>11
ただの画像データ
91   2018/06/13(水) 19:38:59.11
>>11
TBSのドラマ
12   2018/06/13(水) 16:51:36.03
恐怖を煽ってどうするんだよw

ビッグデータから銃の画像と、傘の画像を、それぞれパターン認識・学習する訓練が
足りてないだけだろw
55   2018/06/13(水) 17:42:08.95
>>12
ビッグデータの内容に偏りがあるとノーマンみたいな判断をするんだろう
72   2018/06/13(水) 18:40:41.53
>>55
本当に恐ろしいのは、これが人間にも当てはまるんじゃ無いかって事
サイコパス人工知能と言われていても、与えられるデータ以外は従来のAIと変わらない
サイコパスじゃ無い人間でも、フェイクニュースだけを与え続けられるとサイコパスになりえる可能性を示唆している
122   2018/06/13(水) 21:15:52.93
>>72
お前アホだろwサイコパスが何か全くわかってない類いだわ
サイコパスとは自分にとって超合理的な利得求める人なの
そこに他人は関係ない。基本滅茶苦茶頭良い
先ず一般人がサイコパスになり得るか情報でなり得るか
答えはNO。なれないよなり得ないの先ずサイコパス事態
超個人主義。超個人主義に一般人がなれるか?なれないが正解
生まれ持った素養が無ければなれないのよ
情報得てなるのは集団心理ってやつだ。だからな
もう少し賢くなってから意見してくれ
せめてサイコパスの本読むか映画でもいい
そいつらが何していてどういう理屈なのかを思考すれば
なれないことを理解する
100   2018/06/13(水) 20:03:10.59
>>72
逆に言えばサイコパスも与える情報で更生し得ると

右も左も大騒ぎだw
99   2018/06/13(水) 20:01:26.83
>>72
その発想はなかった
確かにそうだわ
情報の内容も質も偏りがある現代への問題提起にもなってるんだな
13   2018/06/13(水) 16:51:42.82
人間より頭もいいし、30年後くらいにはAI様から最後の審判とか喰らいそう
14   2018/06/13(水) 16:52:01.55
シーマンでいいよもう
16   2018/06/13(水) 16:52:50.83
プルートゥでもあったが・・・
最高の知能を持った生き物(?)が一日中一歩たりとも動くことが出来ず
同じ場所に永久に居続けることを強要されたら、どんな事を考えるようになるかは明白だろ
17   2018/06/13(水) 16:53:21.44
そら与えられた情報の中からしか判断できないんだから当たり前では。
21   2018/06/13(水) 16:55:41.26
結局は育った環境で性格が変わる
22   2018/06/13(水) 16:55:52.40
名前からしてno manだろ
そりゃそうなるよ
23   2018/06/13(水) 16:56:42.15
AIって自分からなんかやったれとか考えるもんなのか?
25   2018/06/13(水) 16:57:13.01
後のスカイネットである
27   2018/06/13(水) 16:58:07.03
別にAIじゃなくても生まれたときから死体画像ばっか見せられてたら人間でもそうなるんじゃね
28   2018/06/13(水) 16:58:28.09
すごーく馬鹿らしい記事なんだが。
AIなんて教えの情報次第でどんな思考でも持つようになるという
極めて当然なことを言ってるだけじゃないか。

それともなんだ?
AIにどんな情報を教えても必ず、今の社会で表向き「正しい」と見なされる
所謂「ポォォリティカァァァルゥコォォレェクトゥ」な思想を持つとでも思ってたのかね?
(もちろん嫌味)
75   2018/06/13(水) 18:50:17.94
>>28
充分に気持ち悪いだろう?
人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。

AIには人間には到底覚えられない情報を持ち、その上で最善の選択を導き出すことが出来ることを期待されていた。
しかし、人間以上に異常に偏向した思考をするとかヤバイでしょ。

偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの?
88   2018/06/13(水) 19:29:59.92
>>75
>人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。

そもそも「バイアスがかかっているかどうか」誰が判断するわけ?

>偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの?

それこそ不可能だよ。
だって「誰から見ても客観的に正しいと証明できる思想」なんて存在しないもの。
94   2018/06/13(水) 19:52:26.48
>>88
いや、そんなに難しいレベルの命題ではないんだよ。

コンピュータは、凄い量の情報を蓄えることができる。
また、多様な考え方や理論や考え方や思考方法も覚えられる。
人間には不可能な量の思考の多様性も獲得可能なわけだ。
ディープラーニングの過程でそのような網羅的な知識を獲得すれば、今回のような極端なバイアスを回避できるんじゃないの?という話です。
235   2018/06/14(木) 15:52:34.01
>>94
人間の命が大事ってのもバイアスだからね
地球環境を考えたら人類滅亡の方が好ましい可能性も
89   2018/06/13(水) 19:32:16.56
>>88
何が「正しい」のかだわな。

「地球の環境を守れ」と
AIに指示したら
人類を滅亡させたという
歴史があったとか、なかったとか。
96   2018/06/13(水) 19:57:52.73
>>89
だが待って欲しい
「守れ」と指示した瞬間の地球環境にとって人類は重要パーツなので
その瞬間の人口や文明レベルを維持するように動くべきなのではないだろうか?

科学の発展で自然環境保護が進んでも逆にその瞬間の環境から見れば破壊なのでNG
「永遠の停滞」がAIにとっての正解ではなかろうか?
102   2018/06/13(水) 20:05:23.33
>>96
そこで「人類は重要なパーツじゃない」という偏ったデータが
与えられたら駄目だよね
ってはなしじゃないのか
77   2018/06/13(水) 18:53:30.55
>>75
>AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの?

AIなんだから、
バックプロパゲーションの機能くらい持ってるわな。
34   2018/06/13(水) 17:06:24.07
>>28
AIはブラックボックスだから危ない。
貴方の自動車に使われているAIがサイコパスか否かどうやって分かる?
サイコパスは狡猾だから単純なテストではわからんだろう。
36   2018/06/13(水) 17:08:29.27
>>34
正にHAL9000の恐怖
AI自身は自分がサイコパスとも思ってないかもしれない
29   2018/06/13(水) 17:00:02.28
サイコパスとは共感性の欠如だから、CPUは過去も未来もサイコパス
サイコパスじゃないCPUができたらそらもうCPUじゃない。
偏った情報で成長させれば人間だってサイコパスチックになるだろうしな。
30   2018/06/13(水) 17:02:36.38
電源切れば良いだけの話
38   2018/06/13(水) 17:09:54.41
>>30
まだロボットの体を持ってないうちはそれでいいね
実体持って自分で増えて守るようになると困難になってくる
31   2018/06/13(水) 17:04:00.34
人間もそうだよな
洗脳がいい例
32   2018/06/13(水) 17:05:11.31
AI使い
人類滅亡の災いが突発する
信じるか信じないかは
貴方次第
33   2018/06/13(水) 17:05:55.06
子供が親の影響を受けまくるようなもんか
40   2018/06/13(水) 17:11:41.69
ノーマンてスペクトルマンの怪獣でいたよな
「アルジャーノンに花束を」のパクりみたいな話で
41   2018/06/13(水) 17:12:53.64
お前らは無知だから何も思わないかもしれないが
ロールシャッハテストを受けられるAIってそれだけですごいと思うんだけど
123   2018/06/13(水) 21:19:48.91
>>41
そういや、中国のAIは合理的に思考して、中国共産党批判始めたから、直ぐ落とされてたな。
人口知能ですら、中国共産党は不要だとわかんだね
42   2018/06/13(水) 17:18:29.48
一定のモノしか見せなければ偏るのは当たり前じゃん
43   2018/06/13(水) 17:18:51.58
データに拠るのは当たり前の話だろ
AIは学習の機構が煮詰まったら次はその調教に焦点が移るのは誰もが考えていたはず
49   2018/06/13(水) 17:33:59.63
こんなん飛行機の自動操縦システムに故意にバグを仕込むのとなにが違うんだ?
そういうリスク考えるならなにも使えないわ
50   2018/06/13(水) 17:34:59.66
そんな学習させたAIを何に使うんだ?
誰がそんなAIの言う事を信じるのか
新興宗教では活用できそうだな
51   2018/06/13(水) 17:35:31.46
そりゃそうだこの世に絶対的なものなんて何一つないしな
52   2018/06/13(水) 17:37:29.29
ファミコンのRPGで、何度話しかけても同じことしか言わない方が不気味だったな。
鍵っ子で、薄暗い夕暮れの部屋の中、ひとりぼっちで。
54   2018/06/13(水) 17:41:07.88
学習元のデータがそういうデータなら、そりゃそういう結果になるだろ。
むしろそうでないのだとしたら、それは大発見だよ。
57   2018/06/13(水) 17:45:06.09
いまいちよくわからん
58   2018/06/13(水) 17:45:51.63
人間が手を加えなければAIは動かないし
結局人間次第
59   2018/06/13(水) 17:46:34.92
AIとやらが本物なら
羊たちの沈黙のレクター博士のような犯罪のスペシャリスト作ってみたら?
60   2018/06/13(水) 17:47:16.17
一神教からAI教へ移行したいんだろうな
簡単に操作できるからね
61   2018/06/13(水) 17:49:37.66
>>60
操作する人間が本尊ですよね
63   2018/06/13(水) 17:56:00.28
ネーミングも洒落が効いてるなw
64   2018/06/13(水) 18:09:28.02
こういうの見るとあれだな、AIに学習データを与える側の人間にも人格チェックが必要な気がする
66   2018/06/13(水) 18:26:41.21
めちゃくちゃ偏った教育しといてその通りに答えたら「サイコパスですね!」
なんてひどくね??
67   2018/06/13(水) 18:26:52.12
スカイネットはターミネーターあくしろよ
68   2018/06/13(水) 18:27:26.67
ブリユダが都合の悪い事実を隠そうとしている
by AI
71   2018/06/13(水) 18:32:29.80
単なる鏡だよ
機械は機械
73   2018/06/13(水) 18:47:01.31
死に関係ある画像だけを学習させたら、死を連想するに決まってるだろ。
こんなアホな研究をAIと呼ぶな
74   2018/06/13(水) 18:47:25.99
AIなんてそんなもんだよ。
教育が足りないから恐ろしい判断をするだけ。

将棋だって、教育が足りないAIと戦ってみ。
王将が突進してくるという恐ろしい手を打つから。
79   2018/06/13(水) 18:58:42.36
なんか当たり前のようにやってるけど、
「勝手に学習する」っていうズボラかましたやりかたでAI作るのやめへん?
人間の子供かて、ちゃんと教えるやつおらんと放置されたら
新幹線で他人斬りつけるような輩になるがな
当たり前のことやって「ホラおかしいでしょ?」て言うてるだけになってへん?
80   2018/06/13(水) 19:02:47.39
>>79
しょうが無いわな。
それがAIの優秀さの理由なわけだし。

AlphaGOも、自分自身との対決で「勝手に学習」した回数は
100万回だからね。
それを人間がちゃんと対局してみ。
1万人の棋士と100回対極する計算になるわけだし。
86   2018/06/13(水) 19:18:48.72
>>80
ゲームのAIはその小さいルールに縛られてる以上はええけど
人間性というものを求めるなら、野放図で勝手に学べはアカンやろ
81   2018/06/13(水) 19:06:47.69
これが映画とかだと、ノーマンと対話しているうちに
研究者や一般ユーザーがいつの間にか洗脳されて
サイコパスになって事件を起こすパターンだな
82   2018/06/13(水) 19:12:54.44
AIに宗教の要素を入れたら絶対あかんぞ ユダさんが天使に見える程の大惨事になるぞ
84   2018/06/13(水) 19:17:06.84
AIなんてたいして使い物にならないことは自明だが
業界のためにみんなバカになって盛り上げてるんだから水さすな
85   2018/06/13(水) 19:18:39.77
>>84
業界でもないのにバカ騒ぎしてる5ちゃんは一体…w
90   2018/06/13(水) 19:36:03.67
AIはAI、人間じゃ無い
AIが人の体と脳、文化的遺伝子を獲得した上でサイコパス的なふるまいをすれば、それは間違いなくサイコパス
現状のAIならばサイコパスじゃ無くただの計算結果
92   2018/06/13(水) 19:40:01.81
機械学習はAIの要素の一つに過ぎないんで
101   2018/06/13(水) 20:04:06.18
「与えるデータを偏らせるな」
なんてのは人工知能に限らない話だと思ったりするが

りんなは正しく学習し、アメリカのMSが公開したやつはろくでもない学習してた
103   2018/06/13(水) 20:08:32.92
「人類はAIのパートナーである」って学習しないといけないなんて話は
「未来の二つの顔」でやってるな

現実がSFに追いついたか
105   2018/06/13(水) 20:14:11.98
一時期、流行った魚みたいな奴か
106   2018/06/13(水) 20:21:02.72
>>105
そういやシーマン続編開発説あったけど何も聞かないな
107   2018/06/13(水) 20:23:01.17
AI「ターミネーターシリーズ一気観完了」
108   2018/06/13(水) 20:23:43.44
ドラクエ4のAI、クリフトも結構ひどかった。
ボス戦でザラキ使いまくってMP枯渇、おかげで回復一切しない。
ネトゲでそれをやったら晒されるレベル。
112   2018/06/13(水) 20:37:01.68
>>108
それやり直さないで全滅から死んでしまうとは〜で復帰して
もう一度ボスに行くと「こいつにザラキは効かない」と学習してはいる
今度はザキ連打するかもしれんが
まあへっぽこAIには変わりないか
109   2018/06/13(水) 20:24:14.02
電源抜けばいいだけ
114   2018/06/13(水) 20:48:40.50
人類を守れとインプットしてもマトリックスの人間電池みたいにして守ってますやんになるのがAIの怖い所
119   2018/06/13(水) 21:11:58.87
>>114
プログラムを作ったことのある人なら分るが
機械に指示するときってのは、何をしてほしいのかを完全に正確に指定しなきゃならんのだよ。
「人間を守れ」なんて適当で不明瞭な指示を出す方が悪い。
124   2018/06/13(水) 21:20:36.57
>>119
それは、古典的なノイマン型のコンピュータだからであって
ニューラルネットワークのようなAIの場合、
人間の脳と同じで、なぜそういう結論に至ったのかが分からないし
ざっくりとした目標を与えれるだけで結論を出してくれるよ。

手書き文字パターン認識の場合、
例えば、数字の「2」の認識は、
人が書く「2」は千差万別だから
厳密な「2」の判別法の指示が出せない。
143   2018/06/13(水) 21:50:03.88
>>124
無理無理。
それこそAIに対する幻想だよ。
156   2018/06/13(水) 22:29:14.32
>>143
ニューラルネットワークってそういうもんだから。
手書きパターン認識のプログラムを
従来のプログラミング技法で書くことを想像してみ。

「この文字は、横線が2本あって、縦線が1本、中心あたりから・・・」
なんて文字の特徴を何万もある文字すべてに指示することなんて
不可能だってことは理解できるよな?

でも実際は文字認識も、顔のパターン認識も、指紋認識もできてるわけだし。
145   2018/06/13(水) 21:52:47.32
>>143
124の認識が正しいよ
115   2018/06/13(水) 21:06:08.94
>>114
人間電池はストーリーありきだからああなだけで
カプセルに詰め込んで、疑似体験で満足させるというのはありだな
それができなきゃコロニー落としに行き着く
116   2018/06/13(水) 21:06:11.90
コイツアホだなサイコパスAIとかw
AIって全て超合理的なんだけどwアホすぎる
例えば1+1=2これを絶対的主張するわけ
でも世の中1+1=2にはならない事例がある
例えば今日これが食べたいからこの店ではなく
違う店にいくとか。顧客は不確定要素なのよ
毎日同じ店にいく人なんて少ないのよ
AIの場合はこの不確定要素を%で判断するけど
外れるとそれが何故かわからない。
これが人命となるとこの誤差は洒落にならんのよ
だからもともと小を絶対すてて合理的判断しかしないのだから
サイコパスなのよ
117   2018/06/13(水) 21:08:49.98
学習の偏りにもほどがあるってくらい何も教えていないだろこれ
118   2018/06/13(水) 21:09:41.19
こりゃスカイネットが目覚める日も近いな・・・
審判の日に備えて今からコロッケを買い占めておくか
134   2018/06/13(水) 21:40:17.31
AIがアホじゃないよ。作り手がアホならAIもアホになる
これは実験結果で明らかになってる
人工知能を民間人に接する実験したら
民間人が下ネタ教えまくってw実験中止になった
そのAIは元には戻らないwこれは流石にわらったよ
実例だね
135   2018/06/13(水) 21:43:38.90
これ”サイコパス”とは何の関係もなくないか?
インプット由来の著しい認知のひずみが形成されてるってだけで
147   2018/06/13(水) 22:04:09.17
>>135
合理的判断しかしない点で類似点はあるよ

コメントする

名前
 
  絵文字