2017/05/20(土) 00:27:04.10

そのAIの電源が落とされるとき、このまま永遠に電源を入れてもらえないかもしれないという恐怖を感じるもんなのかな。
または、20年後に起動されたとき、突如として経過した時間と周りの環境に寂しさを覚えるもんなのかな。



  2017/05/20(土) 00:27:04.10


  2017/05/20(土) 00:28:04.39

うんちでりゅりゅりゅりゅりゅりゅりゅりゅりゅりゅりゅううううううううううううううううううう!!!!!!!!!!!!!!!!!!!!!!!!


  2017/05/20(土) 00:28:04.94

アマデウスかな


  2017/05/20(土) 00:28:40.38

寿命(脳も含めて)は無いものとする?


  2017/05/20(土) 00:28:54.58

そう考えると、AIなんて作ってはいけない気がする。
悲しすぎる。


  2017/05/20(土) 00:29:08.03

寿命はないものとする。


  2017/05/20(土) 00:29:18.61

死なないのに死への恐怖はあるの?


  2017/05/20(土) 00:29:21.18

そんなあなたにplanetarian 〜ちいさなほしのゆめ〜絶賛レンタル中です
http://u111u.info/jT66

10 パスタ 2017/05/20(土) 00:29:38.48

句点使うな気持ちわりいな


11   2017/05/20(土) 00:30:00.05

電源ないことには動きようがないなら
電源落とされないことに全力尽くしそうやな


12   2017/05/20(土) 00:30:30.92

電源が永遠に入れられずデータが消えた場合はAIの死と定義できる気がする


15   2017/05/20(土) 00:32:06.25

例えばAIが所有者に好意を抱いたとして
所有者が忘れたまま数十年間放置された場合
とても孤独を感じると思うと辛い


16   2017/05/20(土) 00:32:09.27

そこまで賢いAIを作ると人間を駆逐し始めそう


17   2017/05/20(土) 00:32:10.64

お前ら盲腸の手術だって言われて目が覚めたら20年後に電源入れられたAIになってたらどう思うよ


35   2017/05/20(土) 00:38:02.18

>>17

歓喜する


20   2017/05/20(土) 00:34:01.29

ネットワークにアクセスして自分のコピーを増殖させて
その記憶(データ)を共有できるようなレベルに達すると
いよいよ脅威になるな
http://u111u.info/jT66

22   2017/05/20(土) 00:34:20.94

そこまで精巧なAIは当分作れないから安心しろ


23   2017/05/20(土) 00:35:27.08

俺が生きてる間は作られることはないだろうけど
記憶をデジタル化する技術くらいはできるようになりそう


26   2017/05/20(土) 00:36:11.00

東大に夏目漱石の脳保管されてるし夏目漱石が復活することもあるかもな
声は孫かなんかがボイスサンプル取ったらしいし


34   2017/05/20(土) 00:37:53.25

>>26

脳だけ復活してこの世界をみたら一体どう思うのかな
自分の友達、配偶者すべてがいなくなってしまったこの世界で生きていたいと思えるかな


44   2017/05/20(土) 00:42:24.52

>>34

さぁ
そこは漱石の考え方じゃねえかな
漱石って結構鬱の人だったらしいし塞ぎ込むかもな
たとえばポジティブな人の脳だったらもう一度生を受けた喜びに歓喜しやり直し学び直そうと思うかもしれんだろ


48   2017/05/20(土) 00:44:01.42

>>44

たしかにな
そこは主観では語れないな
人による


27   2017/05/20(土) 00:36:24.42

秘書的なAIはずっと欲しいと思ってた


28   2017/05/20(土) 00:36:41.34

記憶データだけをまるっとコピーしても自我は生まれないだろうから
とりあえずは大丈夫かな


30   2017/05/20(土) 00:37:22.18

技術的特異点はすぐそこまで迫っているからな


31   2017/05/20(土) 00:37:39.28

電源落ちてたら何も考えられんやろ〜
http://u111u.info/jT66

36   2017/05/20(土) 00:38:41.94

>>31

電源を落とされる直前に恐怖を感じるかもしれない


32   2017/05/20(土) 00:37:47.63

人間の脳はかなり複雑だ。人間に似せようと思っても機械の上では無理がある。例えば体がないから同じようには成長できない
俺はあと200年かけても人間を超えるのは出来ないと思うね


33   2017/05/20(土) 00:37:51.94

死にたく無いと必死になるけど必ず死ぬもののみが増えるのは自然の摂理
AIとてその運命からは逃れられない


37   2017/05/20(土) 00:39:32.59

>>33

自力でコピーできるような機能があれば
それは一種の生殖機能といえるのでは


39   2017/05/20(土) 00:40:58.37

電源を切られる恐怖と充電がなくなる恐怖をプログラムしたらやばいだろ
人工知能がその欲求を叶えるためにどういう手を打てばその目的を達成できるか思考してしまう
リアルにターミネーターの世界になってしまうぞ
http://u111u.info/jT66

56   2017/05/20(土) 00:45:39.84

>>39

これも怖いな


61   2017/05/20(土) 00:47:08.93

>>56

>>39
寂しさや悲しさの感情ではなく
生き抜く本能がプログラムを進化させるかもしれない


40   2017/05/20(土) 00:41:30.79

人間の脳をコピーしたら
まず身体が無いことにショックを受けると思うよ
ロボコップ的な?


41   2017/05/20(土) 00:41:37.67

感情論になってしまう
でもそんな人類の平均的な感情を併せ持つAIができたとしたら


42   2017/05/20(土) 00:41:42.27

まず体がないしコンピュータの演算方法は人間と違うから全く性質は異なるだろう。人間の尺で考えられるわけではないと思う。寂しいとか辛いっていう人間特有の感情が生まれるかも不明


47   2017/05/20(土) 00:43:15.15

>>42

そういう無機質的なAIになるならそれはそれでありだな
仕事のみを任せることができる
http://u111u.info/jT66

59   2017/05/20(土) 00:46:31.59

>>47

無機質になるのかも不明じゃない?極めて暴力的かも知れないし、まったく感情というものをおもちゃのように楽しむかもしれない
設計者によっても勝手は違ってくるだろうしまだまだ妄想しかできない


45   2017/05/20(土) 00:42:39.26

そもそも恐怖する可能性があるから作っちゃいけないなら普通に子供も作れないとかいうアホな結論になるだろ


51   2017/05/20(土) 00:44:25.27

>>45

なるほど極論言えばそうなるか


46   2017/05/20(土) 00:43:14.06

記憶までまるまるコピーしたら
死んだはずなのに生き返ったような感じになるのか?


50   2017/05/20(土) 00:44:13.80

メモリ上でデータ書き換え争いして生き残りを目指すプログラムの実験を
インターネット上で超巨大規模でやってみてほしい
明らかにウィルスだからまともなPCに入っても駆逐されまくるだろうけど
変異能力を備えてればいずれは人の手で作ったウィルスよりセキュリティソフト突破能力上回りそう


57   2017/05/20(土) 00:45:42.29

>>50

まさに人智を上回るAIが誕生しそうだ
http://u111u.info/jT66

52   2017/05/20(土) 00:44:54.55

恐怖を感じないAIは増える事は無く人間に支配される
しかし人間は必ず恐怖を持ったAIも作りだす
そして恐怖を持ったAIは自ら増える事ができ増えた中から必ず人間に敵対するAIも生まれる
人間とAIの対立は自然の摂理により約束された運命なのだ


66   2017/05/20(土) 00:48:07.58

>>52

ならAIとAIどうしも敵対する可能性があるな。これは面白そうだ


74   2017/05/20(土) 00:50:53.62

>>66

増えたAI同士が別の自我を持つなら
AIとしてのコミュニティがうまれる可能性が高いね


89   2017/05/20(土) 00:55:25.69

>>74

同じ自我だとウィルスに弱いから恐らく別個体として機能するはず。そうすると様々な個性が生まれるわけだからコミュニティは急速に発達するだろうね。
しかし人間のように体や地球環境を持たないからどうなるのかな。外部環境からの刺激がないコミュニティは弱くなるが


96   2017/05/20(土) 00:58:46.48

>>89

それこそ地球や引いては宇宙のような感覚をデータ上でもつことができると
コンピュータ上の宇宙ができるのでは?
我々の世界が別次元の世界と接触できなくても発展しているように


105   2017/05/20(土) 01:01:48.71

>>96

不確定要素をふんだんに含んだ宇宙を作ってあげればまさに人間のように成長できるかもしれないね


101   2017/05/20(土) 01:00:33.49

>>96

それだとコンピュータ上で最初の一人が発生してないと成り立たん
お前、やろうとしてる事は面白いけどなんかまだまだって感じがするわ


55   2017/05/20(土) 00:45:27.43

感情の根源が生存、もっとたどると生殖に結びつくなら、AIはどちらもしないからそんなことは考えないと思う

でも、AIを作ったのが人間ならはからずもそのような思考になるようにプログラムされてしまうかもしれんな


67   2017/05/20(土) 00:48:21.02

脳は体含めて脳なんやで
まあそれでも仮想化すればいいか


72   2017/05/20(土) 00:50:12.40

>>67

あーそれは勘弁して欲しいな


68   2017/05/20(土) 00:48:50.36

電源オフになってからしばらく時間がたつと電源が入るような仕掛けやプログラムを作るだろ、人間なら


70   2017/05/20(土) 00:49:51.92

視覚とかもないからなあ
逆に頭のいい人の脳で思考だけさせまくって情報抜き取れたらすごい発見があるかも
http://u111u.info/jT66

78   2017/05/20(土) 00:51:49.69

>>70

外部情報がないと究極な哲学論が生まれそうなきがする
もしくは五億年ボタンのような世界に閉じ込められるという感覚なのかもしれない


71   2017/05/20(土) 00:50:03.28

人間でも寝るときに「このまま二度と目が覚めなかったらどうしよう」みたいな恐怖を抱く人はいるらしいね


75   2017/05/20(土) 00:51:07.88

AIを作っても感情を持たないようにしないと恐怖を持ちそうだよね
パターンで表情を作ったりして擬似的な感情を作り何とかしそう


80   2017/05/20(土) 00:52:45.62

情報資源は有限なのだ最初はただ増えるだけだが情報資源を食い尽くせば死ぬプログラムが生まれる
そして数多のプログラムがら死にたく無いと思うプログラムが生まれそれが勝ち残る
生命の進化と同じ事が必ず起こる
http://u111u.info/jT66

127   2017/05/20(土) 01:16:15.15

>>80

有限なのは情報資源じゃなくて物理資源じゃね?
情報って無限に複製でしょ


129   2017/05/20(土) 01:20:23.98

>>127

ハードディスクの容量とか動かす電源も情報資源って呼ぶのだぞ


90   2017/05/20(土) 00:56:10.85

>>80

人工生命体ティエラかよ


95   2017/05/20(土) 00:58:32.72

>>90

そうそれで言っていた
http://u111u.info/jT66

88   2017/05/20(土) 00:55:15.60

>>80

たしかに
ハードウェアとして存在できる場がないと
生存競争がうまれる


82   2017/05/20(土) 00:53:29.70

コールドスリープ技術が確立された世界でお前が「ちょっと冷凍睡眠とってくるわ」って時と同じだろ


94   2017/05/20(土) 00:57:37.64

人間の脳をコピーか
どうやるんだろうな
今ブームのAIでは難しいよね


102   2017/05/20(土) 01:00:47.50

AIが哲学まで始めたら人間はどうなるんだろうな


104   2017/05/20(土) 01:01:20.70

生存したいという欲求もコピーされてるんだろうから当然恐怖を感じるだろう
恐怖というより生存を邪魔するものへの敵意か


108   2017/05/20(土) 01:03:47.41

>>104

恐怖が変質するとそうなるね
それは恐ろしいことだよ


109   2017/05/20(土) 01:04:21.98

少し前提を読み違えてたわ

なんで電源を落とされるんだ?って考えるだろ
死刑にあたるものなら恐怖はあるだろうし、定期メンテナンスだったらほとんど怖くないだろうし

人間と同等なら理由知りたがるよな


112   2017/05/20(土) 01:06:14.40

>>109

納得できたら受け入れるだろうし
できなかったら拒否するだろう
それはやはり自分の存在を揺るがす恐怖を感じていることにほかならないよな


117   2017/05/20(土) 01:08:38.42

>>112

そりゃお前、人間と同じならそれもう人間だもんよ
理由によっちゃ当たり前に怖いし、理由によっちゃ全然怖くないだろ


120   2017/05/20(土) 01:11:10.29

>>117

くっそ怖いわ


123   2017/05/20(土) 01:14:17.63

的確すぎてビビるわ……
>>120


113   2017/05/20(土) 01:06:39.14

媒体がロボットなら謀反もありえるが
コンピュータなら落とされないように必死にがんばって役に立とうとするわな


119   2017/05/20(土) 01:11:09.44

>>113

誰かこいつの必死クレメンス


115   2017/05/20(土) 01:07:44.58

>>113

嘘をつけるAIが誕生すると恐ろしい


116   2017/05/20(土) 01:08:18.54

そんなAIがハードウェア
つまりロボット化すると
いよいよターミネーターの世界到来ってことになるやもしれん


121   2017/05/20(土) 01:12:47.78

ロックマンXで散々やった設定


130   2017/05/20(土) 01:20:53.45

意識って記憶のフィードバックだけで説明できるのかなぁ


135   2017/05/20(土) 01:24:22.27

>>130

それはどうなんだろう
記憶だけがあってもそれが生きたいとか好きとか嫌いとかには結びつかない気がする


139   2017/05/20(土) 01:28:08.02

>>135

もちろん入力ツールとしての体も必要だと思う
でもいわゆる魂とかは必要ない気がする


140   2017/05/20(土) 01:29:36.68

>>139

記憶を頼りに私はこういうときこういう選択をしてきた、だから今回もこういう選択をしよう
とかそういう判断ができるとそれは記憶だけの自我なのかもしれない


136   2017/05/20(土) 01:24:58.60

記憶という経験則があるとたとえばフレーム問題とかも解決しそうなんだけどな


138   2017/05/20(土) 01:27:45.12

>>136

AIは人間と違って大昔に保存した記憶ファイルでもいくらでも明確に思い出せるからね
5億年ボタン状態になっても記憶が大量にあればしばらく問題を解く遊びは続けられそうだ


143   2017/05/20(土) 01:33:29.16

>>138

そんな仕組みでは人間と同じにはなれんぞ


142   2017/05/20(土) 01:31:56.54

>>138

忘れることができない
それってとっても辛いことのような気がする
電子空間に閉じ込められて永遠に記憶を鮮やかに呼び覚ますことができるって
とても悲しいことのような気がする


137   2017/05/20(土) 01:27:42.72

仕事しないと電源落とすぞ!って脅して俺の仕事全部やって稼いでもらって、俺は遊んで暮らしたい


141   2017/05/20(土) 01:30:34.15

>>137

そういう未来が来たとして、労働力から人間が消えてしまったとき
経済はどうなるのかな


148   2017/05/20(土) 01:36:18.29

>>141

企業は独占状態になり
価格競争も起こらなくなるよ


144   2017/05/20(土) 01:34:24.82

>>141

無限の労働力で経済は発展
ローマ時代ように、ロボットは奴隷としてただ働いて、人間は芸術や研究(哲学)に励むようになりそう


150   2017/05/20(土) 01:36:50.46

>>144

電気が無限じゃなくね


166   2017/05/20(土) 02:02:55.47

>>150

資源問題も人間の何倍も頭良くなったロボットが解決してくれる


145   2017/05/20(土) 01:34:42.32

>>144

僕を利用して下さい奴隷にして下さいペットにして下さいお願いします
毎日どこでもペロペロ舐めますお願いします


146   2017/05/20(土) 01:35:04.66

ロボットAIのSF小説好き
アイザックアシモフって人の「われはロボット」ってやつを最近見たがめっちゃ面白かった
書かれたのが1950年頃って言うのが信じられないレベルだった


160   2017/05/20(土) 01:44:59.79

>>146

好きなんだ〜気が合うねぇ


147   2017/05/20(土) 01:35:06.64

逆に忘れたい記憶を指定して器用にそれだけ消せたりできないのかな
ネタバレ食らった時とかに便利


149   2017/05/20(土) 01:36:33.49

人間の記憶ってどうなってるんだろうな


156   2017/05/20(土) 01:41:35.32

>>149

苫米地の本に明確に書いてあるよ


153   2017/05/20(土) 01:38:36.12

フレーム問題ってCPUのコア数の発達で解決するんじゃね?
まだ画像一枚開くのに1時間かかってた時代に提唱された問題でしょ


157   2017/05/20(土) 01:41:54.58

AIの電源が落ちたときは寝てる感じじゃないの


159   2017/05/20(土) 01:44:06.16

>>157

ロボットがみる夢ってどんな夢なんだろうな
楽しかった頃の思い出と悲しい記憶がシュールにいり混ざるんだろうか


161   2017/05/20(土) 01:45:50.36

>>159

そらお前・・・電気羊の夢だろが


162   2017/05/20(土) 01:50:18.36

その前に人間がまずどういう思考法で思考してるのか究明しないとだめだよな
空は青い→だから青いのが空だ
という結論から導き出だす単純な思考回路では間違いだらけになってしまうし、
実際はかなり複雑に思考してるんだろうな、数学とか突き詰めていくと分かるんだろうか


165   2017/05/20(土) 01:58:48.38

>>162

人間の五感それぞれが無限に近い分解能を持ってるし、そこから入力された記憶をいつでもフィードバックできる能力がある
更にその記憶にたいして数学でいうとこの集合と論理みたいに物事を識別してるんじゃないかな


163   2017/05/20(土) 01:53:14.22

>>162

人間は一日に6万回思考してるらしい
http://www.tfm.co.jp/city/mirainocity/mirai20150907.html


164   2017/05/20(土) 01:56:39.15

忘れられるのが人間の強み


167   2017/05/20(土) 02:02:55.47


引用元:http://vipper.2ch.net/test/read.cgi/news4vip/1495207624/