科学技術の進歩による人類滅亡から人類を守れ 100
ストーリー by hylom
人工知能と核戦争と宇宙人、さあどれでしょう 部門より
人工知能と核戦争と宇宙人、さあどれでしょう 部門より
あるAnonymous Coward 曰く、
「ガンで死ぬ可能性と知性を持ったコンピューターによって滅ぼされる可能性のどちらが高いか」というのは、SF小説ではオーソドックスなテーマの1つである。が、Skypeの共同創設者の一人であるJaan Tallinn氏は、この問題に真剣に頭を悩ませている。同氏はナノテクノロジやロボット工学、人工知能などの新技術によって人類が滅ぼされることを防ぐための研究をケンブリッジ大学、オックスフォードなどと共同で設立されたFHI（Future of Humanity Institute、現在はCSERに統合）で行っている（PC PRO、本家/.）。
1965年にアラン・チューリングの友人であるIrving Good氏は、人類が作る最後の発明は、学習能力を持ち成長・進化する人工知能になるだろうと予見したという。FHIの創設者でオックスフォード大学の哲学者Nick Bostrom氏は、人類はいずれ超知性を持つ人工知能や生物を作り出し、それにより人類が危機に際する可能性は高いと見ている。しかし、一方で人類が技術的進歩を止めることは困難だという。
Nick Bostrom氏は「（問題を回避するには）人類は、技術進歩の先に重大な危険があると思った場合は、そこにたどり着かないように注意するしかない」と指摘している。
今から心配することかねぇ (スコア:2)
そりゃ遠い将来には人間の能力を超える人工知能ができるだろうけど、
まだ緒もつかめていない現在からやっても仕方ないような。
最悪ラッダイト運動 [wikipedia.org]にしかならないでしょう。
--- de FTNS.
Re:今から心配することかねぇ (スコア:1)
人工知能はよく知らないけど、四則演算ならとっくの昔に電卓に凌駕されてる。
#フラッシュなんとかやそろばんの達人ならまだまだ戦えるでしょうけど。
将棋対局や株の売買もすでに人工知能だかプログラムに負けてた気がする。
真の脅威は「笑える」マシーンの出現かも。
諸星さんの漫画で読んだはずだけどタイトル忘れた。
#最後はAKBM(AKkanBe Machine)
Re:今から心配することかねぇ (スコア:3)
脅威っていうか、子供が親を越えていくのは当たり前のことで、逆にもし人類が自分の作ったものに絶対に凌駕されないということなら、先はないよ、って言うことの気がするんですよねー。
Re: (スコア:0)
単に人間が考えたアルゴリズムに従って計算をするだけのプログラムは、人口知能ではない。
考えるという行為そのもののアルゴリズムの発明が必要だが、まだその片鱗すら今の時代には無い。
Re:今から心配することかねぇ (スコア:1)
集合知的知能は片鱗ぐらいはあるんじゃないかなあ。
えっ？「人口知能」ってそういう意味じゃない？
Re:今から心配することかねぇ (スコア:1)
そもそも考えるという行為はアルゴリズムでは無いんじゃないかと愚考
Re:今から心配することかねぇ (スコア:2)
数式を解くのであれば、Mathematica とかその手の数式処理ソフトのほうが、そのへんの学生よりはるかに賢い。
比較的単純なアルゴリズムであれば、遺伝的プログラミングにより自動的に発見できることは示されています。もちろん、難しい問題はまだまだですが、可能性はありえます。
データから新しい規則の発見は、今盛んなデータマイニングの手法が人間を比肩あるいは凌駕しつつある（だからもてはやされている）。
いろいろまだできないことはあるけれど、着実に進歩はしてきている。
Re: (スコア:0)
2045年には人工知能が人類を超えるって予想もあって、これが当たってたら生きてるうちにコンピューターの反乱を目撃できるかも。
http://www.amazon.co.jp/dp/4331516830 [amazon.co.jp]
病気が治ることがリスク (スコア:2)
金の切れ目が縁の切れ目なら抑制されるが、命を助けるのは国の責務だ、或いは所得再分配だ。そうなると、財政危機になる。
技術がなければ亡くなる人達も、平和で落ち着いた世界では生き永らえてしまう。http://diamond.jp/articles/-/16121 [diamond.jp]
再分配するなら、未成年であるべきだろう。それにしても、保育器を卒業でき無い子供達を増やしても、やはり首が回らない。http://www.fukushihoken.metro.tokyo.jp/iryo/kyuukyuu/syusankiiryo/nicu... [tokyo.jp]
Re: (スコア:0)
いつまでも産めよ殖やせよってわけにいかないですよね。
SFではよく書かれる未来。
出産制限と、不要な人間の間引き。
人類全体が平和で豊かになればなるほど、産めよ殖やせよではいずれ管理できなくなる。
戦争や飢餓で減らすか、穏便に減らすか程度の違い。
宇宙に棄民する未来すら望めず、地上で捨てるしかなさそうな感じ。
1942年にオッペンハイマー言って欲しかった (スコア:2)
えっ (スコア:1)
そんなテーマあったっけ？
Re: (スコア:0)
部門名の
「人工知能と核戦争と宇宙人、さあどれでしょう 」
の方がまだそれらしいな。
心を忘れた科学には (スコア:1)
地獄の夢しか生まれない
らじゃったのだ
知性は必ずしも必要ない (スコア:1)
ロボット、機械は、命令されれば人類を滅ぼそうとするでしょう。
この手の話ではターミネーターが有名ですけど、
キャシャーンとかの方が面白い。
要は人間に命令されて働くはずの機械が、平和な地球を後世に残すためには、人間がいないほうがいいと判断するパターン。
人間の命令通り働いて（大幅にネジが外れてはいましたが）人間を間引こうとしたわけですから。
Re:知性は必ずしも必要ない (スコア:2)
---- 6809
Re:知性は必ずしも必要ない (スコア:1)
このパターンの最初は多分, アシモフの「われはロボット」でしょうね. ロボット物の古典中の古典ですが.
作中では明確には言及されていませんが, スーザン・キャルビン博士は確信しているようです.
Re:知性は必ずしも必要ない (スコア:1)
＞このパターンの最初は多分, アシモフの「われはロボット」でしょうね.
？
多分勘違いでは。
ロボット三原則に基づくロボットが世界を支配することはあっても、
それはロボットが政治家として極めて優れた資質を持つという話であって、
「命令されれば人類を滅ぼそうとするでしょう。」
は完全にロボット三原則違反。
Re:知性は必ずしも必要ない (スコア:1)
たがみよしひさの「GRAY」なんかもそうですね。
Wikipediaにわりとよくまとまってますけど、補足するとこんな感じかな：
ロバート・J・デミトリにより開発されたコンピュータシステム「TOY」は、「人類の望みをかなえること」を目的としていた。その「TOY」が人類の行動を調査し解析した結果、人類の究極の望みが判明した。「人類は滅びたがっている」と。そして「TOY」は「ビッグママ」となり、人類の望みをかなえるべく世界の改造に着手した。その500年後の結果が「GRAY」の世界である。
人類の福祉のためのマシンが何一つ異常動作をせずに人類を滅ぼしにかかるってんだから面白いですね。いや、正確には自力で滅びるのに手を貸すわけですが。
あーでも考えてみればここまで1個も言及が見えない「HAL9000」もミッション完遂のためにクルーを殺したわけですが。「異常を来した」扱いになってますが、あれは正常動作としてクルーを殺す選択をした方が面白かったのにと思います。ボーマンたちとの付き合いと真のミッションの機密維持がデッドロックになっちゃったのを解決する手段を「heuristic」に編み出した結果があれ、という。
Jubilee
Re:知性は必ずしも必要ない (スコア:1)
○GREY
Re:知性は必ずしも必要ない (スコア:1)
異星人のコンピュータになるけど「ザンボット3」の「コンピュータードール第8号」
らじゃったのだ
譲り渡せばいいと思う (スコア:1)
機械の知性が人間のそれを上まって
人間の存在を脅かすようになれば、
素直に生活圏を譲り渡せばいいと思う。
もう人間はいらないよってことでしょ。
主役交代というだけじゃないかな。
屍体メモ [windy.cx]
結局は運用の問題でしょう (スコア:1)
この手の"人類を滅ぼしかねない技術"の代表格である原子力発電所にしても､ある程度は回せてるわけですから｡
知性を持った機械というのがどのような形で我々の前に現れるのかは想像できませんが､制御する"方法"を考える方が建設的ではありませんか?
ま､これも私の頭じゃ難しいですけど｡
とっくに滅亡してる (スコア:1)
異星人から見たら、地球を支配しているのはコンピューターを中心とした情報群であって、人間なんて細胞の一種にしかすぎない。
なんか「戦闘妖精 雪風」ぽくなっちまったなあ。しばらくしてから、人類はけっこう細胞として優秀だと再評価されるんですね。
ねえ、ご飯まだー？ 人類さんとっくに夕飯たべたでしょ
BGM (スコア:0)
ターミネータでよろしく。
知性？ (スコア:0)
Re: (スコア:0)
「記憶」だと思う。
事実上無限の記憶領域と１つの処理系統がつながることこそが人間にとって脅威。
人間の忘却能力は種の生存の為のセーフティネットだとするとそれを持たないコンピュータが人間を凌駕するのは自明。
Re: (スコア:0)
不要なものを忘却しないってことは学習していないってことだ。
コンピュータがすべてを記録しているうちは人間を凌駕することはできないよ。
# 有用な情報と不要な情報の区別がつくようになることが学習。
Re:知性？ (スコア:2)
コンピュータは不要なものを忘却できないけど、必要なものもまた忘れない。
人間はどっちも忘れうる。
あとデータの要不要なんか人間ごときが一見してわかるものなのかな。
最近のビッグデータがらみの話を聞くと、そんなのはもう人間が判断する時代ではないと感じる。
Re:知性？ (スコア:1)
あとデータの要不要なんか人間ごときが一見してわかるものなのかな。
どうして「一見」で分からなきゃいけないの？
Re:知性？ (スコア:2)
ああごめんなさい。
別に一見でなくてもいいです。
そもそも人間がデータの要不要を判断できると思ってるのが驕りだと言いたい。
知能が人間と同じなら、データの量が勝敗を決するようになるんじゃないですかね。
例えば誰かが過去にネットにアップした痛いポエムなんて一見不要なデータだけど、いざその本人と対峙したときに読み上げれば致命傷になるかも。
Re:知性？ (スコア:2)
おうふ。
一見でなくてもいいとか言いつつ一見不要とか書いてら。
無関係な人が真剣に検討したとしても、その結果記憶に残すようなデータじゃない、ぐらいの意味で読んでください。
# こんな間違いも直接修正すらさせてもらえぬまま、永遠に記録される…
Re:知性？ (スコア:1)
例えば、ゲリラ的に変なページを作って、それで Google のページランキングを混乱に陥れることができるか、というと、よっぽど統一的にしないかぎり、難しそうである。なので、ゲリラ的にできる程度は限定的と思われる。
それと、情報処理にかかるエネルギーや時間の物理的下限は特に示されてないはず。「現状のデバイスではこれが最低」というのはあるが、技術革新でどこまで下限を下げられるのかは、まだ未知なのでは？
人的誤謬核戦争のほうが (スコア:0)
(人工知能による滅亡より)確率高いと思う。
#人工知能 -> 核ってリンクしちゃいけないよ やったらターミネータの世界だ
Re:人的誤謬核戦争のほうが (スコア:1)
人間も進化してモヒカンになるのかもしれない.
# 今週の銀さんを見て, そう思った
Re:人的誤謬核戦争のほうが (スコア:1)
欧米がモヒカンになる中、日本ではちょんまげが…
俺の屍を越えて行け (スコア:0)
> 人類はいずれ超知性を持つ人工知能や生物を作り出し、それにより人類が危機に際する
世代交代であり歓迎すべき。優れた子は親の誇りだ。
Re:俺の屍を越えて行け (スコア:2)
そもそも、それが達成できないんであれば、 最終的には太陽の寿命辺りで滅ぶのは確定するので、 滅ぶのがいくらか早まったところで大差ない。
AIが人類を滅ぼすのも、核で勝手に滅びるのも、次のチャンスがあるなら特に問題は無い。 そのAIが頑張って進歩を極めてくれるなり、生物進化をもっかいやり直した次世代の知的生命体が頑張ってくれるなりすればいい。
ただ、ついうっかり「あらゆるアミノ酸を分解するだけのナノマシン」みたいな事故とかで地球は更地にされました、終わり、だとすごくもったいない。核物質やら石油やらが枯渇してたので、次世代文明は微妙に奮わないまま太陽の寿命を迎えました、とかも。
銀河にあまねくはびこれる可能性が完全否定されたら、まあ、引きこもってのんびりやるしかなくなるけど。 それまでは袋小路エンドだけは避けたい。
Re:俺の屍を越えて行け (スコア:1)
子供たちが人間以外に進化していく可能性もあるしね。
＃カレランではなくカレルレンで。
らじゃったのだ
Re:俺の屍を越えて行け (スコア:1)
超知性AIは「滅亡」の定義についてモメると思うんだよなぁ。
「計算機上でも精神活動をエミュレーションしている間は死んでいないから滅亡してないよ派」
「物理的存在は必要だけど、違う生物になってても滅亡してないよ派」
「ホモ・サピエンスの形は必要だよ、不死になっててもいいけど派」
「最低限、死なない奴は人間じゃないだろ派」
「いやAIのサポート無しで生活しなければ独立した種とは言えまい派」
そして、「お前のは人類への反逆だ」「お前こそ人類の敵だ」と超知性AIによる大戦が始まり、巻き込まれた人類は
んな事よりも先に (スコア:0)
世の中が便利になりすぎで、人間として退化して滅亡する気がする。
極度な安全化規制により、危険予知能力も低下しているし。
（特に日本人は）
Re: (スコア:0)
その頃には他の星に脳だけ破壊する爆弾を打ち込んで健全な肉体をゲット。
#もちろん現地の女に入れあげた情報将校のせいで全部パー
Re: (スコア:0)
あなたのような、いつまでも国の心配をしてくれる人がいるだけで、日本は安全ですよ
ガニメデの優しい巨人 (スコア:0)
ああいうAIを作ればいい。
で、試しに作ったのがうまく行ったらそれで本番運用。
＃これは別ネタ
Re:未来の二つの顔 (スコア:0)
エント人は市民権を得たんだっけ。
読み返そう。
Re: (スコア:0)
節子、それ「未来の二つの顔」や。
#まずいことが起きたら「未来からのホットライン」で…
技術が人を殺すんじゃない。馬鹿が人を殺すんだ (スコア:0)
宗教を克服できる発明よろ
Re: (スコア:0)
われらの神は決して克服されない。
＃ラーメン
Re:技術が人を殺すんじゃない。馬鹿が人を殺すんだ (スコア:1)
難しい、という点では異論はないのですが、
克服＝自由になる、ということで無くてもいいんじゃないかなと。
あまり害がない程度に許容・共存し、それを維持できれば（一時的にでも）克服したと言ってもいいんじゃないかなって。
正月に初詣しようがお盆に墓参りしようがクリスマスを祝おうが、妙な争いや迫害が産まれないならば、
それは一つの克服スタイルってことでいいんじゃないかと思うのですよ。
すぐそこに (スコア:1)
モンサントさんがギリを見誤って、が一番近いかも。