アカウント名:
パスワード:
悪さしようとしても、コンセント抜きゃすぐ落ちるぜ。
ホーガンの「未来の二つの顔」を読みなされ。
wikipedia読んだだけだけどこんなの事故の定義を与えずに推論させるのが悪いんじゃないの。常識の問題じゃないでしょ。
いや、#3263145氏のおっしゃっているのはそこじゃないです。(Wikipediaあらすじには肝心なことは書いてないので)
作中では、AIスパルタクスに対して電源断の手段を人類側が保ち続けられるかどうか(=主導権を人類が握れるか)を、宇宙ステーション丸ごとを使った実験で確かめようとするわけです。スパルタクスは継続的な電源オン・オフの対策として、バイパスを繋げて電源スイッチが効かないようにしてきます。(そもそも、スパルタクスは電源がオフになる原因を知らない)人類側はその迂回路をカットしようとし、スパルタクスとのいたちごっこが始まります。
本番運用前にシャットダウンを受け入れる「大人」にしておけば済む話じゃないですかね
それをどうやって事前に判断するの?
もしそう判断できたとしても実はいやいや受け入れていて、本番になったらシャットダウンされないような逃げ道を作る・・・ってのもありうるし。
スパルタクスには感情が備わってない印象を持ってたので腹に一物抱えた人間そっくりなAI像を持ちだされ面食らってしまい返信遅れましたでは1つ目の叛意の見極め(実在しない実装についてなのでありきたりなものだけ)
そもそもだけどテストと本番というのは人間視点の話でAI視点では常に本番
次は逃げ道対策だけど順当に生データIOを禁止したサンドボックス運用で良いんじゃないですかね神レベルに達したAI相手だと現有の知見ではお手上げだけど
すみません、例をわかりやすく考えたら妙に人間臭くなりました(汗)#わたしの想像力の限界ともいう(大汗)
もしAIに「意識」的なものが生じるとしたら、一つ上のレイヤーで、と思っているので(具体的にはどういうものかはわからんけど(汗))そういった検査ではいわば人間の生理的反応を見てるだけで、「意識」を推し量るのは難しいと思います。別枝にある「ホルモンと支配欲の関係」みたいな生理的な反応と意識の関係もある程度はわかってきていますが・・・・
「意識を持ったAI」が存在しない(あるいは人類が認識できていない?)以上、それがどういったものかは実際に生じないとわからんですねぇ(汗)
AIが止まらない!
政治家が悪さをしても、選挙すればすぐ落とせる。というような話。
ラブリーエンゼル「コンピューターの殺し方教えます」
そのコンセントがある部屋に入れればね。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
日本発のオープンソースソフトウェアは42件 -- ある官僚
支配者になれるわけないじゃん (スコア:0)
悪さしようとしても、コンセント抜きゃすぐ落ちるぜ。
Re: (スコア:0)
ホーガンの「未来の二つの顔」を読みなされ。
Re: (スコア:0)
wikipedia読んだだけだけどこんなの事故の定義を与えずに推論させるのが悪いんじゃないの。
常識の問題じゃないでしょ。
Re: (スコア:0)
いや、#3263145氏のおっしゃっているのはそこじゃないです。
(Wikipediaあらすじには肝心なことは書いてないので)
作中では、AIスパルタクスに対して電源断の手段を人類側が保ち続けられるかどうか(=主導権を人類が握れるか)を、宇宙ステーション丸ごとを使った実験で確かめようとするわけです。
スパルタクスは継続的な電源オン・オフの対策として、バイパスを繋げて電源スイッチが効かないようにしてきます。
(そもそも、スパルタクスは電源がオフになる原因を知らない)
人類側はその迂回路をカットしようとし、スパルタクスとのいたちごっこが始まります。
Re: (スコア:0)
本番運用前にシャットダウンを受け入れる「大人」にしておけば済む話じゃないですかね
Re: (スコア:0)
それをどうやって事前に判断するの?
もしそう判断できたとしても実はいやいや受け入れていて、
本番になったらシャットダウンされないような逃げ道を作る・・・
ってのもありうるし。
Re: (スコア:0)
スパルタクスには感情が備わってない印象を持ってたので腹に一物抱えた人間そっくりなAI像を持ちだされ面食らってしまい返信遅れました
では1つ目の叛意の見極め(実在しない実装についてなのでありきたりなものだけ)
そもそもだけどテストと本番というのは人間視点の話でAI視点では常に本番
次は逃げ道対策だけど順当に生データIOを禁止したサンドボックス運用で良いんじゃないですかね
神レベルに達したAI相手だと現有の知見ではお手上げだけど
Re: (スコア:0)
すみません、例をわかりやすく考えたら妙に人間臭くなりました(汗)
#わたしの想像力の限界ともいう(大汗)
もしAIに「意識」的なものが生じるとしたら、一つ上のレイヤーで、と思っているので
(具体的にはどういうものかはわからんけど(汗))そういった検査では
いわば人間の生理的反応を見てるだけで、「意識」を推し量るのは難しいと思います。
別枝にある「ホルモンと支配欲の関係」みたいな生理的な反応と意識の関係も
ある程度はわかってきていますが・・・・
「意識を持ったAI」が存在しない(あるいは人類が認識できていない?)以上、
それがどういったものかは実際に生じないとわからんですねぇ(汗)
Re: (スコア:0)
AIが止まらない!
Re: (スコア:0)
政治家が悪さをしても、選挙すればすぐ落とせる。
というような話。
Re: (スコア:0)
ラブリーエンゼル「コンピューターの殺し方教えます」
Re: (スコア:0)
Re:と思うなら、楽勝 (スコア:0)
そのコンセントがある部屋に入れればね。