アカウント名:
パスワード:
悪さしようとしても、コンセント抜きゃすぐ落ちるぜ。
ホーガンの「未来の二つの顔」を読みなされ。
本番運用前にシャットダウンを受け入れる「大人」にしておけば済む話じゃないですかね
それをどうやって事前に判断するの?
もしそう判断できたとしても実はいやいや受け入れていて、本番になったらシャットダウンされないような逃げ道を作る・・・ってのもありうるし。
スパルタクスには感情が備わってない印象を持ってたので腹に一物抱えた人間そっくりなAI像を持ちだされ面食らってしまい返信遅れましたでは1つ目の叛意の見極め(実在しない実装についてなのでありきたりなものだけ)
そもそもだけどテストと本番というのは人間視点の話でAI視点では常に本番
次は逃げ道対策だけど順当に生データIOを禁止したサンドボックス運用で良いんじゃないですかね神レベルに達したAI相手だと現有の知見ではお手上げだけど
すみません、例をわかりやすく考えたら妙に人間臭くなりました(汗)#わたしの想像力の限界ともいう(大汗)
もしAIに「意識」的なものが生じるとしたら、一つ上のレイヤーで、と思っているので(具体的にはどういうものかはわからんけど(汗))そういった検査ではいわば人間の生理的反応を見てるだけで、「意識」を推し量るのは難しいと思います。別枝にある「ホルモンと支配欲の関係」みたいな生理的な反応と意識の関係もある程度はわかってきていますが・・・・
「意識を持ったAI」が存在しない(あるいは人類が認識できていない?)以上、それがどういったものかは実際に生じないとわからんですねぇ(汗)
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
最初のバージョンは常に打ち捨てられる。
支配者になれるわけないじゃん (スコア:0)
悪さしようとしても、コンセント抜きゃすぐ落ちるぜ。
Re: (スコア:0)
ホーガンの「未来の二つの顔」を読みなされ。
Re: (スコア:0)
本番運用前にシャットダウンを受け入れる「大人」にしておけば済む話じゃないですかね
Re: (スコア:0)
それをどうやって事前に判断するの?
もしそう判断できたとしても実はいやいや受け入れていて、
本番になったらシャットダウンされないような逃げ道を作る・・・
ってのもありうるし。
Re:支配者になれるわけないじゃん (スコア:0)
スパルタクスには感情が備わってない印象を持ってたので腹に一物抱えた人間そっくりなAI像を持ちだされ面食らってしまい返信遅れました
では1つ目の叛意の見極め(実在しない実装についてなのでありきたりなものだけ)
そもそもだけどテストと本番というのは人間視点の話でAI視点では常に本番
次は逃げ道対策だけど順当に生データIOを禁止したサンドボックス運用で良いんじゃないですかね
神レベルに達したAI相手だと現有の知見ではお手上げだけど
Re: (スコア:0)
すみません、例をわかりやすく考えたら妙に人間臭くなりました(汗)
#わたしの想像力の限界ともいう(大汗)
もしAIに「意識」的なものが生じるとしたら、一つ上のレイヤーで、と思っているので
(具体的にはどういうものかはわからんけど(汗))そういった検査では
いわば人間の生理的反応を見てるだけで、「意識」を推し量るのは難しいと思います。
別枝にある「ホルモンと支配欲の関係」みたいな生理的な反応と意識の関係も
ある程度はわかってきていますが・・・・
「意識を持ったAI」が存在しない(あるいは人類が認識できていない?)以上、
それがどういったものかは実際に生じないとわからんですねぇ(汗)