アカウント名:
パスワード:
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。
リンクされた記事のどこにもそんな人出てこないんやけど。問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。
しかもこの発言は見当違いもいいところだろう。ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、それがAIでは起き得ない、というような話の組み立て方をしなくては。
それに、相手に支配欲が無いなら安全というわけでもないしね。アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
生物なんてものは遺伝子が進化しつつ増殖するための乗り物なんだから、周りの生物が自分の都合の良いように動いてくれた方がその目的を達する可能性が上がる。それが支配欲の源泉でしょ。AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。アマゾンの密林で植物を伐採している人たちも自分が生きて自分の遺伝子を残すためにやってるわけで、そういう意味では植物を支配したいからやっていると言えなくはない。
> AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
おやおや「遺伝的アルゴリズム」なんて話を聞いたことが無いかな？「誰か」が、より優秀なAIを開発するため、リソースが限りある環境の中で複数のAI同士でリソースの奪い合いをさせ、自己進化させつつ生存競争させるようなことを始めたら？
それはそういう特殊なことをしたから発生したのであって、自然に発生したとは言わない。
だれも自然に発生するかどうかが問題だなんて話はしていないよ。君だけだ。そもそもAI自体が自然発生ではなく、人の手で作られるものなのに。
だったらそもそもホルモンとか人がなぜ支配欲を持つに至ったかという議論が成立しない。そういう風に作ればそういう風に動く。それだけだ。
だから、ホルモンをAIが支配欲を持ちえない理由に挙げるのは「見当違いもいいところだ」と言っているだろう。
「人がなぜ支配欲を持つに至ったか」という話は、人のケースでの発生の過程と同じような状況をAIに対して与えてやることで、AIも支配欲を持ちうるのではないか。否定するなら、最低限そういう手法での支配欲獲得は不可能だと証明するのでもなければ、AIは支配欲を持ちえないとは言えないよ、と言う話をしているんだよ。
ここまで事細かに説明してあげないとわからない？
でも、AIの学習は、自然発生的だよ。アルゴリズムじゃ無い、作った人すら、どうしてそうなるのか、わからない
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson
カール・フェルナンデス氏ってだれやねん。 (スコア:3, すばらしい洞察)
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。
リンクされた記事のどこにもそんな人出てこないんやけど。
問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。
しかもこの発言は見当違いもいいところだろう。
ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。
AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、
それがAIでは起き得ない、というような話の組み立て方をしなくては。
それに、相手に支配欲が無いなら安全というわけでもないしね。
アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、
「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
Re: (スコア:0)
生物なんてものは遺伝子が進化しつつ増殖するための乗り物なんだから、
周りの生物が自分の都合の良いように動いてくれた方がその目的を達する可能性が上がる。
それが支配欲の源泉でしょ。
AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
アマゾンの密林で植物を伐採している人たちも自分が生きて自分の遺伝子を残すためにやってるわけで、
そういう意味では植物を支配したいからやっていると言えなくはない。
Re:カール・フェルナンデス氏ってだれやねん。 (スコア:0)
> AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
おやおや「遺伝的アルゴリズム」なんて話を聞いたことが無いかな？
「誰か」が、より優秀なAIを開発するため、リソースが限りある環境の中で
複数のAI同士でリソースの奪い合いをさせ、自己進化させつつ生存競争させる
ようなことを始めたら？
Re: (スコア:0)
それはそういう特殊なことをしたから発生したのであって、自然に発生したとは言わない。
Re:カール・フェルナンデス氏ってだれやねん。 (スコア:2)
Re: (スコア:0)
だれも自然に発生するかどうかが問題だなんて話はしていないよ。君だけだ。
そもそもAI自体が自然発生ではなく、人の手で作られるものなのに。
Re: (スコア:0)
だったらそもそもホルモンとか人がなぜ支配欲を持つに至ったかという議論が成立しない。
そういう風に作ればそういう風に動く。それだけだ。
Re: (スコア:0)
だから、ホルモンをAIが支配欲を持ちえない理由に挙げるのは「見当違いもいいところだ」と言っているだろう。
「人がなぜ支配欲を持つに至ったか」という話は、人のケースでの発生の過程と同じような状況を
AIに対して与えてやることで、AIも支配欲を持ちうるのではないか。否定するなら、最低限そういう手法での
支配欲獲得は不可能だと証明するのでもなければ、AIは支配欲を持ちえないとは言えないよ、と言う話をしているんだよ。
ここまで事細かに説明してあげないとわからない？
Re: (スコア:0)
でも、AIの学習は、自然発生的だよ。アルゴリズムじゃ無い、作った人すら、どうしてそうなるのか、わからない