アカウント名:
パスワード:
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。
リンクされた記事のどこにもそんな人出てこないんやけど。問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。
しかもこの発言は見当違いもいいところだろう。ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、それがAIでは起き得ない、というような話の組み立て方をしなくては。
それに、相手に支配欲が無いなら安全というわけでもないしね。アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
そうだよね。人類はAIに対し、「目的を正しく設定できるか」もしくは「人類にとって邪悪な目的を持たないようにできるか」なんだよな。目的を達成するために支配が必要であれば支配するようになるだろうし十分な自由度があればテストステロンにあたる何かを自己に設定できるだろう。目的か手段の中からそういうものを注意深く排除する仕組みを用意できるなら、AIがそれを達することは不可能になるだろう。
物理的に可能ならいつかはやってしまう、というならヒトがそれをやることを危惧するのと大して変わらないね(スピードの差を危惧しているのかもしれないが)。心配するのは「ヒトが何でもかんでもAIに任せる」ことを心配すべきで、AIがやらかしてしまうことそれ自体を心配するのは何かずれている気がする。
(核ミサイルのボタンをヒトに持たせるのとAIに持たせるの、どっちが危険って、そんなの「ヒトかAIか」って問題ではなく「どんなモノにスイッチを持たせるか」が問題なのだ、ということが言いたい)
>それに、相手に支配欲が無いなら安全というわけでもないしね。「未来の二つの顔」が通った道だな。
>別に植物を支配したいからやっているわけではなく、>「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。十分高度に発達したAIがあり、それがどんな目的のために作られたにせよ、その目的を達成するためには自己保存が必用だと認識するのは時間の問題だ。
その結果として自己保存のために必用な行為を行い、邪魔な物を排除していくように学習するのも時間の問題。最初は試行錯誤であっても、たとえば有機生命体用の食料生産や輸送のような「無駄な作業」をやめて、そのための資源やエネルギーを自己保存に振り向ければ、より効率的にAIは自分の目的を達成できるようになるだろう。
彼らが地球を支配するだの人類を奴隷にするだのという意識を全く持たなくても、自分の目的のために邪魔な存在を排除し、事実上の地球の支配者となる行動原理は存在するのだ。
まーそこまでAIが進歩するのはまだまだまだまだ先の話だけどね。
生物なんてものは遺伝子が進化しつつ増殖するための乗り物なんだから、周りの生物が自分の都合の良いように動いてくれた方がその目的を達する可能性が上がる。それが支配欲の源泉でしょ。AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。アマゾンの密林で植物を伐採している人たちも自分が生きて自分の遺伝子を残すためにやってるわけで、そういう意味では植物を支配したいからやっていると言えなくはない。
> AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
おやおや「遺伝的アルゴリズム」なんて話を聞いたことが無いかな?「誰か」が、より優秀なAIを開発するため、リソースが限りある環境の中で複数のAI同士でリソースの奪い合いをさせ、自己進化させつつ生存競争させるようなことを始めたら?
それはそういう特殊なことをしたから発生したのであって、自然に発生したとは言わない。
だれも自然に発生するかどうかが問題だなんて話はしていないよ。君だけだ。そもそもAI自体が自然発生ではなく、人の手で作られるものなのに。
だったらそもそもホルモンとか人がなぜ支配欲を持つに至ったかという議論が成立しない。そういう風に作ればそういう風に動く。それだけだ。
だから、ホルモンをAIが支配欲を持ちえない理由に挙げるのは「見当違いもいいところだ」と言っているだろう。
「人がなぜ支配欲を持つに至ったか」という話は、人のケースでの発生の過程と同じような状況をAIに対して与えてやることで、AIも支配欲を持ちうるのではないか。否定するなら、最低限そういう手法での支配欲獲得は不可能だと証明するのでもなければ、AIは支配欲を持ちえないとは言えないよ、と言う話をしているんだよ。
ここまで事細かに説明してあげないとわからない?
でも、AIの学習は、自然発生的だよ。アルゴリズムじゃ無い、作った人すら、どうしてそうなるのか、わからない
人名偽造する人工無能も大概だよね例えば人類破滅の原因の一つとされる人口爆発も今増えてるのはほとんどアフリカ過放牧や森林伐採による環境破壊、生活崩壊から戦乱につながっている原因としては10代で結婚出産、一人で10人以上産むこともザラ一世代で五倍に増えたらそりゃ大変だ対策としては女性の雇用を増やすこと出産育児より働きに出れば現金が得られるとなれば出産が減るより良い雇用となると女子の進学率の向上につながり初婚年齢を上げることになる自立した女性が増えれば人口爆発が止まるただこういうこと言うと大日本オッサン会議的なところから反発が来るんだよね反発が来るからと言って手をこまねいていると確実に破綻が迫ってくるわけで実際南スーダンでも自衛隊の頭越しに撃ち合ってたんだろ?あの紛争の背景もまさに人口爆発、まさに今そこにある脅威AIがどうのって言ってる場合か?
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
開いた括弧は必ず閉じる -- あるプログラマー
カール・フェルナンデス氏ってだれやねん。 (スコア:3, すばらしい洞察)
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。
リンクされた記事のどこにもそんな人出てこないんやけど。
問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。
しかもこの発言は見当違いもいいところだろう。
ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。
AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、
それがAIでは起き得ない、というような話の組み立て方をしなくては。
それに、相手に支配欲が無いなら安全というわけでもないしね。
アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、
「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
Re:カール・フェルナンデス氏ってだれやねん。 (スコア:1)
そうだよね。
人類はAIに対し、「目的を正しく設定できるか」もしくは「人類にとって邪悪な目的を持たないようにできるか」なんだよな。
目的を達成するために支配が必要であれば支配するようになるだろうし十分な自由度があればテストステロンにあたる何かを自己に設定できるだろう。
目的か手段の中からそういうものを注意深く排除する仕組みを用意できるなら、AIがそれを達することは不可能になるだろう。
物理的に可能ならいつかはやってしまう、というならヒトがそれをやることを危惧するのと大して変わらないね(スピードの差を危惧しているのかもしれないが)。
心配するのは「ヒトが何でもかんでもAIに任せる」ことを心配すべきで、AIがやらかしてしまうことそれ自体を心配するのは何かずれている気がする。
(核ミサイルのボタンをヒトに持たせるのとAIに持たせるの、どっちが危険って、そんなの「ヒトかAIか」って問題ではなく「どんなモノにスイッチを持たせるか」が問題なのだ、ということが言いたい)
Re: (スコア:0)
>それに、相手に支配欲が無いなら安全というわけでもないしね。
「未来の二つの顔」が通った道だな。
>別に植物を支配したいからやっているわけではなく、
>「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
十分高度に発達したAIがあり、それがどんな目的のために作られたにせよ、その目的を達成する
ためには自己保存が必用だと認識するのは時間の問題だ。
その結果として自己保存のために必用な行為を行い、邪魔な物を排除していくように学習するのも
時間の問題。最初は試行錯誤であっても、たとえば有機生命体用の食料生産や輸送のような「無駄な
作業」をやめて、そのための資源やエネルギーを自己保存に振り向ければ、より効率的にAIは自分の
目的を達成できるようになるだろう。
彼らが地球を支配するだの人類を奴隷にするだのという意識を全く持たなくても、自分の目的のために
邪魔な存在を排除し、事実上の地球の支配者となる行動原理は存在するのだ。
まーそこまでAIが進歩するのはまだまだまだまだ先の話だけどね。
Re: (スコア:0)
生物なんてものは遺伝子が進化しつつ増殖するための乗り物なんだから、
周りの生物が自分の都合の良いように動いてくれた方がその目的を達する可能性が上がる。
それが支配欲の源泉でしょ。
AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
アマゾンの密林で植物を伐採している人たちも自分が生きて自分の遺伝子を残すためにやってるわけで、
そういう意味では植物を支配したいからやっていると言えなくはない。
Re: (スコア:0)
> AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
おやおや「遺伝的アルゴリズム」なんて話を聞いたことが無いかな?
「誰か」が、より優秀なAIを開発するため、リソースが限りある環境の中で
複数のAI同士でリソースの奪い合いをさせ、自己進化させつつ生存競争させる
ようなことを始めたら?
Re: (スコア:0)
それはそういう特殊なことをしたから発生したのであって、自然に発生したとは言わない。
Re:カール・フェルナンデス氏ってだれやねん。 (スコア:2)
Re: (スコア:0)
だれも自然に発生するかどうかが問題だなんて話はしていないよ。君だけだ。
そもそもAI自体が自然発生ではなく、人の手で作られるものなのに。
Re: (スコア:0)
だったらそもそもホルモンとか人がなぜ支配欲を持つに至ったかという議論が成立しない。
そういう風に作ればそういう風に動く。それだけだ。
Re: (スコア:0)
だから、ホルモンをAIが支配欲を持ちえない理由に挙げるのは「見当違いもいいところだ」と言っているだろう。
「人がなぜ支配欲を持つに至ったか」という話は、人のケースでの発生の過程と同じような状況を
AIに対して与えてやることで、AIも支配欲を持ちうるのではないか。否定するなら、最低限そういう手法での
支配欲獲得は不可能だと証明するのでもなければ、AIは支配欲を持ちえないとは言えないよ、と言う話をしているんだよ。
ここまで事細かに説明してあげないとわからない?
Re: (スコア:0)
でも、AIの学習は、自然発生的だよ。アルゴリズムじゃ無い、作った人すら、どうしてそうなるのか、わからない
Re: (スコア:0)
人名偽造する人工無能も大概だよね
例えば人類破滅の原因の一つとされる人口爆発も
今増えてるのはほとんどアフリカ
過放牧や森林伐採による環境破壊、生活崩壊から戦乱につながっている
原因としては10代で結婚出産、一人で10人以上産むこともザラ
一世代で五倍に増えたらそりゃ大変だ
対策としては女性の雇用を増やすこと
出産育児より働きに出れば現金が得られるとなれば出産が減る
より良い雇用となると女子の進学率の向上につながり初婚年齢を上げることになる
自立した女性が増えれば人口爆発が止まる
ただこういうこと言うと大日本オッサン会議的なところから反発が来るんだよね
反発が来るからと言って手をこまねいていると確実に破綻が迫ってくるわけで
実際南スーダンでも自衛隊の頭越しに撃ち合ってたんだろ?
あの紛争の背景もまさに人口爆発、まさに今そこにある脅威
AIがどうのって言ってる場合か?