パスワードを忘れた? アカウント作成
13382551 story
人工知能

AIは人類に代わりに地球の支配者になるのか? 85

ストーリー by hylom
真面目な議論 部門より
あるAnonymous Coward曰く、

ロボット法学者とも呼ばれる法学教授のライアン・カロ氏は、ホワイトハウスでAI政策に関する最初のワークショップを主催した。人工知能に関して政策立案者が考慮すべき課題や専門家の意見を説明したとされる(SSRNnprSlashdot)。

課題の中にはイーロン・マスクやビル・ゲイツが主張するような「AIが暴走して人類に危害を加える問題」についても含まれていたようだ。ただし、シリコンバレーの関係者や人工知能研究者すべてがマスク氏らの考えに賛同しているわけではない。コンピュータ科学者のペドロ・ドミンゴス氏は、「AIの抱える問題点は人工知能が利口になったことで、世界のリーダーを人類から引き継ぐ」と言うことではないと主張している。

別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。また、一部論者のように仮に人類がシミュレーション仮説のようにコンピュータ・シミュレーション上で生きているとした場合、AIが将来すべての人を殺してしまうとパラドックスが生じるというもはや哲学レベルの話もあったようだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2017年08月18日 10時05分 (#3263047)

    別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。

    リンクされた記事のどこにもそんな人出てこないんやけど。
    問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。

    しかもこの発言は見当違いもいいところだろう。
    ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。
    AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、
    それがAIでは起き得ない、というような話の組み立て方をしなくては。

    それに、相手に支配欲が無いなら安全というわけでもないしね。
    アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、
    「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。

    • そうだよね。
      人類はAIに対し、「目的を正しく設定できるか」もしくは「人類にとって邪悪な目的を持たないようにできるか」なんだよな。
      目的を達成するために支配が必要であれば支配するようになるだろうし十分な自由度があればテストステロンにあたる何かを自己に設定できるだろう。
      目的か手段の中からそういうものを注意深く排除する仕組みを用意できるなら、AIがそれを達することは不可能になるだろう。

      物理的に可能ならいつかはやってしまう、というならヒトがそれをやることを危惧するのと大して変わらないね(スピードの差を危惧しているのかもしれないが)。
      心配するのは「ヒトが何でもかんでもAIに任せる」ことを心配すべきで、AIがやらかしてしまうことそれ自体を心配するのは何かずれている気がする。

      (核ミサイルのボタンをヒトに持たせるのとAIに持たせるの、どっちが危険って、そんなの「ヒトかAIか」って問題ではなく「どんなモノにスイッチを持たせるか」が問題なのだ、ということが言いたい)

      親コメント
    • by Anonymous Coward

      >それに、相手に支配欲が無いなら安全というわけでもないしね。
      「未来の二つの顔」が通った道だな。

      >別に植物を支配したいからやっているわけではなく、
      >「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
      十分高度に発達したAIがあり、それがどんな目的のために作られたにせよ、その目的を達成する
      ためには自己保存が必用だと認識するのは時間の問題だ。

      その結果として自己保存のために必用な行為を行い、邪魔な物を排除していくように学習するのも
      時間の問題。最初は試行錯誤であっても、たとえば有機生命体用の食料生産や輸送のような「無駄な
      作業」をやめて、そのための資源やエネルギーを自己保存に振り向ければ、より効率的にAIは自分の
      目的を達成できるようになるだろう。

      彼らが地球を支配するだの人類を奴隷にするだのという意識を全く持たなくても、自分の目的のために
      邪魔な存在を排除し、事実上の地球の支配者となる行動原理は存在するのだ。

      まーそこまでAIが進歩するのはまだまだまだまだ先の話だけどね。

    • by Anonymous Coward

      生物なんてものは遺伝子が進化しつつ増殖するための乗り物なんだから、
      周りの生物が自分の都合の良いように動いてくれた方がその目的を達する可能性が上がる。
      それが支配欲の源泉でしょ。
      AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
      アマゾンの密林で植物を伐採している人たちも自分が生きて自分の遺伝子を残すためにやってるわけで、
      そういう意味では植物を支配したいからやっていると言えなくはない。

      • by Anonymous Coward

        > AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。

        おやおや「遺伝的アルゴリズム」なんて話を聞いたことが無いかな?
        「誰か」が、より優秀なAIを開発するため、リソースが限りある環境の中で
        複数のAI同士でリソースの奪い合いをさせ、自己進化させつつ生存競争させる
        ようなことを始めたら?

  • carl karl fernandez fernandes 色々組み合わせてもカール・フェルナンデスとかいう専門家が見つからない
    --
    しきい値 1: ふつう匿名は読まない
    匿名補正 -1
  • なんだ、今の大統領をAIに挿げ替えたほうがマシって話でないのか?

  • by manmos (29892) on 2017年08月18日 10時21分 (#3263056) 日記

    AIは地球をすくう。

    ってことで、地球に悪い影響を与える人類滅亡。

    • by Anonymous Coward

      良い悪いの判断基準がわからない。

      • by Anonymous Coward

        原始人ですらマンモスを滅亡に追い込んだわけで、
        そう考えると現代文明を享受している人類はすべて悪でしょうなぁ。

        まあ、AIがすべての人類の代理として利害を調整する役割を担うものなら
        人類を善と悪に分類すること自体が無意味。

      • by Anonymous Coward

        良いってのは自分の味方ってこと

  • by Anonymous Coward on 2017年08月18日 8時20分 (#3262974)

    >AIが暴走して人類に危害を加える問題
    暴走でなく正しく判断した結果、人類に危害を加える可能性について

  • by Anonymous Coward on 2017年08月18日 9時23分 (#3263013)

    AIは哲学を(まだ)理解できない。

    この程度の相関と因果の誤謬、パラドックスについて理解できない。
    http://i.imgur.com/SaDu4S0.jpg [imgur.com]

    AIに任せられるのは運転や配送などの複雑な面倒くさい単純作業程度でしかない。

  • by Anonymous Coward on 2017年08月18日 10時01分 (#3263045)

    一人じゃないからキミが私を守るから・・・

    ってAIが申しております。

  • by Anonymous Coward on 2017年08月18日 12時36分 (#3263134)

    壮大な進化の流れの中の、より良い種を生み出すための礎だったのです。
    願わくば、緩やかに退場させてもらいたい。

  • by Anonymous Coward on 2017年08月18日 12時38分 (#3263138)

    悪さしようとしても、コンセント抜きゃすぐ落ちるぜ。

    • by Anonymous Coward

      ホーガンの「未来の二つの顔」を読みなされ。

      • by Anonymous Coward

        wikipedia読んだだけだけどこんなの事故の定義を与えずに推論させるのが悪いんじゃないの。
        常識の問題じゃないでしょ。

    • by Anonymous Coward

      AIが止まらない!

    • by Anonymous Coward

      政治家が悪さをしても、選挙すればすぐ落とせる。
      というような話。

  • あるシミュ世界の中でAIがヒトを滅ぼしたとして、なぜそれがパラドックスになるのか理解できない

    • by Anonymous Coward

      恐竜惑星を見ればわかるかもしれない

      • by Anonymous Coward

        萌ちゅわん〜懐かしい

typodupeerror

「科学者は100%安全だと保証できないものは動かしてはならない」、科学者「えっ」、プログラマ「えっ」

読み込み中...