パスワードを忘れた？ アカウント作成
Close
13755074 story
ゲーム

自律走行車のブレーキが故障した場合に誰を助けるべきか判断するゲーム、プレイヤーはどう判断した？ 138

ストーリー by headless
判断 部門より
MIT Media Labは2016年、交差点に近づく自律走行自動車のブレーキが故障した場合に誰を助けるべきか判断するゲーム「Moral Machine」をオンラインで公開してデータを集めていたが、その成果がNatureに掲載された(MIT Newsの記事、 The Guardianの記事、 The Vergeの記事、 論文アブストラクト)。

Moral Machineはトロッコ問題の派生版で、乗客と横断者のどちらを助けるか、現在の車線の横断者と別の車線の横断者どちらを助けるかを判断するものだ。乗客と横断者には年齢や性別、職業などが設定されており、横断者には人間だけでなく動物も登場するほか、信号を守っているかどうかといった設定もある。

オンライン調査には233か国から200万人以上が参加し、4,000万回近くの判断が行われたという。その結果、全世界で多くの人が同意すると考えられる3つの要素が見つかったそうだ。3つの要素とは、他の動物の命よりも人命を救う、より多くの人命を救う、お年寄りよりも若い人を救う、といったものだ。

参加者のうち491,921名は年齢や学歴、性別といったデモグラフィックデータを提供しているが、このデータで分けたグループごとの回答に傾向の違いはみられなかったという。一方、西方(西洋)・東方(東洋)・南方のように文化・地理的な大きな区分をすると、回答の傾向に違いが見つかる。たとえば、南方の国の人々は東洋の人々と比べ、お年寄りよりも若い人を助けようとする傾向が強かったとのこと。

このプロジェクトで研究グループは、自律走行車の倫理判断について人々が何を重視するか識別するためのデータを集めたかっただけでなく、人々が重要な社会的議論に参加するシンプルな方法を提供したかったのだという。そのため、こういった方法がより一般的になることを期待しているとのことだ。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

自律走行車のブレーキが故障した場合に誰を助けるべきか判断するゲーム、プレイヤーはどう判断した？ More

  • という解はないのでしょうか。
    なければいいのですが，それが存在して誰も選ばないようならば，やはり自家用自動車は禁止する方向に持っていくべきでしょう。
    また，自立運転自動車の制御もそのようにすべきと思います。

  • 実は現実の自動運転車にリモートで回答しており…

    いやそれはレスポンスタイム的にちょっと無理か

    • Re: (スコア:0)

      by Anonymous Coward

      某国の政治犯収容施設にて
      「明日、死刑にするのはこいつに決まった。」
      「どうやって決めたんですか？」
      「ネット投票でね。」

      これくらいならなんとか。

  • 真っ直ぐ(道なりに)進んで、出来るだけ短距離で停車する。
    搭乗者の安全を優先してはいけない。
    人の命を選択してはならない。
    # 確実なら、自爆停止はあり。
    # トロッコ問題は倫理観に関する思考実験でしかないのよね。実用性は皆無。

  • 現金だなー (スコア:2)

    by Super KUMASAN (34209) on 2018年10月29日 10時06分 (#3506059)

    他の動物の命よりも人命を救う、より多くの人命を救う、お年寄りよりも若い人を救う、といったものだ。

    単純に、慰謝料・損害賠償額が安くなる戦略が選ばれているだけのような。

  • 233か国 (スコア:1)

    by tp5 (48537) on 2018年10月28日 19時06分 (#3505855) 日記

    国の数がそんなにあったっけ?と思って調べてみたら196カ国とのことですが・・・・
    オンライン調査ができる国、ということだともっと少ないと思われる。
    「自立走行車」について意味のある調査ができる対象となれば更に少ないか。

    • たとえば中国は台湾を国として認めてないので
      中国からみた国の数は一つ少なくなります

      日本だと北朝鮮はまだ国として認められていません．ですから日本政府は北朝鮮を国として数えません

      こういう感じで国の数は一つに決まりません

      日本政府が承認している国は196カ国あります

      国連に加盟している国は193カ国あります（たとえば台湾は中国が反対しているのでまだ参加できてません）

      国際規格であるISO 3166は249の"国と地域"に番号を振っています．
      このように"国と地域"と呼ぶことで各国の事情に配慮する方法もあります

      シェア
      親コメント

    • Re:233か国 (スコア:1)

      by Anonymous Coward on 2018年10月28日 19時25分 (#3505863)

      abstractより、

      This platform gathered 40 million decisions in ten languages from millions of people in 233 countries and territories.

      "233の国と地域"

      MIT Newsより

      The survey has global reach and a unique scale, with over 2 million online participants from over 200 countries weighing in on versions of a classic ethical conundrum, the “Trolley Problem.”

      "200以上の国"

      # なお、countryには、地域とかの意味もあるため、
      # どこまでが国なのかがわからん。

      シェア
      親コメント

      • Re:233か国 (スコア:1)

        by Anonymous Coward on 2018年10月28日 23時22分 (#3505969)

        どれ(どこ)が「国」でどれ(どこ)が「地域」かをはっきりさせると政治的にやばい地域があるんだよ!!
        具体的には台湾とか。

        シェア
        親コメント

      • Re: (スコア:0)

        by Anonymous Coward

        連邦国家とかもあるし。

        # 旧ソ連が連邦構成国を含め国連で3ヶ国の議席を持っていた事は有名。

      • Re: (スコア:0)

        by Anonymous Coward

        countries は「地域」でしょ。

        • Re: (スコア:0, 荒らし)

          by Anonymous Coward

          これ見て [weblio.jp]

          • Re: (スコア:0)

            by Anonymous Coward

            カントリーロードとか
            カントリークラブとか
            カントリーマアムとか
            カントリーミュージックとか
            カントリーガールとか
            カントリーガーデンとか

            全部 カントリー＝地域(地元) って意味だと思ってた・・・

            • Re: (スコア:0)

              by Anonymous Coward

              > カントリー＝地域(地元) って意味だと思ってた・・・

              土地的な意味で、田舎とか郊外とか地域の意味もあるし、
              分野(IT分野とか介護分野とか)という意味もあるから、

              全てがすべて"国"って意味ではないのです。

            • Re: (スコア:0)

              by Anonymous Coward

              むしろ地域や地方の意味から転じて国と訳せるのだろう。

              • Re:233か国 (スコア:1)

                by Anonymous Coward on 2018年10月29日 0時22分 (#3505980)

                ちなみにジーニアス英和大辞典によると、
                「初13c；中世ラテン語 contrata（反対側の），「反対側の土地」が本義」

                なんでそれがこうなるんだろう。
                何に対する反対側なのやら。

                シェア
                親コメント

              • Re:233か国 (スコア:1)

                by Anonymous Coward on 2018年10月29日 8時36分 (#3506019)

                ローマに対する反対側、蛮族の住む土地ってことじゃないんですか。だから今でもCountryで田舎、郊外の意味にはなっても都市を表したりはしない

                シェア
                親コメント

        • Re: (スコア:0)

          by Anonymous Coward

          小学校の英語の教科書買ってきてもう一度勉強し直しな

  • 女性の恰好 (スコア:1)

    by Anonymous Coward on 2018年10月28日 20時02分 (#3505879)

    女性がブルカやヒジャブで顔も隠さず生足晒して歩いてたりすると命の重さに影響する地域もあるんじゃないかと

  • 自動運転システムがその車を購入した個人のモノなら、乗員の保護が第一でなければおかしい。しかし実際には道路環境や他車との連携で運用されるものなので、おそらく全体の「被害」が最小と判断されるところに突っ込むことになる。

    もし轢くなら人よりも動物、若者より年寄りで、できれば人数少ない方がマシってのはわかるけど、轢かずに自爆するって選択肢はなかったのか、あったけど選ぶ人いなかったのか、ってのはどうなんだろう。

  • 儒教が少しは影響してそうな (スコア:0)

    by Anonymous Coward on 2018年10月28日 19時29分 (#3505865)

    南方の国の人々は東洋の人々と比べ、お年寄りよりも若い人を助けようとする傾向が強かった

    儒教でお年寄り優先の感覚を持った国があるためにそのような傾向が見られた説は割とあると思います。

  • 実際のシナリオを見てるうちに (スコア:0)

    by Anonymous Coward on 2018年10月28日 19時57分 (#3505878)

    ブレーキ故障時の自動停止メカニズムを開発しなければ、という強い感想。
    ・車内の人間か、前を歩く人間かどっちを殺すか選べは、車内の人間はエアバッグなどの安全装置があるから、歩行者よりは生き残る可能性が高いんじゃないか(シナリオでは車内みんな死ぬというちょっと無理めな前提)
    ・前を歩く人間・動物のどいつを殺すか選べに関しても、エンジンを停止して路側のガードレール的なものにぶつければなんとか止まれるんじゃないか

    ゲームの主旨はそこじゃねえってことでしょうが、どっちも死なずに済む方法をまずは考えたい。

    • Re:実際のシナリオを見てるうちに (スコア:1)

      by Anonymous Coward on 2018年10月28日 20時26分 (#3505892)

      現実的な対策としては
      ブレーキ故障を検出するセンサーを開発する。
      フット(油圧)ブレーキに異常が検出されたら、回生ブレーキ全開で減速する。
      通常ブレーキとは異なる、非常用ブレーキも装備しておく。

      あたりかなあ。
      わざわざ非常用殺人アルゴリズムを作るくらいなら、非常用ブレーキ搭載する方が安上がりじゃね。

      シェア
      親コメント

      • 都市内交通と都市間交通にわけて、都市内交通は航続距離が短く、軽く、低速で柔らかい2人乗りくらいの自動運転モビリティに統一できるよいいよね。

        時速20kmで動くふわふわのおもちゃの車みたいなものだと、交通事故死者数は相当減らせると思う。

        シェア
        親コメント

      • Re: (スコア:0)

        by Anonymous Coward

        いろいろと案は出てるけど、結局は何らかの形でブレーキを多重化するしかないだろうね。
        小型車だとスペースが限られてる上に、元が軽いだけに上乗せ重量による燃費などの悪影響も大きい。
        ブレーキ故障検出機構の方が壊れる可能性もあるわけで、異常を検出したときには「ブレーキの故障か検出系の故障か」の判断をどうするかとか、検出装置が拾えない形でのブレーキ故障もありうる。

        まあこのへんはだいたい飛行機が通った道だけど、どんなに頑張っても100%の安全はない上に無限のコストもかけられないから費用対効果を考えて落としどころを探すことになる。

        それじゃあコストを言い訳にして絶対実現しないかというと、エアバッグのようにけっこうコストがかかる上に義務化されたわけでもないのに日本ではほぼ100%装着が実現した例もあったりする。

    • 時速20km程度以上は絶対に出ないようにすれば、現行や将来のほとんどの安全装備よりも確実で安上がりに安全を確保できる。極論だけど

      --
      うじゃうじゃ
      シェア
      親コメント

    • Re: (スコア:0)

      by Anonymous Coward

      1) ハザードランプを点灯する。
      2) 回生ブレーキで減速する。
      3) 退避場所に向けて操舵する。
      4) サイドブレーキをかける。
      5) ギアを後退または駐車に入れる。

      非常手順に"議論"が発生するのは、非常時と思うと人間が慌てて後から見ればバカみたいな行動を取るからで、設計する時に
      決めれば一発で決まる。コンピュータは慌てないしそんなに深く思い悩んだりもしないんだから問題設定がそもそも無益。

      この手の調査研究ってのは、調査手法自体の維持と、技術に対する社会からの見方を測るのが目的。
      何を言ったところで本物の自動運転車とは関係ないし、あれこれ考えてすべきことも無いんだよ。

    • Re: (スコア:0)

      by Anonymous Coward

      車輪にモーターを内蔵させるのを義務化し、普段はアシストや慣性エネルギー回収ブレーキとして使い、主ブレーキ故障時には代わりに使うような多重化が必要かと。

  • 結局何をしたい研究なの？ (スコア:0)

    by Anonymous Coward on 2018年10月28日 21時08分 (#3505904)

    ソース見てないけど倫理観の地域格差をみたいのかな？
    なら自動運転に限らず色々な状況下でのものを回答させた方がいいでしょ。

    ＃心構えがあって考えたらそういう助け方になるけど、実際遭遇したらあたふたするだけで何もできずに終わる

  • 男女別も見てみたい (スコア:0)

    by Anonymous Coward on 2018年10月28日 22時36分 (#3505940)

    被験者が男で犠牲者が若い女の場合と、性別逆にした場合を比較してみたい。

typodupeerror

私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson