パスワードを忘れた? アカウント作成
15611902 story
テクノロジー

立正大学、「犯罪しそう」なデータをもとに犯罪者を逮捕する物語を公開して炎上 109

ストーリー by nagazou
○○しそうだけで嫌疑は危険 部門より
あるAnonymous Coward 曰く、

立正大学データサイエンス学部はPRサイトで童話の赤ずきんをモチーフにした「事件を起こしそう」なデータから無実のオオカミを逮捕する物語を公開していたが、「倫理観がないのでは」「不審だというデータだけで逮捕していいのか」などと批判が巻き起こり、公開は中止になったそうだ(J-CASTニュースTogetter)。

赤ずきんは「森じゅうに仕掛けた監視カメラと顔認証システムとで犯罪者に多い行動パターンをしている対象を洗い出した」とか何気におっかないことをしているのでぜひとも立正大学には倫理観を持ったデータサイエンティストを育てる教育もしていただきたいものである。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 「根拠なしで逮捕」って不思議に思わなかったのかね。
    # 文系理系っていう分け方をしてしまった弊害なのかもしれない。

    • https://twitter.com/HiromitsuTakagi/status/1508107163809447936 [twitter.com]
      ひろみちゅこと高木浩光先生のツイートによると立正大学のモットーは
      「モラリスト×エキスパートを育む。」なのだそうで

      いったいどんなモラルを持っているんだろうか

      親コメント
      • by Anonymous Coward

        愛国無罪的なモラルのエキスパートかな

      • by Anonymous Coward

        技術者倫理とかの倫理はEthicsだけど、MoralはEthicsよりも個人的な規範としてのニュアンスがありますよね。
        普遍性とか共通認識とかを無視して自分の正義を実行しよう!というモットーに忠実な教育だったのではないでしょうか。

        • by Anonymous Coward

          動物にはmoralはあるがethicsはない。

    • ストーリーの文面の「無実のオオカミを逮捕する物語」ってところを見て、
      「それでもボクはやってない」系の物語かと思ってしまった。

      データは正確で解析プログラムに誤りはなくても、
      ちょっとしたパラメータのいじりでどんな結果でも出せるという、
      データ解析の落とし穴を啓蒙する物語。

      親コメント
      • by Anonymous Coward on 2022年03月30日 14時33分 (#4223792)

        データが正確で誤りがなければOKなの?

        違うよ。統計的差別はデータが正確で誤りがなくても起きる。

        親コメント
        • > 統計的差別はデータが正確で誤りがなくても起きる。

          ええ、その通りです。そういう意図のコメントですので。
          その次の行の
          「ちょっとしたパラメータのいじりでどんな結果でも出せる」
          と続いてるんですが

          親コメント
          • by Anonymous Coward

            >「ちょっとしたパラメータのいじりでどんな結果でも出せる」

            元コメントの言いたいことは、(パラメータを恣意的に変更したら)いくらでも「事実」は作れるという話ではないと思うよ。

            多くの統計学者が「この解析は妥当」と認める統計的事実を使ったとしても、発生しうる話を指摘してると思う。

    • by Anonymous Coward

      > 赤ずきんは、そのときにおばあさんの身代わりになってベッドで待ち伏せした。
      > すると、監視カメラで何度も見かけたオオカミが、ドアをノックして家の中に入ってきた。

      サイトは閉鎖されているらしいんで J-CASTニュースからの引用だが、根拠は不法侵入なんじゃないかな。

      > オオカミは、赤ずきんのふりをして話しかけ、赤ずきんはすきを見て、逮捕すると叫んだ。

      詐欺未遂もあるかも。
      緊急逮捕は民間人でもやってよかったっけ?

      • 監視カメラまで設置してるのに施錠していないのはなんでなんだろうな。
        # 施錠してなくても不法侵入ではあるけど、未然防止って考え方は存在しないのかな。

        親コメント
        • by Anonymous Coward on 2022年03月30日 22時36分 (#4224175)

          警察「ノルマがあるんだよ」

          スピード違反する奴の戯言は聞く気がないけれど、隠れてスピード違反捕まえるのではなくて、違反しないように表に出てろとは思う。

          親コメント
      • by Anonymous Coward on 2022年03月30日 16時43分 (#4223913)

        緊急逮捕は駄目です。現行犯逮捕なら民間人にもできます。

        今回は現行犯逮捕と書いてあるので、まぁ問題無いんじゃないの?
        どんな罪状なのか分からんけど、本来の物語どおりなら殺人未遂でしょ。

        ただし今回の物語だと単なる不法侵入、と言いたいけどおばあさんのフリして招き入れてると思われるので不法侵入は成立してない可能性もある。詳しく語られてないのでこの辺りは曖昧だが。

        親コメント
      • by Anonymous Coward

        犯罪ではない行動からの予想を元に罠を仕掛けているからなぁ、どうなんでしょう?

    • by Anonymous Coward

      >「根拠なしで逮捕」って不思議に思わなかったのかね。

      「データサイエンス」は従来の理論体系が必要なサイエンスとは異なるのかもしれませんね。

    • by Anonymous Coward

      元ネタが削除されたようだからニュアンスが分からんけど。

      そして、悪い事件を起こしそうなオオカミ1匹を特定し、犯罪が起きやすい日や狙われやすい場所をデータから分析した。その結果、今度の日曜日の21時ごろ、赤ずきんのおばあさんの家が危ないと分かったとして、赤ずきんは、そのときにおばあさんの身代わりになってベッドで待ち伏せした。すると、監視カメラで何度も見かけたオオカミが、ドアをノックして家の中に入ってきた。

      オオカミは、赤ずきんのふりをして話しかけ、赤ずきんはすきを見て、逮捕すると叫んだ。その声を合図に、屈強なクマたちが窓から現れ、オオカミを取り押さえる。

      不法侵入なんじゃないの?

      • by Anonymous Coward

        実際の話だと、証拠固めした後に現場を抑えるとかそういう感じか

        >監視カメラで何度も見かけたオオカミが、ドアをノックして家の中に入ってきた。
        まだ何の用なのかわからないから微妙なタイミングだけど、顔見知りでもなく招き入れてないのに勝手に入ってきたらとりあえず不法侵入で逮捕できるね
        あとは署で話を聞いてどうするか決めればいい

      • by Anonymous Coward

        Internet Archiveで見たら、入れ替わって待ち伏せして(物語的に)襲うタイミングで逮捕、だった
        https://web.archive.org/web/20220326013153/https://www.ris.ac.jp/ds/ad... [archive.org]

        他人の振りして入ってきている時点で、たとえ実際に襲う気がなくても不要侵入で逮捕は問題ないでしょう

        顔認識システムや監視カメラあたりは現実問題としてもどうだろうというところはあるものの、データは「あたり」をつけてるだけ
        いろいろな情報から容疑者を絞ってる事と特に変わりないね

        • by Anonymous Coward

          なんか変なタイポしてた…

          不要侵入→不法侵入

    • by Anonymous Coward

      文系理系とか言い出すのと変わらんだろ。
      ベースになる基準が異なれば予想ですら根拠になりえるんだよ。
      だから優生思想とかあったんだよ。
      ああいうのは根拠なしにではなく彼らなりの根拠に依ってだから。
      差別なんかもそうで、彼らの中では正常に判断しているつもりなんで質が悪い。

      まあコレ自体は現行犯逮捕なんで「根拠なしで逮捕」ってのはちと違う気がする。
      状況などからの絞り込みだと、単なるプロファイリングでしかないよなあ。
      予防拘禁などで対象者の行動に制限をしない限りは特に問題にはならんのでは?
      個人情報的問題はおいておいて。

  • その功績で、赤ずきんは、村長から森の保安官に任命されるというストーリーだ。

    これは悪徳保安官誕生物語。

    年度末を機に切替を予定しておりました

    4月からは、風来坊のガンマンがやってきて、暴利の限りを尽くした赤ずきんを退治する物語が始まる。

  • by Anonymous Coward on 2022年03月30日 13時42分 (#4223739)

    マイノリティ・リポートかな?

    • by asanagi (22217) on 2022年03月30日 14時45分 (#4223805) 日記

      パーソンオブインタレストが好きです。
      加害者か被害者かが分からないのがミソです。

      親コメント
    • by Anonymous Coward

      あるいはアニメのPSYCHO-PASSの世界ですね。

      • by Anonymous Coward

        ですね。記事タイトルだけ見て、パクリだからたたかれてるのかと思ったら違った。

    • by Anonymous Coward

      この手の倫理問題は手あかのついた話だよな

      人種だったり性別だったり出自だったり

      • by Anonymous Coward on 2022年03月30日 17時02分 (#4223937)

        犯罪を未然に防止したい。自分以外の手で。
        犯罪者は、自分とは違って、どこかおかしいに違いない。それは実行する前に見つけられるはずだ。

        ...という現実認識がある限り、この手のシステムは入れ代わり立ち代わり出てくる。

        親コメント
      • by Anonymous Coward

        ロンブローゾにクレッチマー

  • 現実の話だろ (スコア:0, すばらしい洞察)

    by Anonymous Coward on 2022年03月30日 13時44分 (#4223743)

    倫理観も何も現実にもう起こってる話だろ
    見た目が怪しいから通報とか、着ているもので通報とか
    警察の職務質問も似たようなことやってるって記事もあったよね

    • Re:現実の話だろ (スコア:4, すばらしい洞察)

      by Anonymous Coward on 2022年03月30日 14時16分 (#4223774)

      「通報」と「根拠無しの逮捕」は別の次元ですよ。
      監視社会の問題点は当然あるでしょうけど、そこを混同したらダメ。

      親コメント
      • by Anonymous Coward

        今回話題になってるやつは「根拠無しの逮捕」ではなく「現行犯逮捕」だけどね
        J-CAST記事のトップ画像でもそれが分かる

        • by Anonymous Coward on 2022年03月30日 18時49分 (#4224042)

          ノックして入って(←このタイミングで逮捕されていないということはここは問題ないのだろう)お話してて何の現行犯なんですか?

          親コメント
          • by Anonymous Coward on 2022年03月30日 23時42分 (#4224210)

            入ってからでも帰れと言われて帰らなければ不退去罪ですよ
            しかも他人を騙って入っているし
            何故ノックして入ったらそのあとも現行犯にならないと思うのか
            家に男をあげて強姦されたら女が悪いとか言っちゃうタイプ?

            親コメント
    • Re:現実の話だろ (スコア:2, 参考になる)

      by Anonymous Coward on 2022年03月30日 16時10分 (#4223881)

      「和歌山毒物カレー事件」などは、保険金詐欺をやっていた夫婦が状況証拠だけで有罪判決を受けて死刑宣告されてるよね。

      その後、科学分析技術の進歩で林死刑囚らが所持していたヒ素と混入されていたヒ素が別物だという分析結果が出たのに、裁判所では証拠としては棄却して裁判のやり直しも行われず、死刑にされるのを待ってる状態。

      怪しいし悪人で、状況証拠はあるから逮捕したが、どうやらこの事件では無実っぽい。
      でも無罪にすると犯人はもう捕まらず、被害者の遺族の溜飲が下がらないので誰かを極刑にしなければならない。
      そういうところだよね。

      日本の死刑囚の何人かは無実だったりするんじゃないかな。

      親コメント
  • はぁ? (スコア:0, フレームのもと)

    by Anonymous Coward on 2022年03月30日 13時47分 (#4223744)

    赤ずきんは「森じゅうに仕掛けた監視カメラと顔認証システムとで犯罪者に多い行動パターンをしている対象を洗い出した」とか何気におっかないことをしているのでぜひとも立正大学には倫理観を持ったデータサイエンティストを育てる教育もしていただきたいものである。

    顔データと行動パターンデータと犯罪履歴をAIに食わせたら、学習により事件を起こしそうな顔・行動が推論できるんですよね。
    そこにどんな「倫理観」とやらが関係するんでしょう。

    まあ、逮捕は行きすぎかもしれませんが、逮捕するのはデータサイエンティストじゃなくて公権力。倫理観によりデータを歪めたらサイエンティストじゃない。

    • Re:はぁ? (スコア:4, 参考になる)

      by Anonymous Coward on 2022年03月30日 14時43分 (#4223803)

      データがどう使われるか、そのデータが社会的にどう受容されるかを考えるのがは科学者の倫理です。

      今回の例なら、実際には犯罪となんのつながりもない人が「犯罪を起こしそうな顔・行動」と判定される可能性があるわけです。そういう人を社会は忌避してはならないのですが(だって犯罪者ではないのですから)、みなさんそれができますか?というようなことをセットで考えるのがサイエンティストの倫理。

      そうした現状を無視して「犯罪を起こす確率の高い顔や行動から未然に逮捕・事件を防止できます」という安直な物語を見せるのは、倫理観に欠けるかと。

      親コメント
      • by Anonymous Coward

        JCASTのタイトルが「「犯罪しそう」なデータもとに逮捕する物語」になってるのはミスリードだと思う。犯罪の可能性があるからデータを根拠に逮捕したのではなく、準備万端で待ち構えていたら案の定現れた。おとり捜査ですらない。不法侵入でも詐欺でもいいが、オオカミの目的は相手を食う事だから、家に侵入してそれが確実に起こりかねない段階で逮捕するのは正当だろう。食われるのを待つわけにはいかない。

      • by Anonymous Coward

        パトレイバー
        太田「犯罪を犯しそうなやつ(虞犯者)は片っ端から捕まえてしまえばいいんだ」
        篠原「それは予防拘禁だよ」

        うる星やつら
        水乃小路飛鳥「男、怖い。男、怖い。やられる前に先制攻撃しかないわ」

        ってのを連想した。

        科学者の倫理でもう一つ連想したのはマンハッタン計画。
        できるなら何でもやっていいかどうか。
        生命科学は割とそのへんうるさい。

  • by Anonymous Coward on 2022年03月30日 13時52分 (#4223750)

    大学じゅうに仕掛けた監視カメラと顔認証システムとで犯罪者に多い行動パターンをしている対象を洗い出したら理事長がひっかかったでござる

  • by Anonymous Coward on 2022年03月30日 13時59分 (#4223755)

    森中に監視カメラ設置は警察がやってる [tokyo.lg.jp]。
    不審者らしき人を検知することも製品として存在する。
    https://www.systemsquare.co.jp/defender-x [systemsquare.co.jp]
    https://srad.jp/story/01/06/30/0614242/ [srad.jp]

    ただ、個人が街中にカメラを設置しまくり、
    特定個人の行動を記録し続けるって
    要はストーカーだよね。

    • by Anonymous Coward

      狼に利用目的を伝わるシーンが無かったから、
      個人情報保護法違反しているように見える。

      赤ずきんがやってることは防犯目的の枠を超えている。
      その場合、利用目的が明らかでく個人を識別できる情報を取得しているから、
      「全員の行動を分析し、犯罪を行いそうか判断する。
       犯罪を行いそうな者の行動を記録し、いつ行いそうか分析する。」
      と公表するか全動物に通知する必要がある。

  • by Anonymous Coward on 2022年03月30日 14時14分 (#4223771)

    このサイトにどういう反響が返って来るか事前に察知できなかったのだろうか?
    監視カメラを大量に設置するよりも容易に感じるのだが。

  • by Anonymous Coward on 2022年03月30日 16時55分 (#4223929)

    犯罪を高確率で起こす人物が分かる技術があったとして、犯行前に逮捕するのでなく犯罪を実行させないようにするような運用であれば理解されやすいのかなと思った。

    もっとも、警察内の成績評価で防犯よりも検挙数が重視されてる限り無理なんだろうけど。
    防犯を重視しすぎると被害届を受理しない(犯罪を認知しない)って方面に行くしどうしたら良いんだろうね。

  • by Anonymous Coward on 2022年03月30日 16時56分 (#4223932)

    初めて名前聞いたけど、みんな知ってるの?

    • by tsukachan (26170) on 2022年03月30日 17時36分 (#4223970)

      有名大学とは言えないかもしれないけど、仏教系の大学としては比較的名前が通っている方ではないかな。ルーツをたどるとかなり古くからあった様な。
      関東地方では他に仏教系の大学は駒沢大学、東洋大学、・・・・他に思いつかなかった。第二外国語にサンスクリット語が選べるらしい。

      親コメント
typodupeerror

ナニゲにアレゲなのは、ナニゲなアレゲ -- アレゲ研究家

読み込み中...