立正大学、「犯罪しそう」なデータをもとに犯罪者を逮捕する物語を公開して炎上 109
ストーリー by nagazou
○○しそうだけで嫌疑は危険 部門より
○○しそうだけで嫌疑は危険 部門より
あるAnonymous Coward 曰く、
立正大学データサイエンス学部はPRサイトで童話の赤ずきんをモチーフにした「事件を起こしそう」なデータから無実のオオカミを逮捕する物語を公開していたが、「倫理観がないのでは」「不審だというデータだけで逮捕していいのか」などと批判が巻き起こり、公開は中止になったそうだ（J-CASTニュース、Togetter）。
赤ずきんは「森じゅうに仕掛けた監視カメラと顔認証システムとで犯罪者に多い行動パターンをしている対象を洗い出した」とか何気におっかないことをしているのでぜひとも立正大学には倫理観を持ったデータサイエンティストを育てる教育もしていただきたいものである。
サイエンスを冠してるのに (スコア:1)
「根拠なしで逮捕」って不思議に思わなかったのかね。
# 文系理系っていう分け方をしてしまった弊害なのかもしれない。
モラリスト×エキスパートを育む？ (スコア:2)
https://twitter.com/HiromitsuTakagi/status/1508107163809447936 [twitter.com]
ひろみちゅこと高木浩光先生のツイートによると立正大学のモットーは
「モラリスト×エキスパートを育む。」なのだそうで
いったいどんなモラルを持っているんだろうか
Re: (スコア:0)
愛国無罪的なモラルのエキスパートかな
Re: (スコア:0)
技術者倫理とかの倫理はEthicsだけど、MoralはEthicsよりも個人的な規範としてのニュアンスがありますよね。
普遍性とか共通認識とかを無視して自分の正義を実行しよう！というモットーに忠実な教育だったのではないでしょうか。
Re: (スコア:0)
動物にはmoralはあるがethicsはない。
Re:サイエンスを冠してるのに (スコア:1)
ストーリーの文面の「無実のオオカミを逮捕する物語」ってところを見て、
「それでもボクはやってない」系の物語かと思ってしまった。
データは正確で解析プログラムに誤りはなくても、
ちょっとしたパラメータのいじりでどんな結果でも出せるという、
データ解析の落とし穴を啓蒙する物語。
Re:サイエンスを冠してるのに (スコア:1)
データが正確で誤りがなければOKなの？
違うよ。統計的差別はデータが正確で誤りがなくても起きる。
Re:サイエンスを冠してるのに (スコア:1)
> 統計的差別はデータが正確で誤りがなくても起きる。
ええ、その通りです。そういう意図のコメントですので。
その次の行の
「ちょっとしたパラメータのいじりでどんな結果でも出せる」
と続いてるんですが
Re: (スコア:0)
>「ちょっとしたパラメータのいじりでどんな結果でも出せる」
元コメントの言いたいことは、（パラメータを恣意的に変更したら）いくらでも「事実」は作れるという話ではないと思うよ。
多くの統計学者が「この解析は妥当」と認める統計的事実を使ったとしても、発生しうる話を指摘してると思う。
Re: (スコア:0)
> 赤ずきんは、そのときにおばあさんの身代わりになってベッドで待ち伏せした。
> すると、監視カメラで何度も見かけたオオカミが、ドアをノックして家の中に入ってきた。
サイトは閉鎖されているらしいんで J-CASTニュースからの引用だが、根拠は不法侵入なんじゃないかな。
> オオカミは、赤ずきんのふりをして話しかけ、赤ずきんはすきを見て、逮捕すると叫んだ。
詐欺未遂もあるかも。
緊急逮捕は民間人でもやってよかったっけ？
Re:サイエンスを冠してるのに (スコア:1)
監視カメラまで設置してるのに施錠していないのはなんでなんだろうな。
# 施錠してなくても不法侵入ではあるけど、未然防止って考え方は存在しないのかな。
Re:サイエンスを冠してるのに (スコア:1)
警察「ノルマがあるんだよ」
スピード違反する奴の戯言は聞く気がないけれど、隠れてスピード違反捕まえるのではなくて、違反しないように表に出てろとは思う。
Re:サイエンスを冠してるのに (スコア:1)
緊急逮捕は駄目です。現行犯逮捕なら民間人にもできます。
今回は現行犯逮捕と書いてあるので、まぁ問題無いんじゃないの？
どんな罪状なのか分からんけど、本来の物語どおりなら殺人未遂でしょ。
ただし今回の物語だと単なる不法侵入、と言いたいけどおばあさんのフリして招き入れてると思われるので不法侵入は成立してない可能性もある。詳しく語られてないのでこの辺りは曖昧だが。
Re: (スコア:0)
犯罪ではない行動からの予想を元に罠を仕掛けているからなぁ、どうなんでしょう？
Re: (スコア:0)
>「根拠なしで逮捕」って不思議に思わなかったのかね。
「データサイエンス」は従来の理論体系が必要なサイエンスとは異なるのかもしれませんね。
Re: (スコア:0)
元ネタが削除されたようだからニュアンスが分からんけど。
そして、悪い事件を起こしそうなオオカミ1匹を特定し、犯罪が起きやすい日や狙われやすい場所をデータから分析した。その結果、今度の日曜日の21時ごろ、赤ずきんのおばあさんの家が危ないと分かったとして、赤ずきんは、そのときにおばあさんの身代わりになってベッドで待ち伏せした。すると、監視カメラで何度も見かけたオオカミが、ドアをノックして家の中に入ってきた。
オオカミは、赤ずきんのふりをして話しかけ、赤ずきんはすきを見て、逮捕すると叫んだ。その声を合図に、屈強なクマたちが窓から現れ、オオカミを取り押さえる。
不法侵入なんじゃないの？
Re: (スコア:0)
実際の話だと、証拠固めした後に現場を抑えるとかそういう感じか
＞監視カメラで何度も見かけたオオカミが、ドアをノックして家の中に入ってきた。
まだ何の用なのかわからないから微妙なタイミングだけど、顔見知りでもなく招き入れてないのに勝手に入ってきたらとりあえず不法侵入で逮捕できるね
あとは署で話を聞いてどうするか決めればいい
Re: (スコア:0)
Internet Archiveで見たら、入れ替わって待ち伏せして(物語的に)襲うタイミングで逮捕、だった
https://web.archive.org/web/20220326013153/https://www.ris.ac.jp/ds/ad... [archive.org]
他人の振りして入ってきている時点で、たとえ実際に襲う気がなくても不要侵入で逮捕は問題ないでしょう
顔認識システムや監視カメラあたりは現実問題としてもどうだろうというところはあるものの、データは「あたり」をつけてるだけ
いろいろな情報から容疑者を絞ってる事と特に変わりないね
Re: (スコア:0)
なんか変なタイポしてた…
不要侵入→不法侵入
Re: (スコア:0)
文系理系とか言い出すのと変わらんだろ。
ベースになる基準が異なれば予想ですら根拠になりえるんだよ。
だから優生思想とかあったんだよ。
ああいうのは根拠なしにではなく彼らなりの根拠に依ってだから。
差別なんかもそうで、彼らの中では正常に判断しているつもりなんで質が悪い。
まあコレ自体は現行犯逮捕なんで「根拠なしで逮捕」ってのはちと違う気がする。
状況などからの絞り込みだと、単なるプロファイリングでしかないよなあ。
予防拘禁などで対象者の行動に制限をしない限りは特に問題にはならんのでは？
個人情報的問題はおいておいて。
先生の今後の活躍にご期待ください (スコア:1)
これは悪徳保安官誕生物語。
4月からは、風来坊のガンマンがやってきて、暴利の限りを尽くした赤ずきんを退治する物語が始まる。
既視感 (スコア:0)
マイノリティ・リポートかな？
Re:既視感 (スコア:2)
パーソンオブインタレストが好きです。
加害者か被害者かが分からないのがミソです。
Re: (スコア:0)
あるいはアニメのＰＳＹＣＨＯ－ＰＡＳＳの世界ですね。
Re: (スコア:0)
ですね。記事タイトルだけ見て、パクリだからたたかれてるのかと思ったら違った。
Re: (スコア:0)
この手の倫理問題は手あかのついた話だよな
人種だったり性別だったり出自だったり
Re:既視感 (スコア:1)
犯罪を未然に防止したい。自分以外の手で。
犯罪者は、自分とは違って、どこかおかしいに違いない。それは実行する前に見つけられるはずだ。
...という現実認識がある限り、この手のシステムは入れ代わり立ち代わり出てくる。
Re: (スコア:0)
ロンブローゾにクレッチマー
現実の話だろ (スコア:0, すばらしい洞察)
倫理観も何も現実にもう起こってる話だろ
見た目が怪しいから通報とか、着ているもので通報とか
警察の職務質問も似たようなことやってるって記事もあったよね
Re:現実の話だろ (スコア:4, すばらしい洞察)
「通報」と「根拠無しの逮捕」は別の次元ですよ。
監視社会の問題点は当然あるでしょうけど、そこを混同したらダメ。
Re: (スコア:0)
今回話題になってるやつは「根拠無しの逮捕」ではなく「現行犯逮捕」だけどね
J-CAST記事のトップ画像でもそれが分かる
Re:現実の話だろ (スコア:1)
ノックして入って(←このタイミングで逮捕されていないということはここは問題ないのだろう)お話してて何の現行犯なんですか?
Re:現実の話だろ (スコア:1)
入ってからでも帰れと言われて帰らなければ不退去罪ですよ
しかも他人を騙って入っているし
何故ノックして入ったらそのあとも現行犯にならないと思うのか
家に男をあげて強姦されたら女が悪いとか言っちゃうタイプ?
Re:現実の話だろ (スコア:2, 参考になる)
「和歌山毒物カレー事件」などは、保険金詐欺をやっていた夫婦が状況証拠だけで有罪判決を受けて死刑宣告されてるよね。
その後、科学分析技術の進歩で林死刑囚らが所持していたヒ素と混入されていたヒ素が別物だという分析結果が出たのに、裁判所では証拠としては棄却して裁判のやり直しも行われず、死刑にされるのを待ってる状態。
怪しいし悪人で、状況証拠はあるから逮捕したが、どうやらこの事件では無実っぽい。
でも無罪にすると犯人はもう捕まらず、被害者の遺族の溜飲が下がらないので誰かを極刑にしなければならない。
そういうところだよね。
日本の死刑囚の何人かは無実だったりするんじゃないかな。
はぁ？ (スコア:0, フレームのもと)
顔データと行動パターンデータと犯罪履歴をAIに食わせたら、学習により事件を起こしそうな顔・行動が推論できるんですよね。
そこにどんな「倫理観」とやらが関係するんでしょう。
まあ、逮捕は行きすぎかもしれませんが、逮捕するのはデータサイエンティストじゃなくて公権力。倫理観によりデータを歪めたらサイエンティストじゃない。
Re:はぁ？ (スコア:4, 参考になる)
データがどう使われるか、そのデータが社会的にどう受容されるかを考えるのがは科学者の倫理です。
今回の例なら、実際には犯罪となんのつながりもない人が「犯罪を起こしそうな顔・行動」と判定される可能性があるわけです。そういう人を社会は忌避してはならないのですが（だって犯罪者ではないのですから）、みなさんそれができますか？というようなことをセットで考えるのがサイエンティストの倫理。
そうした現状を無視して「犯罪を起こす確率の高い顔や行動から未然に逮捕・事件を防止できます」という安直な物語を見せるのは、倫理観に欠けるかと。
ミスリード (スコア:0)
JCASTのタイトルが「「犯罪しそう」なデータもとに逮捕する物語」になってるのはミスリードだと思う。犯罪の可能性があるからデータを根拠に逮捕したのではなく、準備万端で待ち構えていたら案の定現れた。おとり捜査ですらない。不法侵入でも詐欺でもいいが、オオカミの目的は相手を食う事だから、家に侵入してそれが確実に起こりかねない段階で逮捕するのは正当だろう。食われるのを待つわけにはいかない。
Re: (スコア:0)
パトレイバー
太田「犯罪を犯しそうなやつ(虞犯者)は片っ端から捕まえてしまえばいいんだ」
篠原「それは予防拘禁だよ」
うる星やつら
水乃小路飛鳥「男、怖い。男、怖い。やられる前に先制攻撃しかないわ」
ってのを連想した。
科学者の倫理でもう一つ連想したのはマンハッタン計画。
できるなら何でもやっていいかどうか。
生命科学は割とそのへんうるさい。
日◯大学 (スコア:0)
大学じゅうに仕掛けた監視カメラと顔認証システムとで犯罪者に多い行動パターンをしている対象を洗い出したら理事長がひっかかったでござる
Re:日◯大学 (スコア:1)
いや、その理事長の顔は既に教師データの方に入っているので、検出されるのは仕様です。
個人(赤ずきん)が行ったからNG? (スコア:0)
森中に監視カメラ設置は警察がやってる [tokyo.lg.jp]。
不審者らしき人を検知することも製品として存在する。
https://www.systemsquare.co.jp/defender-x [systemsquare.co.jp]
https://srad.jp/story/01/06/30/0614242/ [srad.jp]
ただ、個人が街中にカメラを設置しまくり、
特定個人の行動を記録し続けるって
要はストーカーだよね。
Re: (スコア:0)
狼に利用目的を伝わるシーンが無かったから、
個人情報保護法違反しているように見える。
赤ずきんがやってることは防犯目的の枠を超えている。
その場合、利用目的が明らかでく個人を識別できる情報を取得しているから、
「全員の行動を分析し、犯罪を行いそうか判断する。
犯罪を行いそうな者の行動を記録し、いつ行いそうか分析する。」
と公表するか全動物に通知する必要がある。
なぜ立正大学データサイエンス部のAIは (スコア:0)
このサイトにどういう反響が返って来るか事前に察知できなかったのだろうか？
監視カメラを大量に設置するよりも容易に感じるのだが。
Re:なぜ立正大学データサイエンス部のAIは (スコア:3)
このサイトにどういう反響が返って来るか事前に察知できなかったのだろうか？
そういえば危険タックル問題でのらりくらりと責任回避をしてた日大には危機管理学部があったのに全く危機管理ができてなかったという紺屋の白袴問題もありました
https://www.j-cast.com/2018/05/18329061.html?p=all [j-cast.com]
Re: (スコア:0)
これは壮大なプロジェクトの一環で、今回我々はまんまとデータ収集に付き合わされたってことじゃない、知らんけど
データをどう使うか (スコア:0)
犯罪を高確率で起こす人物が分かる技術があったとして、犯行前に逮捕するのでなく犯罪を実行させないようにするような運用であれば理解されやすいのかなと思った。
もっとも、警察内の成績評価で防犯よりも検挙数が重視されてる限り無理なんだろうけど。
防犯を重視しすぎると被害届を受理しない(犯罪を認知しない)って方面に行くしどうしたら良いんだろうね。
立正大学 (スコア:0)
初めて名前聞いたけど、みんな知ってるの？
Re:立正大学 (スコア:1)
有名大学とは言えないかもしれないけど、仏教系の大学としては比較的名前が通っている方ではないかな。ルーツをたどるとかなり古くからあった様な。
関東地方では他に仏教系の大学は駒沢大学、東洋大学、・・・・他に思いつかなかった。第二外国語にサンスクリット語が選べるらしい。
Re:立正大学 (スコア:1)
創価大学、そうでしたね。鶴見大学もありました。学生時代を関西で過ごしたのと、人文系の学校に明るくないので。関西には国際仏教大学（IBU）というのがあって、あまり治安が良くないというかなんとも言えない場所にあったのでICUのパチモンかと思った。
立正大学仏教学部に行った同級生（お寺の子）がいて、大学卒業すると、得度したのと同等の扱いになって、住職としての資格が得られるとかだった。
Re: (スコア:0)
マイナスモデされる荒らしのお前が先に逮捕されるべきでは?