【人工知能】「AI裁判官」は全然公平ではなかった 人種差別やミス連発で人間以下 人工知能裁判のお粗末な実態

スポンサーリンク



1 :ニライカナイφ ★:2018/01/29(月) 22:11:57.72 ID:CAP_USER.net
◆「AI裁判官」は全然公平ではなかった! 差別やミス連発で人間以下… 人工知能裁判のお粗末な実態

アメリカの一部の州では、裁判でコンピュータアルゴリズムが使われている。
刑務所へ行くか執行猶予がつくか、懲役は何年か、保釈をするかしないか、コンピュータが計算したリスクスコアが使われているのだ。
だが今月17日の「Science News」によると、その判定アルゴリズムが本当に公平なのかどうか、当のアメリカで大きな議論になっているという。

■COMPASとは

有罪の被告を刑務所に入れるか否か、保釈申請を認めるか否かなどを裁判で決めるとき、裁判官や陪審員たちは被告の家族や友人、財産の状況から過去の犯罪歴といった大量の資料に目を通して判決を出すことが求められる。
だが、アメリカのいくつかの州ではこの過程をコンピュータアルゴリズムに任せている。
アルゴリズムは入力された犯罪歴、年齢、人種、雇用状況、教育レベル、薬物使用状況などに加え、家族の犯罪歴などから再犯や犯罪発生のリスクスコアを判定し、保釈・判決・仮釈放などを決定するのだという。

アルゴリズムを開発したのは国家機関ではなく、民間企業だ。
例えばウィスコンシン州で使われる「COMPAS」はNorthpointe社(現在はequivant社)が開発したもので、どのように判定が行われているのかの詳細は不明だ。

このブラックボックスが本当に公平なのかは疑問が多く、白人より黒人のほうがリスクを高く判定されているという指摘もあった。
過去には裁判での使用は不適切であるとの訴訟も起きている。

そこで、米国ダートマス大学のコンピュータサイエンス研究者であるJulia Dressel氏とHany Farid氏は、COMPASと人間の予測のどちらが正しいか検証を行った。
COMPASで評価されたフロリダ州の被告人1000人を無作為に抽出し、年齢や性別、家族構成、逮捕後から2年間の逮捕情報などの情報をデータベース化した。
そして、クラウドソーシングサイトで集めたボランティア400人にそれぞれ被告50人分のデータを渡し、2年後までに再犯するかを予測させた。

■驚きの結果

結果、ボランティアの予測精度はCOMPAS(約65%)とほぼ同じ(63〜67%)であった。
また、人間もCOMPASと同様の人種差別的な誤った推測もしていることが明らかとなった。

予測の誤りを検討したところ、白人の被告では再犯しないと予測されたものの再犯したという間違いが多く、黒人の被告では再犯すると予測されたが実際には再犯していないという間違いが多かったのだ。
また、COMPASに対抗する単純なアルゴリズムを独自に作成し、COMPASと同じ程度の精度で再犯を予測することに成功した。
この結果をまとめた論文は今月17日付で学術誌「Science Advances」に掲載された。

COMPASは人間とほぼ同程度の予測精度を発揮したものの、機械判定に期待される公平さにはいささか欠けている。
判定における透明性にも疑問は多く、一部では基礎的なデータの更新がされていなかったなどの問題も発覚しており、COMPAS利用の難しさが示されている。

リスク判定のアルゴリズムは裁判のみならず、ローンの承認、教師の評価、そして児童虐待発生のリスク判定など幅広く使われつつある。
裁判や人事評価にアルゴリズムを使うことは、評価者の偏見や思い込みを排除して判定を行う大いなる助けになるだろう。

だが、使用しているアルゴリズムが最新のデータに基づくか、適切な判断を下しているかどうかは常に監視していなければならない。
AIを活用する社会はもうすぐ側まで来ているのかもしれないが、それを適切に使っていくにはやはり人間の介入が不可欠ということだろう。

TOCANA 2018/01/29
http://tocana.jp/2018/01/post_15729_entry_2.html

167 :名無しのひみつ:2018/02/02(金) 12:24:06.52 ID:y67oMd9W.net

差別的なところ最初から排除しとかないのかAIって
そんなもん直ぐ人間の敵になると思うが

182 :名無しのひみつ:2018/02/16(金) 10:29:24.06 ID:eOVCfEGw.net

AIに判定させたら人間なら忖度するようなタブーをじゃんじゃん指摘してくるんじゃね

13 :名無しのひみつ:2018/01/29(月) 22:27:48.39 ID:p9Vub4kW.net

でも日本の裁判官よりはマシだろ

176 :名無しのひみつ:2018/02/05(月) 14:26:36.94 ID:IlV5mcSY.net

AIが経営最高責任者を務めたとしても社員の依怙贔屓で大変なことになりそう。

183 :名無しのひみつ:2018/02/16(金) 10:57:43.39 ID:CBex8XT1.net

これはAIではない、なんら自己学習してるわけじゃないだろ

45 :名無しのひみつ:2018/01/29(月) 23:26:55.22 ID:/qtOj4h5.net

>>27
最初から人種入れなきゃ良いのにな

白人の方が厳しく裁かれてるという結果が出たら無視するだろうし

137 :名無しのひみつ:2018/01/31(水) 02:57:28.14 ID:n4RzA0Ux.net

再犯すると予測された者を保釈しなければ
再犯率が低くなるのは当たり前じゃないか

202 :名無しのひみつ:2018/03/17(土) 07:45:30.23 ID:puauRpMS.net

それでも地裁の裁判官よりはマシだな

95 :名無しのひみつ:2018/01/30(火) 09:30:54.34 ID:acX8r5hb.net

AIが極右裁判官とは如何に

185 :名無しのひみつ:2018/02/16(金) 12:04:17.41 ID:2ZTlJw2s.net

人工的に嫌な奴増やしてどうするって感じだな

3 :名無しのひみつ:2018/01/29(月) 22:15:57.09 ID:cn5rBQVF.net

関連スレ

【事故ですか自○ですか】神奈川県警が全国初のAI導入へ! 犯罪の発生予測で未然防止
https://asahi.5ch.net/test/read.cgi/newsplus/1517178775/

110 :名無しのひみつ:2018/01/30(火) 12:57:59.84 ID:otz/e4bX.net

GIGO

40 :名無しのひみつ:2018/01/29(月) 23:12:45.22 ID:Q99QH88P.net

日本の裁判なら完璧な答えをAIは出すだろ
なんせ、過去の判例を全部入力していれば、近い答えを出す。

115 :名無しのひみつ:2018/01/30(火) 13:06:53.09 ID:d1bKLMm6.net

(*´ω`)つ関西でIT業界を目指す人へ!はやまるなと忠告【必読】

【警告】関西のIT業界は古臭くて、不可思議な慣習に満ちており東京へ行くべきである。

・関西のIT業界では親請けはまるで神様、奴隷だと勘違いして逆らったら問題時扱いで即刻首。
 →東京では当然だが対等なパートナーであり人間の尊厳がまず大事で、紳士的に対話してくれる。

・関西のIT業界の市場規模は東京の10分の1以下
 →産業の転換が遅れており、所詮、頭が悪い田舎の地方都市。良いチャンスも得られない

・関西のIT業界での技術者の扱いは使い潰しのサービス業の下請けいいなりサラリーマン
 →東京ではエンジニア、フリーランサーとして夢や目的を尊重して、互いの相互利益を考えてくれる。

・そもそも関西全体が落ち目であり、そこに染まるのはまず尊厳を考えない悪質で駄目な人材の証拠
 →登り調子の東京の一員になることこそ、成功の大前提と言える。駄目な物はダメ、見切りをつけろ

【結論】 同じ国内で、IT業界で働くなら、【 東京 】へ行くべきなのが大正解\(^o^)/

16 :名無しのひみつ:2018/01/29(月) 22:32:41.48 ID:ZDHttULC.net

100年後にこの話を聞いた人類は大笑いするのであった笑

201 :名無しのひみつ:2018/03/16(金) 00:24:18.53 ID:mnzz+fJ2.net

>198>199
少し前の延長でしか今を見ていない。

201 :名無しのひみつ:2018/03/16(金) 00:24:18.53 ID:mnzz+fJ2.net

>198>199
少し前の延長でしか今を見ていない。

27 :名無しのひみつ:2018/01/29(月) 22:47:05.31 ID:wOf0oRn0.net

>アルゴリズムは入力された犯罪歴、年齢、人種、雇用状況、教育レベル、薬物使用状況などに加え

入力事項に人種があるなら、出力する結果に人種が影響するに決まってるな・・・
最初から分かり切った話ww

205 :ニュースソース検討中@自治議論スレ:2018/04/03(火) 02:42:06.36 ID:IFhYgbQT.net

結局のところね、人種には明らかに差があるんだよ
現状のAIは空気読めないから本当の事を言ってしまうだけなんだな

91 :名無しのひみつ:2018/01/30(火) 09:16:24.11 ID:tMzx0StJ.net

負けて覚える相撲かな

53 :名無しのひみつ:2018/01/30(火) 00:11:18.06 ID:ankxejqo.net

だからTOCANAソースで科学ニュースにスレ立てんなよ。

128 :名無しのひみつ:2018/01/30(火) 18:19:25.30 ID:4cYdbUaa.net

結局、アメリカにはまだ人種差別があることをデータが証明しただけだな

30 :名無しのひみつ:2018/01/29(月) 22:52:08.52 ID:qoH2kGqf.net

>>28
お前さ、記事読んでないだろwまぬけすぎるぞw

64 :名無しのひみつ:2018/01/30(火) 01:23:29.88 ID:OnOFpuy/.net

投機的判決と呼ぼう

84 :名無しのひみつ:2018/01/30(火) 08:39:12.29 ID:cyAB5kzB.net

ニューロマシン型の人工知能(AI)の得意なアルゴリズムは動物的な全体の流れ、傾向分析だ。
一方で信用とか法律は禁止則だ。
信用や法律は、論理で、してはならないことの体系を網羅している。

現代のニューロマシン型のアルゴリズムに盲従すれば、
信用を踏みにじり、違法行為を乱発するのは当然だ。

だから、売れ筋商品の分析アルゴリズムが、なじみ客への嫌がらせなどを推論して、
店の信用を崩壊させたり、違法行為で会社を倒産させるのは、当然の結果だ。
一般に経営者は結果責任だから、そのようなアルゴリズムを採用した責任は経営者にある。

78 :名無しのひみつ:2018/01/30(火) 07:35:43.35 ID:2g6JKoDC.net

それでも、アホな東大法学部卒のパヨク馬鹿連中よりはマシ

39 :名無しのひみつ:2018/01/29(月) 23:11:11.67 ID:Q99QH88P.net

Aiって言っても、30年前からある概念だしな

22 :名無しのひみつ:2018/01/29(月) 22:38:39.20 ID:y069MqSv.net

自分と同じように「他人にもかけがえのない人生がある」ということ

17 :名無しのひみつ:2018/01/29(月) 22:33:03.29 ID:I2g02aTp.net

(´・ω・`)人種差別は正しいとは考えないの?

77 :名無しのひみつ:2018/01/30(火) 07:13:41.77 ID:V7frHrll.net

人間の裁判官と同じような判断をして、かつ同じような過ちも犯すのだから
この先、人間の裁判官は必要ないわけだ

シェアする

  • このエントリーをはてなブックマークに追加

フォローする