【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表[07/20]

1 :しじみ ★:2018/07/21(土) 15:53:21.82 ID:CAP_USER.net
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。

この報告書は、「AIネットワーク社会推進会議」(議長=須藤修・東大大学院情報学環教授)が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。

 医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。

 その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。

 また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。

20180719ai001 - 【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表[07/20]

https://www.cbnews.jp/news/entry/20180719200753

116 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 17:24:18.81 ID:PZ8ONpKq.net

>>115
どこで売ってるの?
誰がいま使って/作ってるの?

163 :ニュースソース検討中@自治議論スレ:2018/07/24(火) 16:44:18.99 ID:XPEMENsI.net

誤診じゃないよ自我の目覚めw

14 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 16:20:10.42 ID:1EnEHXxO.net

従来のAIは説明能力を持たない暗黙知能力だけだった。
本当の知性は説明能力を持たないといけない。
自分がどう考えてその結論に至ったかをちゃんと他人に説明できて伝達できる能力。
これが知性。

18 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 16:38:43.56 ID:54S1L++B.net

人間だって、「ついうっかり見逃してました。てへっ♡ペロ」なんて言い訳聞かされるだけなんだから
それでいいよ。
理由聞いたところで、病気が快復するわけでもないし、教訓を得て誤診が減っているような様子もないしなw
統計的に誤診率が人より減るようになったなら、十分役に立つんだからそれでいいんじゃね?

なんなら、患者に選ばせればいい。
A. 人が診断します。誤診率は高いですが、誤診したらなぜそれが起きたのか、言い訳を言って謝ります。
B. AIが診断します。誤診率は低いですが、誤診しても説明も謝罪もありません。
どちらがいいですか〜?ってw

11 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 16:09:38.97 ID:f9P1APbX.net

>>4
いまでもそうなんじゃないのかな
手術同意書とか

それでも明白な過失があれば裁判が起こせるみたいだから、AIも裁かれる

103 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 11:41:12.05 ID:4J+XE3zg.net

正確な判定が欲しいなら、患者をミンチにしてAIの入力に流し込めよ

7 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 16:05:54.04 ID:TooGmnMS.net

AIに説明もして貰えばいいじゃん。

153 :ニュースソース検討中@自治議論スレ:2018/07/24(火) 00:05:22.22 ID:U+HDYzlI.net

自動運転の車が歩行者に突っ込んでも説明は出来ないんだな

145 :ニュースソース検討中@自治議論スレ:2018/07/23(月) 05:53:48.18 ID:ZAH1SoWm.net

事実は事実
説明なんて後付けだよ

71 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 23:33:17.45 ID:9bmMMH4B.net

>>69
こういう安いバグまみれのAIが市場に出てくるのか…

136 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 21:28:03.70 ID:BUKdV3G/.net

>>132
それの何が問題なのかわからない

87 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 05:00:27.38 ID:X0Oy449+.net

なぜAIのみで考えるんだ
AIの判断を医者の判断の補助として使うことで誤診率が下がったり診断の精度が上がるのと、同じコストでより多くの医療活動ができるよになることで医療費の抑制になるじゃないか

13 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 16:18:37.65 ID:1EnEHXxO.net

説明能力を備えたAIが次世代のAIと言われているらしいね。

82 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 01:00:36.12 ID:4q06Xc3C.net

人間と同じように学習させるとAIも人間と同じように失敗する

19 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 16:43:27.08 ID:OGRSNoup.net

>>17
結局、AIって経験の積み重ねのことだからね。
学習させた全ての経験を積み重ねて「判断基準をプログラム自らが作り上げる」
というのが本質。
誰かが勘違いしているように、前例を検索しているだけで、前例がないと
何も判断できないという訳ではない。

53 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 20:01:44.51 ID:ipBnG5sU.net

もともと誤診の検証なんてしてないやんけ

84 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 01:32:24.29 ID:6sDnigKT.net

AIがメインではなく人間の医者がメインでAIをツールとして使えばいいだけだろ。
サッカーのVARみたいなもんで。
結局は責任を負うのは人間なんだから。
自動運転の車が事故を起こしたって車が刑罰を受けるわけじゃないしな。

101 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 11:21:20.84 ID:OpG3GoUM.net

>>18
自己責任で選ぶことになるだろう。
名医も歳を取るとミスするし、
AI化もひとつの方法だよ。
診断する方法の選択肢が広がるのは
基本的には良いと思う。

140 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 22:18:00.44 ID:gBbNZ48X.net

複数社のAIで診断すればよいんじゃね?

88 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 08:58:19.18 ID:rQzeCiUf.net

AIが狂ったとかいって足切断とかされたらたまらんぞ

147 :ニュースソース検討中@自治議論スレ:2018/07/23(月) 07:12:15.61 ID:Nnxs7W//.net

誤診でもいいから、この病気の確率何%って上位3つくらい可能性出してくれるといいよね。

72 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 23:34:19.10 ID:FruwnDI8.net

受診する時、最初に承諾書を取ればいいだろ
AIを利用することを了解する

嫌ならAIを使わない診療だけ受ければいい

5 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 16:01:26.47 ID:H1on/0+7.net

人が診断するより全然マシだよ

理由は医者は患者ではないという事

医者によって知識にバラツキがあるから

自分じゃない誰かが診断するなら

知識が豊富なAIが良いに決まってるだろw

98 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 10:49:34.19 ID:hoqIfbGb.net

AIに説明機能持たせると、論文の間違いとか捏造が次々と発覚したりして。

113 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 17:19:16.09 ID:FArxjgf2.net

膨大な診断結果を教師データに機械学習しただけだろ?

AIが自分で考えて導き出したわけでなく
人間の診断を基にしただけ

というか機械学習をAIと呼ぶ風潮やめにしてくれないか?

55 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 20:12:16.52 ID:nnlzjDFA.net

「コンピュータの故障で」といえば許される
みたいな感じで
「AIが誤診を起こしたので」といえば許される
みたいな風潮になったりしてな

4 :2chのエロい人 :2018/07/21(土) 16:00:20.43 ID:RTVnQJLP.net

「仮にAI が誤診しても、当病院並びに開発会社にその責任を問いません。」
という念書を書かされる未来が見える。

121 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 18:21:01.03 ID:mLMYUczo.net

お告げというか神託みたいに受けとるようになるんだろうな

102 :ニュースソース検討中@自治議論スレ:2018/07/22(日) 11:24:13.33 ID:B7z9gVnW.net

もちろん医療費が劇的に安いAI診療の方を選ぶよ
待ち時間無しの24時間診療になるだろうし

44 :ニュースソース検討中@自治議論スレ:2018/07/21(土) 19:29:22.97 ID:kIn607qx.net

>>43
ムリムリ、所詮は仕込んだ通りにしか動かないプログラムなんだから

参考になったらSNSでシェアお願いします!

レスを投稿する(名前省略可)

CAPTCHA


この記事を読んだ方へのおすすめ

最近のコメント

あああああ : 訴えられた『荒野行動』で「#PUBGを許すな」が盛り上がってしまう
 PUBGはキッズ少ないな、i7+1070クラスのPCが必要だ... (4/22)
ページTOPへ↑