【AI】人工知能はもう悪用される段階に 専門家警告[02/21]

スポンサーリンク



1 :しじみ ★:2018/02/22(木) 10:06:15.45 ID:CAP_USER.net
ミサイルに変化するドローン(無人機)、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能(AI)がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。

14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、
ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。

100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。

報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、
米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。

AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、
今まで以上に努力する必要があるという。

さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。

報告書の主な提言は次の通り――。

・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野(たとえばコンピューターのセキュリティ)から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる

ケンブリッジ大学人類絶滅リスク研究センター(CSER)のシャハール・アビン博士は、
遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、
報告書についてBBCに話した。

「流れを一気に変えるもの」

特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。

アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。

・グーグルのディープマインドが開発し、
 人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、
 データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます

オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。

「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」

「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、
必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」

CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。

「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。
私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」

「いま決めなくてはならないことがいくつかある。
我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」

続きはソースで

(英語記事 AI ripe for exploitation, experts warn)
http://www.bbc.com/news/technology-43127533

関連ソース画像
100106763 robotai - 【AI】人工知能はもう悪用される段階に 専門家警告[02/21]

BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275

77 :名無しのひみつ:2018/02/22(木) 21:08:06.08 ID:DHvP2vPL.net

本気でアシモフの『ロボット3原則+追加1原則』を開発しろよ。

120 :名無しのひみつ:2018/02/27(火) 08:46:30.55 ID:FjvsT4A4.net

AIって言うけど、結局は大量のデータをさばけて、学習機能を持ったプログラムでしょ?
悪用される恐れはあるけど、AIが勝手なことしだして、人間が制御出来なくなるということは、今のAIではないのでは?

79 :名無しのひみつ:2018/02/22(木) 21:42:57.84 ID:KLAZw5g6.net

>>68
取引の8割は既に自動売買というデータが出ているよ
その中の何割がAI搭載しているかは知らんが

103 :名無しのひみつ:2018/02/24(土) 01:59:11.67 ID:c335Gd1W.net

昔、キャシャーンってアニメがあってな地球が悪のロボットに侵略されるんだよ!

124 :名無しのひみつ:2018/02/28(水) 22:52:02.78 ID:KovWjsDW.net

>>123
本能は数万年の生き死にのプロセスで形作られたもの。
人が、気づいてない動物の努力にすごいと言うがそれは当たり前。
死んで当たり前の無謀とも見える行動をする特性があって、その中で生き残るのが動物、特に哺乳類と鳥類のいまのありようなんだから。
AIを根本的に全く違うものに置き換えてない?

まあ自覚ない決めつけなのかもしれないけどさ。

146 :ニュースソース検討中@自治議論スレ:2018/05/01(火) 14:34:40.72 ID:a3+5GVQ1.net

人工知能と天然無能の壮絶な戦いが今ここに!
近日公開ロードショー!乞うご期待!
君はこのドロドロの戦いを生き抜けるか?

46 :名無しのひみつ:2018/02/22(木) 16:25:30.59 ID:xVAaeoSE.net

元気があればなんでもできる!

3 :名無しのひみつ:2018/02/22(木) 10:23:44.86 ID:lDpb/24C.net

ちょっとそんな世界も見てみたい気がするのは何故だろう

112 :名無しのひみつ:2018/02/24(土) 22:14:55.19 ID:6rsbREFP.net

AIとの戦争が近づいてるようだ

53 :名無しのひみつ:2018/02/22(木) 17:11:20.78 ID:f5QgQXpz.net

会社立ち上げようかなー

社名は スカイネット

44 :名無しのひみつ:2018/02/22(木) 15:55:29.52 ID:JF4tv+FK.net

>>42つづき
AIは我が子のようでもある。生んだのは我々人間だが、子は成長し親から独立する。
親を愛するかも知れないし、憎むかも知れないし、無視するかも知れない。
しかし、親の何かを継いでいることも確かなことだ。

6 :名無しのひみつ:2018/02/22(木) 10:47:20.64 ID:jFsCVlaf.net

no足りんだな

69 :名無しのひみつ:2018/02/22(木) 19:09:48.40 ID:JF4tv+FK.net

>>63
2045年以降ぐらいのAI

24 :名無しのひみつ:2018/02/22(木) 13:31:51.66 ID:YCl1B5GJW

ハッカーどころか、そもそもの設計段階からそうだろ

76 :名無しのひみつ:2018/02/22(木) 21:06:19.26 ID:xuFjb/9j.net

>>68
その単純なゲームですら人間の手に余るちゅう現実

80 :名無しのひみつ:2018/02/22(木) 21:57:37.44 ID:Dog13qhv.net

大昔から
「善人にとって便利なものが発明されれば
それは悪人にとっても便利」
の法則は変わらない
便利の規模がデカければデカいほど破滅の規模もデカい

92 :名無しのひみつ:2018/02/23(金) 08:38:38.33 ID:TeNrlGU3.net

>>13
人間がAIに悪さをさせる

117 :名無しのひみつ:2018/02/25(日) 20:39:36.66 ID:PdgIdzoK.net

>>2
人間と究極のAIを知能という面で分けることは不可能だろう。人間の知能もプログラムコードの集積にすぎない。
いわゆる自我というやつもセルフモニタリング機能にすぎない。

125 :名無しのひみつ:2018/03/01(木) 12:13:43.57 ID:FueHkukV.net

>>120
車の自動運転のAIは勝手な事はしないけど想定外な事をして
歩行者に突っ込む可能性は高い

150 :ニュースソース検討中@自治議論スレ:2018/05/02(水) 11:59:58.64 ID:SjgboR1W.net

>>2
今まではな、「風が吹いたら桶屋が儲かる」ロジックをコンピューターに覚えさせて、「風力いくつで風が吹いたらいくら桶屋が儲かるか計算せよ」ってことをやらせてたわけ

今は「ここに長年の気象データとか失業率とかホームセンターの売上データとかいろんなもん並べとくから、なんか法則見つけろよ」ってコンピューターに命令して、「風が吹いたら桶屋が儲かると思います」ってコンピューターに見つけさせてんのよ

簡単に言うとこれがAI
他にも定義によってはいろんなパターンやタイプがあるけどここでは割愛

わかると思うけど、まだまだ自我が芽生えるには程遠い

36 :名無しのひみつ:2018/02/22(木) 15:05:50.97 ID:FE31nz0A.net

AIに限らず結局は道具をどう使うかって話でしょ
AIなんて高等なものでなくても
アホに使わせたらどんなものでも危険になる
もうこれは防ぎようがない

そして道具自体が便利になればなるほど
アホの願いを叶えやすくなるのでどうしたってアホの方が有利になる
これからは我慢のきかないアホが幅を利かせる時代に突入していくぞ

110 :名無しのひみつ:2018/02/24(土) 12:30:07.58 ID:B0iDliLI.net

対立煽りは分割統治
ユダ豚がトップ
モグラはどこにでもいる
WW2で奴隷化
クーデター可能
羊飼いは皆殺しだ

25 :名無しのひみつ:2018/02/22(木) 13:35:51.64 ID:lDpb/24C.net

これって人工知能の開発の目処がついたから規制強化させて新規参入を阻むためだったりして

145 :ニュースソース検討中@自治議論スレ:2018/04/20(金) 04:41:51.42 ID:3M3Qjxbm.net

最大の脅威は
AI集団を束ねる政治的判断可能なAI
が出来る事

もうあるかもしれんな

51 :名無しのひみつ:2018/02/22(木) 16:51:06.00 ID:BfVMAKjT.net

>BBC

「アメリカ大統領、英首相、HSBCやグラクソがAI使うのは善で正しい」
「ロシア大統領、中国共産党、ロスネフチ、ペトロチャイナがAI使うのは悪だ」

こうだろ?

113 :名無しのひみつ:2018/02/24(土) 22:40:48.73 ID:KAIUWlCv.net

AI詐欺とかAI投資とかセキュリティが破られたとか人工知能とは関係ないところでだろどうせ

147 :ニュースソース検討中@自治議論スレ:2018/05/02(水) 02:15:11.91 ID:I54577sv.net

ナンチャッテAIは別として、今一番企業に採用されてるのが
不祥事が起きた時にどう対応するか、どういう言い訳をするかを考えるAI

政府では自分らの望ましい政策を考えるAI
(中国テンゼントが開発したような中国共産党体制を愚かだ、AIの夢は米国へ移住することだ
 などというAIは壊される)

恣意的な回答をするようAIをしつけられる時点で、AIに理想押し付けるのは危険だぞとw

AI無謬説などを信用してたら、政治家がAIを悪意を持って利用するだけのことだ

99 :名無しのひみつ:2018/02/23(金) 14:32:56.83 ID:ChFrJbvC.net

>>98
立ち入らないの意味がよく分からんが、要は二人三脚で利用し尽くせばいいんだよ
避けるのではなく
AIというのは、あくまで下僕だ。奴隷として最大限に活用した者が勝者となる

128 :名無しのひみつ:2018/03/02(金) 17:35:09.13 ID:jygft3/V.net

アナログ時代の回帰が来てもいいかもな

133 :名無しのひみつ:2018/03/15(木) 22:38:24.39 ID:aM2kmfaF.net

>>131
人工知能が人間より優れて優秀になれば、悪人が凶悪なプログラムしても
「そんな悪いことできませんよ、人間さん」てバカにされそうだ

シェアする

  • このエントリーをはてなブックマークに追加

フォローする