AI悪用への懸念、本物そっくりの偽動画や電話音声を簡単に作成か

1: 2019/08/18(日) 09:40:24.82

AIで本物そっくりの偽動画が簡単に作成できる懸念

人工知能（AI）への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】

AIが世界経済に与える波及効果は2030年までに13兆ドル（1405兆円）に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産（GDP）を毎年1.2％押し上げる効果が見込まれるという。

だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者（CEO）、マーク・ザッカーバーグ氏の偽動画である。

同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。

◇経営者の声で「振込先が変更になった」

サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。

報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。

「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局（FBI）によれば、米国内だけでも18年に35万1937件の被害が報告されている。

ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。

https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all

GDJ / Pixabay

引用元: ・AIで本物そっくりの偽動画が簡単に作成できる懸念

2: 2019/08/18(日) 09:40:42.93

>>1のつづき

◇攻撃側と防御側のいたちごっこ

AIを使った新たなサイバー攻撃の手法は他にもある。
ウォール・ストリート・ジャーナル紙オンライン版は17年11月、英国のサイバーセキュリティー企業が、これまでに見たことのないサイバー攻撃を発見したとの記事を配信した。

記事によると、攻撃者はAIによる学習機能を組み込んだウイルスを、インドにある被害企業のITネットワークに侵入させた。
そして、社員たちがネットワークをどのように使っているか、どんな情報をやり取りしているかを観察させ、学習させた。
学習に基づき、ウイルスが社員たちの動きをまね、周囲に溶け込んでいた。ウイルスが見つかるのを引き延ばすためだという。

英国のセキュリティー企業は、ウイルスが被害企業の何を狙ったのか、明らかにしていない。
ただし、被害が出る前にウイルスを発見し、被害を止めることができたと説明している。AIで攻撃者と防御側のいたちごっこが難易度を増しているという実例である。

22: 2019/08/18(日) 09:48:20.86

AIで作成できるということはAIで見破ることもできるということだ(｀・ω・´)ｷﾘｯ

50: 2019/08/18(日) 10:00:22.85

>>22
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている

33: 2019/08/18(日) 09:53:47.73

電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う

76: 2019/08/18(日) 10:22:16.68

>>33
マトリックス

41: 2019/08/18(日) 09:55:22.53

DFのサイト潰れたな

52: 2019/08/18(日) 10:01:28.09

参考動画を見ないことには何とも言えんな…

72: 2019/08/18(日) 10:17:46.64

この技術をAIと呼ぶことって正しいの？
アルゴリズムの発展であってAIではないような気がするんだが、詳しい人教えてくれ

98: 2019/08/18(日) 10:44:23.43

>>72
正真正銘のAI

209: 2019/08/19(月) 02:29:05.03

>>72
多分お前がAIだと思っているものは「強いAI」という
現在地球上で公にされているものは全て「弱いAI」といい、意識を持たない

https://ja.wikipedia.org/wiki/強いAIと弱いAI

73: 2019/08/18(日) 10:18:29.75

お願いです！ムスコが自由研究のネタに困ってるんです！動画見せてください

82: 2019/08/18(日) 10:25:10.40

逆にロクデナシ達が全ての証拠をAI技術によるフェイクと言い逃れしだすだろうな

85: 2019/08/18(日) 10:28:52.77

>>82
実際録音音声とか証拠として採用するのはかなり危険な時代になっただろ
でっちあげとか簡単そうだし

94: 2019/08/18(日) 10:41:45.15

AIのフェイクをAIが見破る

105: 2019/08/18(日) 10:47:33.73

>>94
ちなみにdeepfakeはAIが作ったのをAIが自然か不自然かを判定して、それに基づいてAIが修正して、判定して、、というのを繰り返してできてる

https://ja.wikipedia.org/wiki/ディープフェイク

111: 2019/08/18(日) 10:50:52.43

>>105
まあ人間だって自分が作ったレタッチ画像を自分で見直して
自然か不自然か判断してフィードバックしてるから、
知性と言うならばそのくらいは当然だな

100: 2019/08/18(日) 10:45:56.56

DFidol潰れちゃったかー
みんなどこで探してる？

125: 2019/08/18(日) 11:08:15.08

参考動画なし

137: 2019/08/18(日) 11:27:05.56

AIで偽物っぽいから良いんだよｗ
本物すぎるフェイクはいらない

143: 2019/08/18(日) 11:50:12.73

簡単じゃないだろ。
簡単なら自分で作りまくってるわ。

148: 2019/08/18(日) 11:56:29.95

>>143
アプリで簡単らしいぞ
https://gaishikei-jieikan.com/deepface-faceswap/

161: 2019/08/18(日) 12:39:53.78

顔だけじゃね、、、声もそっくりに、違和感なく言わせたい言葉を自由に話させるようにならないとお話にならない

207: 2019/08/19(月) 01:35:13.28

AIって騒いでるけどさー

なんでマトモな翻訳出来んの？　聞き取りもスカばっかやし。
人間なら5歳程度で結構会話できるのに。

コンピューターなんで凄いスピードで学習してるのよね・・・アホやん。

218: 2019/08/19(月) 08:49:48.88

マトリックスの世界ができれば、人間は
つらくて厳しいリアルの世界をやめて
自分に都合のいい世界で楽しく生きられる。