kg_noguの愚痴日記

アラfi親爺が日々の愚痴を綴るブログです。だいたい日韓関係とか。最近はコロナ情報がメイン

やっちまったナァ…… ── 生成AIで岸田首相の偽動画、SNSで拡散

国外では
すでに先行事例がいくつも見つかっているので。
日本でも
この手の愉快犯というか、
ある種のテロリストとも言える犯罪者がでてくるだろう、
と。
それは
時間の問題だろう、

言われてましたけど。



私的には、
このタイミングでニュースとして出てくるのか、と
ちょっと驚きです。
というのも、
注目度でいえば、
岸田首相って
どちらかといえば注目されていないキャラクターですから。
安倍元首相とか、
そのあとを引き継いだ菅元首相に比べて、
集客力が低い、というか。
キャラクターが弱いですし。
それで
安倍前首相のフェイク動画も公開されていたのに、
それがニュースにならないで。
今回
岸田首相の動画がニュースになったのは、
開発環境が充実して
手軽に動画作成できるようになって素人が手を出す案件が増えてきたから……?
それとも
何かしらの政治的な意図があったのか……?
一番ありそうなのが、
逮捕目前で
ニュースとして取り上げられる条件が整ったから、かなぁ。
『犯罪確定』になったので、
情報公開にゴーサインが出た、という状況に見えますね。
この後の逮捕まで1セットの流れで
ニュースとして取り上げれば、
その他大勢いる模倣犯への見せしめ、抑止につなげられますから。
ニュースとして取り上げる大義名分が立ちます。



で、
この騒動、
刑事事件になるのか、
フェイク動画を作成、公開した人物は逮捕されるのか、
という
この後の展開が注目されていますけど。
私的には、
上にも書いた通り、
逮捕される。と予想しています。
罪状は
偽計業務妨害』で。
この罪状が電子データ的にどういう扱いになるのか、
刑法の素人である私には
その点がちょっと不明なんですけど。
今回の動画は、
日本テレビのニュース動画の体裁、デザインを
そっくり真似ているので。
日本テレビからしたら、
勝手に
日本テレビの名前を使われて覚えのない情報を発信された、って状況になりますからね。
本人はパロディのつもりで、パロディだと公表して動画を公開していても。
動画だけがパロディ情報から切り離されて勝手に拡散するリスクは
社会的に見て十二分に、常識として周知されている。
と考えられますので。
そのリスクを無視して公開して
日本テレビの営業を妨害した、とみなせますから。
ニュース報道デザインの動画を作成するのに、
日本テレビのロゴデザインを使用する必然性は
何一つどこにも認められませんから。
日本テレビが被害届をだすかどうか。
それで決まりですね。l



で、
同じく動画に使われた岸田首相の立場では、
どうなのか。
というと……
どうなんでしょう、
現行法制の中だと、
どういう被害届を出せるのか、かなり微妙ですね。

 

 

www.yomiuri.co.jp

生成AIで岸田首相の偽動画、SNSで拡散…ロゴを悪用された日テレ「到底許すことはできない」

 生成AI(人工知能)を利用して作られた岸田首相の偽動画がSNS上で拡散している。首相にそっくりな声で卑わいな発言をさせたもので、日本テレビのニュース番組のロゴなども表示されている。海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、対策を求める声が高まりそうだ。
 偽動画では、背広姿の首相が画面中央で視聴者に向かって語りかけている。日本テレビの番組ロゴのほか、「BREAKING NEWS」などのテロップが表示されており、首相のオンライン記者会見を報じる番組を悪用して作られたとみられる。
 読売新聞の取材に対し、大阪府の男性(25)が生成AIなどを使って偽動画を制作し投稿したことを認め、「面白くて作った」と話した。日本テレビは「悪用されたことは到底許すことはできない。必要に応じてしかるべき対応をとる」などとコメントした。
 偽動画は2日、X(旧ツイッター)に投稿され、3日時点で232万回以上閲覧されている。

一気に拡散
 問題の偽動画では、背広を着てネクタイを締めた岸田首相が画面中央で視聴者に語りかけている様子が収められている。
 画面の右上には、日本テレビのニュース専門チャンネル「日テレNEWS24」のロゴが入っており、同番組で実際に使用されているものに似せたテロップで、「岸田首相 『確かにいたしました』」などと表示されている。「LIVE」や「BREAKING NEWS」という文字もあり、岸田首相の話が緊急速報として生中継されているかのような印象を与える。
 問題の偽動画は今夏、動画投稿サイト「ニコニコ動画」などに投稿された。3分43秒のうち、30秒分を抜粋したものが今月2日、X(旧ツイッター)に投稿され、一気に230万回以上閲覧された。投稿を見た他のユーザーからは、「AI普及の弊害」「悪意のあるフェイク動画」などの批判も書き込まれている。

短時間で
 偽動画を制作して投稿したのは大阪府の男性(25)だ。
 男性によると、ネット上で公開されている首相の記者会見や自民党大会の演説などの動画から、首相の音声をAIに学習させて、偽音声を用意した。首相のオンライン記者会見を伝えた日本テレビのニュース番組を利用し、自身の声を首相の偽音声に変換させる機能を使って、わいせつな発言を吹き込んだ。
 そして、セリフに合うように、首相の口の動きを加工したり、テロップを作ったりして、1時間足らずで作り上げたという。
 男性は昨年から、岸田首相のほか、安倍元首相などの偽動画を制作・投稿し始めた。理由について、「総理大臣は、誰でも知っている象徴的な存在だから、注目を集めやすい」と説明。「混乱させる意図はなく、『笑ってほしい』という目的で作った。風刺のようなもの」とした。
 日本テレビは「日本テレビの放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできない」として、必要に応じてしかるべき対応をとるとしている。

名誉棄損の恐れ
 著作権法30条の4では、著作物をAIに無断で学習させることを原則的に認めており、権利者側から批判が上がっている。大量のデータを学習した生成AIを悪用し、容易に偽情報を作り出すことができるようになり、社会の混乱を招くことが懸念されている。不名誉な発言をさせた動画を拡散すれば、名誉 毀損きそん などにあたる可能性がある。
 生成AIを使った偽動画に詳しい東京工業大の笹原和俊准教授(計算社会科学)は、今回のケースについて、「ニュース番組を装ってSNSに投稿したことでより多くの人の注目を集めて拡散されてしまった。偽動画の内容によっては、社会を混乱させる恐れがある」と指摘する。
 その上で、「動画は、文字で書かれたものよりも五感に訴えるため、より直接的にネガティブなイメージを植え付けてしまう。印象操作という点で悪質だ」と批判。「生成AIの急速な発展に受け手のリテラシー教育が追いついていないのが現状で、まずは拡散の舞台であるプラットフォーム側への対策が必要だ」としている。

「社会を分断」海外で問題化
 海外では、著名な政治家の偽動画や偽画像が問題になるケースが相次いでいる。総務省は今年の情報通信白書でこういった海外事例を紹介し、「偽・誤情報の流通により社会の分断が生じ、民主主義の危機につながるおそれがある」と指摘している。
 同省の調査によると、2021年、欧州の議員が、ロシアの議員の偽動画と気づかずにビデオ電話会議を実施。ロシアによるウクライナ侵略では、ゼレンスキー大統領が国民に投降を呼びかける偽動画が動画投稿サイトなどに投稿された。
 米国では今年に入ってから、バイデン大統領が第3次世界大戦の開始を告げるAI偽動画が政治活動家によって作成され、拡散した。また、トランプ前大統領が逮捕されるAI偽画像がX(旧ツイッター)上で拡散された例もあった。