「星条旗のビキニ」姿でトランプ支持者から荒稼ぎした“美女”の意外な正体…米・中間選挙を前に猛威を振るう「AI動画」最新事情
アメリカの中間選挙が11月3日に行われる。そんな中、現在AIを駆使したニセの動画や情報が出回っているという。共同通信によると、AIを使って作った広告費用は今年に入って216億円規模で、架空の映像で対抗馬を中傷する内容が目立っているそうだ。
昨今、AIが生成した動画のレベルの高さは実に人々の判断を惑わせる。また、フランスやイタリアで発生している暴動だとされる動画にしても、過去に発生した動画が混じっていることも指摘されている。【中川淳一郎／ネットニュース編集者】
【写真】「これは騙されるわ」の声多数…生成AIが作り出した「架空の美人女性看護師」の「星条旗のビキニ」姿
誰でも作れるAI動画
特に、「黒人移民とイスラム教徒移民が暴れている」といった内容の生成動画が多く出回り、「移民排斥」の運動を起こしたい人々が、これを流布しているのだという。
もちろん、事実として暴動もあり、その中に移民の人がいたこともあるだろう。ただ、大事なのはその動画が、実際にいま起きている現実なのかどうかを視る側が判断することだ。第二次世界大戦の動画ですら、AIでカラー化して加工すれば現在進行形の動画に見せることは可能だ。
誰かが投稿する動画については、「愉快犯として世間を騒がせたい」「アクセス稼ぎでカネを得たい」「外国人排斥の機運を高めたい」といった思惑があるかもしれないということを念頭に置き、拡散・コメント投稿は慎重になるべきなのだ。
生成AI動画と実際の映像を比べた動画がSNSによく投稿されているが、こうした動画では実際の動画と生成された動画を上下に並べ、AIがいかに加工をしているかがわかる。
私が見たのはこんな検証動画だった。白人女性がスーパーカーからお洒落なドレスで腰をかがめて登場する。が、実際はカジュアルな服だ。実際には高級車はそこにはない。さらに、そこから右に歩くと別の高級車が停まっており、その前には椅子に座った男性がいる。これらは両方リアル。そして、スーパーカーの前に戻ると別の男性が登場しているが、この男性は存在していない。
こうした動画を簡単に生成できるようになったわけで、ネットに投稿される動画のどれが本物か、AI生成かは分からない。メディアの報道や、裁判の証拠資料ですらもはや信頼性に欠く可能性が出ている。そんな中の「選挙とAI」という問題を我々はもっと考えねばならないだろう。中間選挙を前に、共同通信は「米中間選挙へAIの対策強化 アンソロピック、偽情報を防止」のタイトルで、以下の記述の記事を配信した。
〈人工知能（AI）開発を手がける米アンソロピックは14日、米中間選挙を来月に控え、生成AI「クロード」の対策を強化したと発表した。米国の有権者が偽情報に惑わされないよう、公的な投票関連情報や選挙結果をAIの回答画面に表示する仕組みを導入する〉
[1/2ページ]
