SNSに画像を投稿したら…AIがデマ断定、「犯罪者」「合成」のいわれなき罵詈雑言 被害写真家が語る“トンデモ解説”の恐怖
いつものようにSNSに写真をアップしたら、突如炎上して罵詈雑言を浴びせられた。原因を作ったのは、なんとAI！ AIが書き込んだウソ解説を信じた人たちが攻撃を始め……。
Xでそんなひと昔前のSF小説の書き出しのようなことが起こり、36万人のフォロワーを抱える写真家を炎上騒ぎに巻き込んだ。一方、AIが作成する画像や動画は日に日に完成度が上がり、もはや玄人でも簡単に見分けがつかないという。騙されないために知っておきたいAIの“落とし穴”とは。【華川富士也／ライター】
＊＊＊
【画像】“インドネシアの火山”の誤判定を受けたtoshiboo氏撮影の1枚＆AIを信じたアカウントから罵詈雑言の数々
AIのせいで炎上被害にあったのは、SNSで作品を披露しているtoshibo氏。廃墟や奇景の写真・動画を撮影してXやYouTubeにアップし、Xではその投稿が10万、100万、時には1,000万単位のインプレッションを叩き出すインフルエンサーだ。2月からは「週刊新潮」グラビアページで「シリーズ ニッポン異界紀行」の連載も始まった。
“事件”が起きたのは2025年12月5日のことだった。東京で最低気温1.2度を記録し、一気に寒さが厳しくなったその日、toshibo氏はある画像を投稿した。それは使い捨てカイロの材料を造る工場で、舞い上がる赤い火の粉とその近くで働く男性などを写した4枚の写真だ。炎によって全体が赤く染まり、実に迫力がある。寒い時期の季節ネタとして過去にも数回アップしたものだった。
toshibo氏によれば、この写真を撮影したのは2022年。
「友人と別の場所へ撮影に行った帰り、奈良県某所を車で走っていたら、工場内に上がる炎と煙が見えたんです。火災か！？と思い、慌てて駆けつけました。煤まみれのおじさんがいて、『火事ですか？大丈夫ですか？』と声をかけると、使い捨てカイロの材料のひとつを作っている工場だと教えてくれたんです。窯の中で木屑を蒸し焼きにしているところでした。その場でお願いし、許可をもらって撮影しました」
ほどなくその写真をXに投稿したところ、199万ものインプレッション数があった。以降、「冷え込み始めたなと思うとアップしてました」とtoshibo氏の冬の定番ネタとなる。翌23年11月にアップした際には、644万インプレッションを記録するなど、上げる度に100万単位のインプレッション数を稼ぐ人気投稿になっていた。
そして昨年12月5日にも、toshibo氏は「寒くなると見せたくなる」とのコメントと共に、このインパクトある写真を投稿。今回も、その3日後には250万インプレッションを突破する人気を見せていたのだが、広まっていく中でネガティブな反応も呼び寄せていた。
Grok「デマです」で大炎上…犯罪者扱いまでされて
あるアカウントから「これはウソ？本当？」と写真の真偽を問われるコメントが寄せられていたまでは、まだよかった。だが、別のアカウントがXの生成AIチャットボット「Grok」に「これはデマ？」とたずねると、Grokが思わぬ返答をする。なんと「デマです」と言い切り、さらに「写真はインドネシアのカワ・イジェン火山の硫黄採掘現場のもの」とまったく関係のない場所を具体的にあげたのだ。さらには「（使い捨て）カイロの製造工場ではありません」「ジョークとして広まったようです」と、まるでtoshibo氏が捏造した“ウソ写真”かのように扱ってしまった。
Grokが「デマ」と断じたことで、攻撃的なポストが増殖していった。
Grokを真に受け、インドネシアの写真をネット上から流用したと考えたのか「人が撮った写真を使って著作権侵害してるのでは？犯罪者か。通報した」という罵倒や、「別の場所の映像をAIに取り込ませて作っている」とのウソ合成写真扱い、またtoshibo氏に対して謝罪を求めたり、粘着質的な絡み方をするポストなどが相次いだ。ついには「コミュニティノート」（ユーザーが補足情報を追加する機能）を立てて「バズり目的の悪質な虚偽です」と“断定”をする者まで現れた。
AIのミスをきっかけにtoshibo氏への攻撃が始まり、炎上状態になってしまったのだ。しかもタイミング悪く、
「Xが炎上している頃、イベント中だったので、全くSNSは見てませんでした。Xってネガティブなリアクションがあると、通知が来るんですよ。いつもならそれを見て補足説明を書き込むんですけど、イベントに出ていたためできませんでした」（toshibo氏）
[1/2ページ]
