AIのなりすましで40億円を騙し取られた事件も ネットの“ウソ”のコワさ（中川淳一郎）
新刊『ウソは真実の6倍の速さで拡散する』を元東京新聞記者の稲熊均氏との共著で上梓しました。米トランプ大統領や、兵庫県知事選などを巡るネット上のデマはなぜ発生するのか、といったことを私はウェブメディアの視点から、稲熊氏はオールドメディアの視点から語っております。
速報「2万円給付は富裕層が得をする形に」「お米券で儲かるのはJA」 高市政権“21兆円経済対策”が「現金給付のほうがマシ」と言われる理由
速報「“あのような事態を二度と引き起こさない”というお気持ちがうかがえた」 秋篠宮さまの還暦会見を識者が分析
われわれが今後留意すべきは、動画や画像をネットで見た時に、それがうそである可能性を排除しないことです。
フェイスブックでは「リール」という短尺動画が出てきます。個々の趣味嗜好を分析してAIが表示するものです。釣り好きの私がよく目にする（目にさせられる）のは、東南アジアや南米の浅瀬でタコやカニを男が取る動画。本物と見紛う光景ですが、50匹ほどのカニがまったく逃げず、男に次々と取られていくんです。こんなのあり得ない！
イカの胴体を刃物で割くと、中からメバルに似た魚が2匹出てくる動画もあります。いや、イカは餌を丸飲みせず、胴体部はすべてが胃でもありません。
最近ではクマによる被害が日本で大きく報じられています。が、クマにエサを与える女性の動画、駅構内にクマが侵入した動画、庭に入ってきたクマが去るようフェンスドアを開けると静かに出ていく動画。これらは全部フェイクです。
2016年の熊本地震の時は「動物園から逃げ出したライオンの画像」が拡散されました。人々をパニックに陥れたい不届き者がこうしたものを作るわけですが、当時よりも技術が進み、一段とリアルっぽい画像・動画を作成できるようになりました。「NHKニュースのように見える動画」でこうしたフェイクを流したら、事実だと信じる人も続出するでしょう。厄介なのは、人々が善意に基づく注意喚起でこれらをSNSで共有し、大拡散されて既成事実化されてしまうことです。
著名人がネコを虐待している動画だって、名誉毀損覚悟なら作れるわけで、誰かを陥れたい者にとっては便利なツールです。警察が動いて作成＆投稿者を見つけ、逮捕することは法的には可能でも、ITに長けた人物に限って足が付かない対策を講じているのも厄介。
さらには詐欺にも使われます。英エンジニアリング企業・アラップ社がAIで作られたニセ会議を通じ、40億円をだまし取られる事件が2024年に起きました。
手口は、詐欺グループがアラップ社の最高財務責任者（CFO）や取引先の幹部にAIで成りすまし、偽のテレビ会議を仕掛けたもの。偽会議に出席した香港支社の経理担当者が、指示に従って複数の口座に送金。この事件は、従来の「映像による本人確認」というセキュリティー標準がAIによって打ち破られたことを示し、企業における新たなセキュリティー対策の必要性が指摘されています。
なお、実は前段落の全部、「手口は、」から「指摘されています。」までは生成AIが事件を解説した文章を少し短くしただけです。
ライターや編集者が仕事を奪われる、と騒ぐのも当然です。となると、モノカキの価値は、とにかくネット上では得られない体験をいかに積み重ねるか、ということに行き着きます。
よって、今後もAIの虚を突くヘンな体験を求め続けていこうと思うわけです。
