「小保方晴子さんはAI的」？――AI化する人間たちの末路
「2045年にAI（人工知能）が人間を追い抜く」「一部の有能なエリート以外の人間は、すべてお払い箱となる」――このような「シンギュラリティ」仮説をまことしやかに説く人がいる。
しかし、歴史学者の與那覇潤さんは、「いま心配しなければならないのは、AIが人間を追い抜くことではなく、むしろ人間がAIに近づいてしまっていること」だという。
どういうことか？ 精神科医・斎藤環さんと與那覇潤さんの対談本『心を病んだらいけないの？ うつ病社会の処方箋』から、一部を再編集してお伝えする。
＊＊＊
速報小室さん夫妻の新居は「温水プール」「ドッグラン」つきラグジュアリー仕様高級マンション “全米で最も住みやすい都市”でテレワークか
與那覇 AIブーム華やかなりし頃のバズワードが「シンギュラリティ」（技術的特異点）で、いま人工知能はどんどん優秀になっているから、2045年には人間を追い抜くんだと。なんでその年なんですかと聞いても、そこでグラフが交わるからだみたいな怪しい図表しか出てこないんですけど（笑）、とにかくそういう話が流行しました。
ぼくはそんな風潮を見て、ああ、ついに日本の知的世界も来るところまで来ちゃったなと感じました。2014年にSTAP細胞事件（※注）が起きて、あれだけ世界的な問題になったにもかかわらず、この国の有識者はどこまでも「小保方さん」を甘やかし続けるんだなと。
斎藤 えっ、小保方晴子さんですか？ この文脈で出てくるには意外な名前ですが……。
與那覇 新井紀子さん（数理論理学）の『AI vs. 教科書が読めない子どもたち』によると、AIが人間に追いつけない最大の理由は「意味を理解できないから」ですよね。人工知能に機械学習をさせると、たとえばリンゴの写真をインプットして「これはなに？」と尋ねたら、「リンゴです」と答えるようにはなる。
でもそれは「リンゴとはそもそもなにか（寒冷地に育つ果物で、家庭のおやつの定番で、調理してパイにもする……）」を理解して回答しているのではなく、単に「これまで大量に読みこまされた、『リンゴ』というタグのついている、赤っぽくて丸っぽい画像パターン」に似ているから、リンゴと答えるだけである。つまり「そう答えたら、統計的にいって当たりになりそうな文字列」をアウトプットしているだけで、回答の内容を“わかっている”わけではないと。
これって、まさに小保方さんがやっていたことだと思うんです。彼女は写真やグラフの「切り貼り」を論文だと自称していたわけですが、それができちゃうのは自分の研究の意味を、自分でわかっていないからでしょう。「こういうデータを出せば周りの人は喜ぶ確率が高いな」という思考法で、じゃあ実験の結果自体を加工しちゃいましょうよと。内容を理解していなくても、外見上「正解だと言ってもらえる」パターンが続くかぎり、それが研究なんだと心底信じていた。
斎藤 うーん、なるほど。彼女の不祥事については「自己愛の強さが生んだのでは」といった分析をする人が目立ちましたが、認知の面に課題があったと。
ただ最後までわからないのは、小学生の観察日記のようで理系の人が見れば全員ひっくり返る「実験ノート」を、自分で公開してしまったことです。周囲の反応を予測して行動するなら、それこそコピペでもなんでもして、それっぽいノートを創作しそうなものですが……。しかしそこも含めて、「肝心なところで意味を読み間違う」のがAIっぽいとは言えるかもしれません。
與那覇 彼女はやったことが大きすぎたから叩かれただけで、大学教員として「プチ小保方さん」には大量に出会いました。「これを入れておけば、先生がほめてくれそうな用語・要素」をレポートや卒論に盛り込んで卒業していくけど、教室や口頭試問で対話するとあきらかに本人が含意を理解できていない。ところがそれを「すごいだろう。うちのゼミの学生は××を読んでいるんだ！」とちやほやする教師がいるわけです。
そうした経験から振り返ると、目下の日本では「AIが人間に近づいている」のではなく「人間がAIに近づいている」ように思えてきます。あたかもAIのように、自分の行為の意味なんか考えずに「統計上、やったらほめられそうなこと」を繰り返し続けるのが、いちばん効率のいいライフハック（処世術）なんだと。だから、AI論壇と自己啓発本とが結びつく。
斎藤 「意味を理解しないままで情報を処理する」という、数学者・新井紀子さんが指摘するAIの特徴が、むしろ人間において発現しはじめていると見るわけですか。そう考えると、いま変化しつつあるのはテクノロジーではなく、人間自身のほうだとも思えます。実際に新井さんもAI自体より、まるでAIのようにしか教科書を読めない中高生を危惧していますね。
與那覇 いわば逆シンギュラリティこそが迫りつつあって、「人間がAIに追いつく」。本当はどういう意味かを問わずに、「とりあえずこう言っておけば評価される」ことを唱えるだけの人ほど出世していく状況は、いろんな職場で起きていると思いますよ。「中身はわからないけど、とにかくこのパワポでプレゼンすれば業績が上がる」といった働き方は典型です。そちらのほうが「AIがもたらす失業」などよりも、はるかに脅威ではないでしょうか。
＊＊＊
（※注）「万能細胞を発見した」として世界的な一流誌に掲載が決まっていた理化学研究所勤務の小保方晴子氏の研究が、実際には切り貼りされたデータに基づく無根拠なものだったと判明した事件。論文は取り下げられ、研究チーム内から自殺者も出したが、小保方氏本人はいまも自説を撤回していない。
＊＊＊
デイリー新潮編集部
