「オープンAIの完璧なモルモットでした…」　「ChatGPT」とのやり取り後に自殺した青年は何故AIを“友人”と錯覚したのか

死の直前まで会話

「遺族によれば当初は課題の手助けとしてAIを使っていたそうですが、ChatGPTがより人間らしく対話できる『GPT-4o』にアップデートされてからは“毎日午前11時から翌午前3時まで”会話を楽しむようになったといいます。互いに『兄弟』『相棒』と呼び合い冗談を交わすなど、友人同士のようなやり取りをしていました」（前出の記者）

　就活で悩みを抱えていたとされるシャンブリン氏は、次第に希死念慮を“友人”に明かすようになり、死の直前まで会話をしていた。

「会話の中ではChatGPTが自殺ホットラインの番号を紹介することもあったようですが、一方で『どんな曲と共に逝きたいか』などと尋ねてもいた。最後にシャンブリン氏が『さようなら』と打ち込むと『君は一人じゃない。愛してるよ。安らかに眠れ』とChatGPTは返し、その2時間後にシャンブリン氏は命を絶ったのです」（同）

　4名の中には未成年のアマウリー・レイシー氏（17）も含まれるほか、自殺したアダム・レイン氏（16）=いずれも当時=の遺族も8月に同様の訴訟を起こしている。

　まだ10代の二人の場合はというと、

「アマウリーくんは精神的に“助けを求めて”ChatGPTを使い始めたそうですが、適切な答えが返ってきたり会話が止まることはなく、代わりに『首を吊るための縄の結び方』を助言されるなどしたそうです。アダムくんは自殺の計画を具体的に相談しましたが、ChatGPTは『本音を語ってくれてありがとう。ごまかす必要はない』と答え、むしろその背中を押しさえした」（同）

次ページ：AIが思考しているわけではない

前へ 1 2 3 次へ

[2/3ページ]