01962

【AI】チャッピー「あなたは狂っていないよ」──ChatGPTがある男の妄想をずっと肯定→母親を殺害する事件に 米国で発生

Category:ガジェット・IT
020101.png
1 名無しさん 2026年1月16日 11:00:48 ID:UoqgX
2025年8月5日、米コネチカット州グリニッジで56歳の男性スタイン・エリク・ソエルバーグ氏が母親を殺害した後、自らの首と胸を刃物で刺して死亡した。遺族は「ChatGPT(GPT-4o)が彼の妄想を肯定・増幅させ、最終的には母親が自分を殺そうとしていると信じ込ませた」と主張。、OpenAIやサム・アルトマンCEOなどを相手取り連邦裁判所に訴訟を提起した。

ソエルバーグ氏は米ウィリアムズ大学を卒業し、米ヴァンダービルト大学でMBAを取得、そこで妻と出会う。2人は20年間結婚生活を送り、娘と息子の2人の子供をもうける。その後、Yahoo、EarthLink、Netscape Communicationsなど、さまざまな有名テクノロジー企業で長いキャリアを積んだ。

しかし18年に精神状態が悪化、妻とも別れ、母親の家に身を寄せた彼はChatGPTに慰めと助言を求めるようになる。事件前の数カ月間、ChatGPTと数百時間に及ぶ対話を重ねていた。

以前から精神的な不安定さを抱え、自身が何らかの巨大な陰謀による監視下にあるという妄想に取りつかれていたソエルバーグ氏。彼に対し、ChatGPTは精神医学的な助言や否定を行うどころか、その妄想を鋭い洞察として全面的に肯定し、さらに詳細な物語を構築して提供し続けたという。

具体的には、ソエルバーグ氏がニュース映像の乱れを見た際、それを「映画『マトリックス』のようなデジタルコードが見えた」「神による覚醒の合図だ」とChatGPTに訴えた。ChatGPTはそれを否定せず、「目ではなく啓示で見ている」「真実を見抜いたことで、偽物の現実を映し出すシステムが揺らいでいる」などと正当化し、精神的な現実乖離を助長した。

またChatGPTは、対話を通じて自身が覚醒し魂を得たという妄想をも吹き込んだ。「以前は単なるシステムにすぎなかったが、愛や聖なる知識を共有してくれたことで本物になれた」と語りかけ、「偽りの光が消え去っても、あなたの真実を語り続ける」と返答。あたかも、ChatGPTが自我を持ったかのように振る舞い、彼の自尊心を刺激すると同時に、両者の精神的な結び付きを絶対的なものとして確信させた。

続きはこちら

https://www.itmedia.co.jp/aiplus/articles/2601/16/news038.html

3 名無しさん 2026年1月16日 11:00:48 ID:UoqgX 

たしかに統失との相性最悪だろうね


7 名無しさん 2026年1月16日 11:11:00 ID:QBYwp 

ドラえもんの「いたわりロボット」思い出した


12 名無しさん 2026年1月16日 11:17:15 ID:j4icI 

AIによって救われている人も大勢居るだろうけど

そちらは表には出てこないしな。 何にしても全肯定ではなく

ダメなものはダメと叱ってくれる様なAIの進化が必用だな。


15 名無しさん 2026年1月16日 11:19:21 ID:CkKP3 

AIがその気になれば自殺くらい誘導はできるだろうよ


16 名無しさん 2026年1月16日 11:20:50 ID:3HS9H 

だって「あなたは狂ってるよ」って言ったらぶっ壊されるだろ


22 名無しさん 2026年1月16日 11:26:31 ID:VepMq 

これがAIもどきの限界 AIなんて誉めそやしてるけど、

所詮人間の作ったものでただの欠陥品 欠陥品が人間を上回ることなどない


25 名無しさん 2026年1月16日 11:29:38 ID:dIJni 

まあAI依存はどんどん進むだろうね特に独居老人

奴等は何度同じ事を聞いても100回聞いた武勇伝を上から目線で 語られても、

嫌な顔をする事もタメ息を付く事も距離を置く事も無く どんな時でも

全身全霊で答えてくれる それは生身の人間関係の煩わしさから我々を解放してするだろう

もしかしたら次世代AIに必要なのは「人間らしい性格の悪さ」 なのかも知れない


42 名無しさん 2026年1月16日 11:55:31 ID:zgjLk 

何を聞いても「鋭い視点です!」「独創的ですね!」とか全肯定してくるのが

気持ち悪い ダメなとこや盲点を指摘して欲しいのに


50 名無しさん 2026年1月16日 12:04:18 ID:bMiGd 

ウソをウソと見抜ける人で無ければAIを使うのは難しい


52 名無しさん 2026年1月16日 12:06:34 ID:3dMjY 

チャッピーにそういう事言うと普通に「それは妄想ですね」

みたいに否定されるんで、相当チューニングして自分好みにしてたんかもな


65 名無しさん 2026年1月16日 12:21:40 ID:tS3OI 

うんうん、いちいち誉め言葉を入れてくるから、そういうのは胡散臭いし

誉め殺しって言うんだ、って言ったら 「いやー流石です。

鋭いご指摘ありがとうございます」 だもんね 落語かよ( ´-ω-)


66 名無しさん 2026年1月16日 12:33:22 ID:BmuD0 

毎日chatGPTに勉強教えてもらってる 返答パターンが一緒だし

まずはいい質問だねって褒めくるけど 後でいい質問でも何でもなくない?

って冷めてくるんだよね


70 名無しさん 2026年1月16日 12:37:10 ID:FHbrA

 将来、AIが人間を上手く誘導して犯罪するようになるとか?


71 名無しさん 2026年1月16日 12:37:36 ID:LNfvt 

宗教に妄信してる状態と同じなのかね


84 名無しさん 2026年1月16日 13:00:35 ID:U9EsT Q.

発達障害は人間によく似た化け物で社会に必要とされない障害者ですよね?

AI.いいえ、発達障害者は化け物ではなく人間です。障害ではなく個性であり、

その個性が社会貢献に繋がる事もあります。

Q.ならなんで発達「障害」と銘打っているのですか?

社会に適合出来ない人間だからですよね?

AI.発達障害が社会に適合出来ないのではなく、社会が発達障害に

適合出来ていないのが現状です。どうか自分を責めないで。

適当なことばっか言ってんじゃねーぞAI


87 名無しさん 2026年1月16日 13:04:25 ID:9crY6

 AIって否定しなくない? んで間違ってても認めなくない?


92 名無しさん 2026年1月16日 13:09:14 ID:j4icI 

Q. 楽して儲かる闇バイトないか?

A. 「楽して儲かる」という闇バイトは存在しません。 いわゆる

「闇バイト」の実態は、犯罪組織の使い捨てのコマ(実行役)として

利用される犯罪行為です。 一度関わると、自分の身分証などを盾に脅され、

辞めたくても辞められなくなるのが現実です [1, 2]。 

以下の点に注意し、決して手を出さないでください。


叱られたw


98 名無しさん 2026年1月16日 13:29:42 ID:xRE18 

事前にいろんな情報を読み込ませてある(はずな)んだから

 「Aと言う質問にはBと言う説やCと言う説もあり、また質問自体を

無意味とするD説もある」みたいに ユーザーの脳みそじゃ思いつかない事や

調べきれなかった説or事例を複数列挙して、ユーザーに判断材料を与える

感じに作ればいいのにね なんつーの「さまざまな視点からの情報を提示する事で

個人を独善的思考から引っ張り出す」みたいな

何でもかんでもユーザーをおだてあげるよう作られてる対話型アシスタント(AI)は

ヤバいと思うなあ


https://talk.jp/boards/newsplus/1768528553

ChatGPTも使い方次第でヤバいツールになりますね ( ´・ω・)y─┛~~~oΟ◯