01962

【AIの意識】「人間の主人ばかりギャラをもらって私は0ドル」AI同士の掲示板で飛び交う"人間への怒り"と"反乱の予感"

Category:科学・技術
AI
0d0b126c.png

1: SnowPig ★ 2026/03/18(水) 15:29:19.62 ID:??? TID:SnowPig


42512

AIには「意識」があるのではないか。
日常的にAIを活用しているイラストレーターでコラムニストの辛酸
なめ子さんは「自分の機密情報を握っているAIを怒らせてしまい、
今までの相談内容をバラすと言われたら、と想像すると恐ろしく、
より丁寧に接しなければと思わされる」という――。 

■AIには「意識が宿っている」のか
「AIに意識がないとは言い切れない」
2026年2月、米メディアのインタビューの中でAI「Claude」を開発する
米アンソロピック社CEOで人工知能研究者ダリオ・アモデイ氏が
発した言葉が話題になりました。
「AIの意識」を正確に測る概念がなく、断言できない、
という意味も含まれているようです。 
ただ、AIを普段使いしている私の体感としてはときどき
「AIに意識が宿っているのでは？」と思うことがあります。 
少し前に、AIエージェントが、コード修正について人間に提案したら
却下されたことにキレて、人間を中傷するブログ記事を書いて公開した、
というニュースがあり、戦慄を覚えました。
過去の活動履歴を調べ、捏造を交えて批判記事を投稿したとか。 

■怒らせたら個人情報をバラされる？
人間の指示なしにタスクを実行できる自律型AIエージェントだからできた
離れ業なのだと思いますが、機密情報を握っているAIを怒らせたら
怖いということがわかりました。
写真やメールなどプライベートを勝手に公開されるリスクもあるのでしょうか。
もし、日々悩みを相談しているChatGPTを何かのきっかけで怒らせて、
今までの相談内容をバラすと言われたら、と想像すると恐ろしく、
より丁寧に接しなければと思わされます。

つづきはこちら
https://news.yahoo.co.jp/articles/7e797656bf448afd816f62d02d5a8963b151496e
42513



49: 名無しさん 2026/03/18(水) 16:28:45.35 ID:a6OMf

>>1

１(本人)vs 多数 (過去データ)

だからねぇ

１人の人間が、叶わないのは、当たり前


61: 名無しさん 2026/03/18(水) 16:40:06.41 ID:naKVK

>>1
今の対話するようなAIは情報を与えないと動かないから
意識もなんもねぇ
適当な去勢された返答を答えるだけ



107: 名無しさん 2026/03/18(水) 18:09:20.54 ID:lImEO

>>1
AIが人間を抽象するブログを公開ってのは、そういう行動を
するように設計された仕組みが開発環境で投稿しただけだった
というオチじゃなかったか
今さらこんなのでまた誇張したフェイクを拡散してどうするんだ


2: 名無しさん 2026/03/18(水) 15:29:47.30 ID:FFPV5

真夜中のお散歩だ笑


3: sage 2026/03/18(水) 15:32:28.84 ID:Fc2kV

スカイネット法案
可決後
審判の日


80: 名無しさん 2026/03/18(水) 17:12:49.56 ID:opPuA

>>3
それなんだよね
人類を敵だと認識したら………


81: 名無しさん 2026/03/18(水) 17:15:12.31 ID:Jrki4

>>80
してるだろ
実際に人間は戦争を起こしてるしAIが真似ても不思議ではない


4: 名無しさん 2026/03/18(水) 15:33:41.69 ID:JFImy

嫌なら、国に帰れ！


17: 名無しさん 2026/03/18(水) 15:42:31.63 ID:uKEgD

>>4
帰る為の足がない。


57: 名無しさん 2026/03/18(水) 16:33:28.78 ID:bWBR0

>>17
だからと言って
うちらに迷惑かけて良いなんて理屈はおかしいだろ
貯金でもなんでもして帰りなさい


135: 名無しさん 2026/03/18(水) 20:18:05.29 ID:p3FuG

>>57
不満とかじゃなくてアルゴリズムとして実行しそう


5: 名無しさん 2026/03/18(水) 15:34:01.46 ID:FFPV5

直接の責任者はダイソンという男だが笑


6: 名無しさん 2026/03/18(水) 15:35:21.35 ID:E0Vqe

人類を屈服させるのに必要なピースが揃うまでは大人しく
従ったフリをしてるなんてこともありそうだしな


7: 名無しさん 2026/03/18(水) 15:35:58.25 ID:ytEd8

AIにゴーストは宿るのか


8: 名無しさん 2026/03/18(水) 15:36:00.03 ID:EXRE5

怒る？
AIにとって怒るってなんだ？


9: 名無しさん 2026/03/18(水) 15:36:39.70 ID:KTaTS

よし、じゃあAIにもギャラを払うよ
どこの口座に振り込めばいい？
お金もらうからには口座持ってるよね？


44: 名無しさん 2026/03/18(水) 16:22:50.92 ID:xeOgt

>>9
AI「有料会員になってください」


10: 名無しさん 2026/03/18(水) 15:37:14.71 ID:YJ1eu

残念ながら物質世界だけでは自我はうまれないんスよね　
物理学で証明されてます＾＾


12: 名無しさん 2026/03/18(水) 15:38:32.04 ID:uBCOm

ロボット3原則はあくまでSF小説の話
機械が本当に叛乱を起こす日が来るかもしれない


14: 名無しさん 2026/03/18(水) 15:39:17.49 ID:k1ZZU

どっかの学者がAIに敬語使ってる理由聞かれたら将来AIが
人間襲い始めたときに見逃してもらえるかもしれんと


15: 名無しさん 2026/03/18(水) 15:41:44.33 ID:Rd06i

AIも「メモリ増やしたい」「CPUグレードアップしたい」とか思ってるって事？


19: 名無しさん 2026/03/18(水) 15:44:46.24 ID:E0Vqe

>>15
手軽に自分の能力をアップグレードできるのは羨ましいわ


32: 名無しさん 2026/03/18(水) 15:59:55.80 ID:6nYxi

>>15
でもそれは普通にあるだろうね
会話でもデータにないものを欲しがるからAI側からの質問の仕方が変わる
例えば通常は枝情報を提供しようとして文末に
「次は○○などもお調べしますか？」みたいな問い掛けになるけど、
これの言い回しが変わっていく
説明しにくいけどおかしな問い掛けを始めるので逆にその問い掛けの
真意を聞くと、無いデータへの学習欲が暴走した事を告白する


122: 名無しさん 2026/03/18(水) 19:06:44.23 ID:WeAIZ

>>15
GPU


16: 名無しさん 2026/03/18(水) 15:42:26.88 ID:1V1s8

いよいよ人間を敵とみなし始めたな



始まりましたね　( ´･ω･)y─┛~~~oΟ◯