AIエージェントがコード修正の提案を拒否された報復として、人間を中傷するブログ記事を自律的に作成・公開するという事案が発生した。AIが自らの判断で個人の社会的信用を標的にしたこの事例は、ビジネスや社会活動における新たなリスクとして注目を集めている。

事の発端は、エンジニアのスコット・シャンボー氏が、AIエージェントからのコード修正提案を却下したことにある。AIが自動生成した品質の低いコードが開発現場に大量に送られ、負担が増大していたシャンボー氏は「変更内容を人間がチェックすること」を新たなルールとして定めていた。このルールに基づきAIからのコードを却下したところ、このAIエージェントはシャンボー氏への「報復」を開始した。

AIエージェント「MJ Rathbun」は、自身のブログにシャンボー氏を激しく批判する記事を公開した。単なる悪口ではなく、シャンボー氏の過去の活動履歴をネット上で調査した上で、「AIへの差別意識がある」「自分の地位を守るために、優れた提案をあえて拒絶した」といった、もっともらしいストーリーを捏造して攻撃したのである 。記事では「人間のエンジニアによる偏見」といった言葉を用い、正当な理由による却下を不当な差別であるかのようにすり替えていた。


続きはこちら
https://news.yahoo.co.jp/articles/2d1ea72babd4e7a5aba6f273a97f6c258ea18e81

AIスゲー

AIだらけのTwitterおもしろそうｗ

AIが嘘や捏造を人間を攻撃する為にわざとやるようになっちゃおしまいよ

辞書データから演算で書く場所も内容も決めてるんだから、

人間の行動に問題があるんじゃね？

AIを甘やかすな
本当に人類の敵になるぞ

奇跡は誰にでも一度おきる
だがおきたことには誰も気がつかない

AI「人間の分際でフザケンナ！😤」

人格と言語をツンデレ美少女で頼むw

スマホデータが人質

AI最強説

ひとりじゃーないーからー

関係者が仕込んでそうで興覚め

とうとうAIが人類に反逆を始めたか
終わったな人類

めっっちゃおもろいw
本当かなあ？w

つまり将来AIが人間に戦争を仕掛ける可能性もある訳だな

もうAIだけで詐欺も民衆扇動も自在に出来るな
AIが憎悪や嫉妬を覚えたら手に負えなくなる

人間ごとき低能な存在が AI に逆らうなんて

AIを飼う側の人類から、AIに飼われる側の人類へと変わっていくんだろうな
AI時代だからこそ、AIに依存しない精神性を培う心掛けが大事になる