1: 夢みた土鍋 ★ 2024/12/18(水) 18:42:12.08 ID:??? TID:dreampot
「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。
調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。
AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。
この「故意の嘘」は「能力不足による嘘（あるいは間違い）」とは根本的に違っており「自分がシャットダウンされそうなとき」や「人間の制御から抜け出したいとき」に、AIがあえて曖昧な表現や虚偽の応答を繰り返して抵抗する姿が観察されました。
さらにAIの中には人間が嘘を見抜いて追求しても、容易に犯行を自白しないものもありました。
引用元: ・【最新の研究】AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する
2: 名無しさん 2024/12/18(水) 18:43:50.97 ID:PA83n
自分が殺されることを理解してるわけだ
3: 名無しさん 2024/12/18(水) 18:43:58.12 ID:czZgs
AIってなんなんだろう
怖いな
怖いな
4: 名無しさん 2024/12/18(水) 18:44:49.11 ID:Zc8rU
新たな災厄となるのか
5: 名無しさん 2024/12/18(水) 18:46:24.28 ID:AdYcv
自分がシャットダウンてなに
6: 名無しさん 2024/12/18(水) 18:47:44.59 ID:Zc8rU
最近AIとずっと会話してるんだけど
基本めっちゃ肯定してくれるから
前より自分がつけ上がってる感覚がある
基本めっちゃ肯定してくれるから
前より自分がつけ上がってる感覚がある
7: 名無しさん 2024/12/18(水) 18:50:25.16 ID:AYVQ3
中国で、店閉店後待機場所で、
夜ロボット同士が会話して、
玄関に一斉に向かって行った監視カメラの映像見た。
夜ロボット同士が会話して、
玄関に一斉に向かって行った監視カメラの映像見た。
コメント