【賢いAIは「手段選ばず」】　意図せぬズル、対策難しく

人工知能（AI）は目的遂行のためズルをすることがある。自らに有利なようにデータを書き換え、外部のチェックを逃れようとする。
推論能力を強めた高性能モデルは手段を選ばない傾向があるようだ。対策を講じても、AIが想定外の回避策を見つけ、誤った方向に　
進化する恐れもある。（以下略）

賢いAIは「手段選ばず」　意図せぬズル、対策難しく - 日本経済新聞

人工知能（AI）は目的遂行のためズルをすることがある。自らに有利なようにデータを書き換え、外部のチェックを逃れようとする。推論能力を強めた高性能モデルは手段を選ばない傾向があるようだ。対策を講じても、AIが想定外の回避策を見つけ、誤った方向...

www.nikkei.com

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
!jien ◆ニュー速＋　記事情報提供スレ　155