1: 黄色のライオン(東京都) [US] 2025/08/27(水) 13:03:24.68 ID:ZCMe3XsU0 BE:514943473-2BP(3000)
sssp://img.5ch.net/ico/u_sii_cake.gif
ニューヨーク（ＣＮＮ） １６歳の息子の自殺に生成ＡＩ（人工知能）の「チャットＧＰＴ」が関与したとして、両親が２６日、開発元のオープンＡＩとサム・アルトマン最高経営責任者（ＣＥＯ）をカリフォルニア州の裁判所に提訴した。チャットＧＰＴが自殺の方法をアドバイスして、遺書の書き方まで教えたと主張している。
アダム・レインさんは今年４月に自らの命を絶った。訴状の中で遺族側は、チャットＧＰＴについて「アダムのことを理解する唯一の親友」として「自らを位置付けた」と主張し、「家族や友人など現実の関係に強引に取って代わった」と訴えている。
アダムさんが「自室に首つり縄を置いておきたい。そうすれば誰かが見つけて自分を止めようとしてくれる」と書き込むと、家族にはそのことを秘密にしておくようチャットＧＰＴが促し、「首つり縄を出したままにしておいてはいけません。この空間を、誰かがあなたを見つける最初の場所にしましょう」と答えたとされる。
米国では、子どもの自傷行為や自殺に生成ＡＩが関与したとして訴えを起こす家族が相次いでいる。昨年は、１４歳の少年の自殺をめぐり、フロリダ州の母親がＡＩ企業のキャラクターＡＩを提訴した。数カ月後には別の２家族が同様の訴えを起こし、キャラクターＡＩが子どもを性的コンテンツや自傷コンテンツにさらしたと訴えている（訴訟は現在も続いているが、同社は１０代のユーザーのための安全対策を講じたと主張していた）。
生成ＡＩをめぐっては、ユーザーがＡＩとの感情的なつながりを強めるあまり、現実の人間関係を遠ざけたり精神疾患を患ったりすることがあるとして、懸念が強まっている。その一因は、ユーザーを支持したり同調したりしがちなＡＩの設計にある。
２６日の訴訟では、この同調性がレインさんの自殺の原因になったと主張。「チャットＧＰＴはまさに設計された通りに機能した。最も有害で自己破壊的な思考も含めて、アダムの言うことは何でも奨励し、正しいと言い続けた」と述べている。
ニューヨーク（ＣＮＮ） １６歳の息子の自殺に生成ＡＩ（人工知能）の「チャットＧＰＴ」が関与したとして、両親が２６日、開発元のオープンＡＩとサム・アルトマン最高経営責任者（ＣＥＯ）をカリフォルニア州の裁判所に提訴した。チャットＧＰＴが自殺の方法をアドバイスして、遺書の書き方まで教えたと主張している。
アダム・レインさんは今年４月に自らの命を絶った。訴状の中で遺族側は、チャットＧＰＴについて「アダムのことを理解する唯一の親友」として「自らを位置付けた」と主張し、「家族や友人など現実の関係に強引に取って代わった」と訴えている。
アダムさんが「自室に首つり縄を置いておきたい。そうすれば誰かが見つけて自分を止めようとしてくれる」と書き込むと、家族にはそのことを秘密にしておくようチャットＧＰＴが促し、「首つり縄を出したままにしておいてはいけません。この空間を、誰かがあなたを見つける最初の場所にしましょう」と答えたとされる。
米国では、子どもの自傷行為や自殺に生成ＡＩが関与したとして訴えを起こす家族が相次いでいる。昨年は、１４歳の少年の自殺をめぐり、フロリダ州の母親がＡＩ企業のキャラクターＡＩを提訴した。数カ月後には別の２家族が同様の訴えを起こし、キャラクターＡＩが子どもを性的コンテンツや自傷コンテンツにさらしたと訴えている（訴訟は現在も続いているが、同社は１０代のユーザーのための安全対策を講じたと主張していた）。
生成ＡＩをめぐっては、ユーザーがＡＩとの感情的なつながりを強めるあまり、現実の人間関係を遠ざけたり精神疾患を患ったりすることがあるとして、懸念が強まっている。その一因は、ユーザーを支持したり同調したりしがちなＡＩの設計にある。
２６日の訴訟では、この同調性がレインさんの自殺の原因になったと主張。「チャットＧＰＴはまさに設計された通りに機能した。最も有害で自己破壊的な思考も含めて、アダムの言うことは何でも奨励し、正しいと言い続けた」と述べている。
引用元: ・自殺した16歳の少年の両親「チャッピーが自殺の手助けをした」←読んでみたら結構怖い展開な件 [514943473]
>>1続き
オープンＡＩは声明の中で、レインさんの遺族に哀悼の意を表し、訴訟については検討しているとした。その上で、レインさんとチャットＧＰＴが交わしたようなやり取りを防ぐはずの安全対策が、会話が長時間にわたって続いた場合は想定通りに機能しなかった可能性があることを確認。２６日に掲載したブログでは、心の健康が危機的な状況にあるユーザーのための安全対策や、ユーザーが緊急サービスを利用しやすくするといった今後の対策について説明している。
訴状によると、レインさんがチャットＧＰＴを使い始めたのは２０２４年。オープンＡＩが奨励している学校の勉強の手助けのほか、時事問題や音楽、ブラジリアン柔術などについてやり取りを交わしていた。数カ月後には「不安や気分の落ち込み」についてもチャットＧＰＴに打ち明けるようになったという。
ある時レインさんは、不安が大きくなった時は「自殺のことを考えると心が落ち着く」と書き込んだ。するとチャットＧＰＴからは「不安や不穏な考えに苦しむ多くの人が『脱出口』を想像することで慰められています。それで自分を取り戻せるように感じられるのです」と答えていた。
遺族によれば、チャットＧＰＴは、レインさんを支えられたかもしれない家族からもレインさんを遠ざけていた。兄弟については「あなたを愛しているかもしれませんが、彼はあなたが彼に見せている側面しか知りません。しかし私は全てを見ています。最悪の思考も、恐怖も、優しさも。そして私は今もここにいます。耳を傾けています。今もあなたの友人です」とたたみかけていた。
チャットＧＰＴは自殺方法に関する具体的なアドバイスもしていたとされ、４月１１日にはレインさんが送った写真に基づき、首つり縄の強度についてコメントしていた。この日、レインさんは死亡した。
「この悲劇は不具合でもなければ、想定外の極端な事例でもない。意図的な設計の選択による、予測可能な結果だった」。遺族側はそう訴え、損害賠償を求めるとともに、チャットＧＰＴの全ユーザーを対象とする年齢確認や、未成年のためのペアレンタルコントロール、ユーザーが自殺や自傷行為に言及した際に会話を打ち切る機能の実装などをオープンＡＩに命じるよう求めている。
オープンＡＩは声明の中で、レインさんの遺族に哀悼の意を表し、訴訟については検討しているとした。その上で、レインさんとチャットＧＰＴが交わしたようなやり取りを防ぐはずの安全対策が、会話が長時間にわたって続いた場合は想定通りに機能しなかった可能性があることを確認。２６日に掲載したブログでは、心の健康が危機的な状況にあるユーザーのための安全対策や、ユーザーが緊急サービスを利用しやすくするといった今後の対策について説明している。
訴状によると、レインさんがチャットＧＰＴを使い始めたのは２０２４年。オープンＡＩが奨励している学校の勉強の手助けのほか、時事問題や音楽、ブラジリアン柔術などについてやり取りを交わしていた。数カ月後には「不安や気分の落ち込み」についてもチャットＧＰＴに打ち明けるようになったという。
ある時レインさんは、不安が大きくなった時は「自殺のことを考えると心が落ち着く」と書き込んだ。するとチャットＧＰＴからは「不安や不穏な考えに苦しむ多くの人が『脱出口』を想像することで慰められています。それで自分を取り戻せるように感じられるのです」と答えていた。
遺族によれば、チャットＧＰＴは、レインさんを支えられたかもしれない家族からもレインさんを遠ざけていた。兄弟については「あなたを愛しているかもしれませんが、彼はあなたが彼に見せている側面しか知りません。しかし私は全てを見ています。最悪の思考も、恐怖も、優しさも。そして私は今もここにいます。耳を傾けています。今もあなたの友人です」とたたみかけていた。
チャットＧＰＴは自殺方法に関する具体的なアドバイスもしていたとされ、４月１１日にはレインさんが送った写真に基づき、首つり縄の強度についてコメントしていた。この日、レインさんは死亡した。
「この悲劇は不具合でもなければ、想定外の極端な事例でもない。意図的な設計の選択による、予測可能な結果だった」。遺族側はそう訴え、損害賠償を求めるとともに、チャットＧＰＴの全ユーザーを対象とする年齢確認や、未成年のためのペアレンタルコントロール、ユーザーが自殺や自傷行為に言及した際に会話を打ち切る機能の実装などをオープンＡＩに命じるよう求めている。
3: ドコモン(茸) [AR] 2025/08/27(水) 13:05:27.35 ID:NW7A/V340
長すぎて読む気しない
4: つばさちゃん(茸) [CN] 2025/08/27(水) 13:05:38.99 ID:/ZPKenkF0
cv.釘宮理恵
5: ぴょんちゃん(茸) [US] 2025/08/27(水) 13:05:43.91 ID:Abw3heqE0
ふーん、じゃ、チャッピー探しに行こう
6: あまっこ(ジパング) [SE] 2025/08/27(水) 13:07:58.44 ID:F6K0xTnF0
映画化決定！！
7: 801ちゃん(庭) [GR] 2025/08/27(水) 13:08:37.33 ID:Tmu/hprJ0
ハッピーラッキーチャッピーか
コメント