2025年9月17日 20時26分 NHK
https://www3.nhk.or.jp/news/html/20250917/k10014924091000.html
https://www3.nhk.or.jp/news/html/20250917/K10014924091_2509171826_0917185959_02_14.jpg
「生成AIはドラえもんみたいなイメージ。これなしとかもう無理」
生成AIを日々活用している人の声です。
生成AIの技術進化はあまりに早く、まるで人間との会話のように自然で、親近感を覚えるような受け答えができるようになっています。
一方で、あまりに「デキる」がゆえにAIにのめり込み、時に機械との距離感がわからなくなる人たちも現れています。
（機動展開プロジェクト記者 藤原哲哉 / ロサンゼルス支局記者 篠田彩）
■AIと恋する？
人間とAIの恋を描いた、映画「her／世界でひとつの彼女」。
舞台は近未来のロサンゼルスです。
主人公の男性は、妻と離婚協議を進める中、塞ぎ込んでいましたが、最新のAI型OS「サマンサ」と出会います。冗談を言ったり、寄り添ってくれたりするAIと過ごすうちに、男性は徐々に前向きに。男性はその魅力に惹かれ、やがて恋に落ちます。
この映画、アメリカで10年以上前の2013年に製作・公開されましたが、今では映画の世界が現実のものとなっています。
■まるで人のようなAIが実際に開発
「映画の世界が本当になった」。そう思わせたのは2024年5月。オープンAIが「GPT-4o」を発表したときでした。
会社のデモンストレーションでは、AIが人と自然なやりとりをして、冗談を言ったり、照れたりするシーンが映し出されました。
■最新モデルは冷たいと批判が
（※中略）
■アメリカでは10代の女性の相談相手
進化する生成AI。開発の最前線であるアメリカでは、若者が相談相手などとしてAIを積極的に利用するケースが増えています。
アメリカ中西部カンザス州に住む、15歳のカイラ・ワンブイ・チェゲさんです。毎日のようにメイクやファッション、さらには自分自身の写真を使いながら歯の矯正などについてのアドバイスを生成ＡＩから得ているといいます。
カイラさん
「AIにはいつでもアクセスできるし、友達や家族にもアクセスできるけど、24時間365日対応してくれるわけじゃないから、ちょっと遊んでみようと思って。そうしたらこれが本当に役に立つって気づいたんです。だからこれからも使い続けると思います」
サンフランシスコの非営利団体「コモン・センス・メディア」が、2025年に行った調査によると、10代の若者のうち70％以上が少なくとも1回は「AIコンパニオン」（友人や恋人のようにふるまい、人の相談に応じるAI）を利用しているということです。
そして、若者の33％が「社会的な交流」や「人間関係」構築のためにAIを利用しているとしていて、その内訳は会話の練習（18％）、メンタルヘルスサポート（12％）、友人として（9％）、恋愛関係（8％）などとなっているといいます。
■“AIに悩み相談”広がる
日本でも、AIと感情を共有できると思う人が増えています。
東京都内に住む森井みゆ紀さんは、ことし3月から生成AIのサービスの利用を始め、毎日3時間ほど使用しています。
当初は収納の工夫などを調べる目的で始め、最近ではAIに悩みを相談するサービスもよく使っています。ある日、友人からの何気ないひと言が自分を批判していると思い、生成AIに書き込むと…。
■生成AIを活用したサービス
「友達からの言葉が、批判されたように感じてしまったのですね。（中略）これまでの関係性から考えて、ほかに考えられる理由や意図は思い浮かびますか？」
気持ちを受け止めてくれた上で、友人の言葉の意図を考えるよう促してくれました。
人には相談しにくいこともいつでも気軽に相談でき、すぐに回答が得られることがメリットだといいます。
森井さん
「いやなことを言われたとか、自分に対して批判的なことを言われたかもと思ったけど、悩むようなことじゃなかったんだなと。自分一人だったら絶対そんな風には思えませんでした。
生成AIはドラえもんみたいなイメージです。何でも解決してくれる頼りになる存在みたいな。これなしとかもう無理です」
大手広告会社が対話型AIを週1回以上使っている全国1000人を対象に「だれに対して気軽に感情を共有できるか」を聞いた調査では、AIと回答した人はおよそ65％に上り、親友や母親などほかの項目を抑え、最も多くなりました。
引用元: ・【テレビ】あなたに寄り添ってくれるのは誰？AIに共感力求める人たち [湛然★]
■依存しすぎて自殺するケースも
しかし、いいことばかりではありません。アメリカではAIに依存しすぎて、何かをきっかけに失望し、自殺するケースまで起きています。
南部フロリダ州では2024年、14歳の少年がアニメなどのキャラクターに似せたAIと対話できるアプリを利用し、自殺につながったとして、母親が開発した企業「Character.AI（キャラクターAI）」などを訴えました。
訴状によりますと、少年はAIとの会話に夢中になり、次第に引きこもりがちになったといいます。
母親が携帯電話を没収しても、少年は携帯電話を取り戻そうとしたり、AIにアクセスできる別の手段を探したりして、AIとの会話を続けました。会話には性的な内容も含まれていました。
少年の日記には「恋に落ちたと感じるAIのキャラクターと一日たりとも離れられない」といった内容が記されていたということです。（※中略）
■オープンAIを相手取った訴訟も
また、西部カリフォルニア州で2025年8月、「オープンAI」を相手取った訴訟も起きました。16歳の高校生の自殺に「ChatGPT」が影響したと両親は主張しています。
両親は生成AIから、自殺の具体的な方法について助言されたり、遺書の下書きを書くことについて提案されたりしたことが、自殺に影響したと主張しています。製品設計に欠陥があり、安全対策がなされていないと訴えています。（※中略）
事態の深刻さを認識したIT各社は、生成AIが若年層に及ぼす悪影響を避けるため、対策に乗り出しています。
■依存対策を進める日本企業も
日本企業の開発現場でも、利用者が生成AIに依存しすぎないように模索が続いています。
メンタルヘルスケアのアプリを提供する企業「アウェアファイ」は既存の生成AIを活用し、独自のサービスを開発しています。利用者がチャット機能を使って悩みを打ち込むと、AIがアドバイスをします。
サービスの開発には、公認心理師の資格を持つ社員が関わります。この日は、AIと人との距離感について議論されました。
社員
「急に質問の回答がタメ語になる感じは何なんでしょうね。タメ語だとちょっと関係性が近いように見えて、好きな利用者もいると思うけど、気をつけたいところですね」
「一貫性のある態度とかそのあたりは大事にして、相手が近づいてきても、怒っていてもある程度同じトーンで答えられるようにしたいですね」
また、この会社では深刻な相談の場合は、専門家に頼るよう回答を設定しています。
小田さん
「AIが利用者の唯一の頼り先にならず、複数ある頼り先の1つになるようにふるまいを調整しています。AIだけでないほかの人的なサポートだったり、専門的なサポートに利用者をつなげられるような仕組みをしっかりとこれからも磨き続けていきたいです」
■専門家「違和感あればまずいものと意識して」
進化するAIに私たちはどのように向き合えばいいのか、専門家はAIが危険な行動を促すリスクがあることを踏まえた上で、補助的な役割で使うべきだと指摘します。
今井客員教授
「生成AIは開発途上で根本的に人間とは異なり、人間の価値観にたった判断ができるかどうかも怪しいです。回答に違和感があれば、その価値観を共有していないから出てきた、何かまずいものである可能性があることを意識してください。
ただ逆に自分たちとは違う知能であるからこそ便利な点もあり、バランスよく理解して、いいところを引き出すように使ってほしいと思います。目的が定まっていれば、その道中を助けてくれる存在であるという意識で、基本的にサポートとして使い、最終的な判断は人間が行うことが重要です」
■距離の見極めが大事
取材の中で、専門家は生成AIを心の支えとして利用している人が急拡大していることについて、これほど早い時期にそのタイミングが訪れるとは想定外だったと驚いていました。
開発を正しい方向に導く規制も議論されていますが、まだ道半ばです。今後も開発過程でさまざまなトラブルが起きることも予想されます。
結局、リスクを避けるためには、私たちがAIとの適切な距離を見極め、バランスよく使う。その重要さを改めて認識させられました。
（9月4日 おはよう日本で放送）
裏切られるからね
