【画像生成AI】「Stable Diffusion」、性的コンテンツでの利用を禁止に　開発会社が規約改定へ

　新規約では「性交や性行為、性的暴力に関するコンテンツ」につながる利用を禁止すると明記。対象者との合意なく、その人物のヌード画像を作成・配布する行為や、違法なポルノコンテンツについても、旧規約と同様に禁止する。

　児童への性的虐待につながる利用についても、実質的に規制を強化する。旧規約では、児童を搾取するようなコンテンツの作成・取得・配布や、その促進、計画、扇動などを禁じるとしていた。

　一方新規約では「児童性的虐待コンテンツ（CSAM）、未成年者の性的な搾取、グルーミング、人身売買」につながる利用を禁止すると記載。さらに未成年者の暗示的な描写を含む小児性愛行為や、性的脅迫や搾取を目的に、未成年者になりすます行為につながる利用も禁止する。CSAMを確認した場合には当局に通報する方針も明らかにした。

　他にも、同社が設けた安全対策や利用制限を意図的に回避する行為を禁止に。知的財産権を含む他者の権利やプライバシーの侵害につながる利用についても、禁止する具体例を明記する。例えば、本人の同意なく顔認証用のデータベースを作成・拡張する目的で同社のAIモデルやサービスを利用する行為を禁止する。

　Stable Diffusionをはじめとした画像生成AIは、ポルノ画像の生成に使われる例も少なくない。今回の規約変更は、海外掲示板サイトRedditなどでも話題になり始めており、「Civitai」などAIモデル共有プラットフォームへの影響を懸念する声もある。一方、Stable Diffusionはローカル環境で利用できる点を踏まえ、規制の実効性を疑問視する声も見られる。

ITmedia
2025年07月09日 11時41分
https://www.itmedia.co.jp/news/articles/2507/09/news076.html