2025年4月15日 11時51分

生成AIを使って作成したわいせつな画像をインターネットのオークションサイトで販売したとして、警視庁は20代から50代の4人を逮捕しました。作成されたのは実在しない成人女性の画像で、警視庁によりますと、生成AIで作成したわいせつ物の販売が摘発されるのは全国で初めてだということです。

逮捕されたのは、愛知県に住む小売業の水谷智浩容疑者（44）や、埼玉県に住む会社員の菅沼貴司容疑者（53）ら20代から50代の合わせて4人です。

警視庁によりますと、4人はそれぞれ去年10月、生成AIを使って作成した女性のわいせつな画像をポスターにして、インターネットのオークションサイトで複数回販売した疑いが持たれています。

無料で提供されている生成AIのソフトに、ネット上にある大量の画像を学習させたうえで、「脚を開く」などとポーズを指示することで、実在しない成人女性の裸に見える画像を作成していたとみられています。

ポスターは、「AI美女」などとうたって1枚数千円で販売され、水谷容疑者は、およそ1年間で1000万円余りを売り上げていたということです。

調べに対し、いずれも行為を認め、このうち水谷容疑者は、「ポスター販売は利益率が高いと知って始めた」などと供述し、菅沼容疑者は、「ポスター販売を事業の1つにしようと思い、作成方法は独学で学んだ」などと供述しているということです。

「ディープフェイク」と呼ばれるAIを使った技術で作成した実在する人物や架空の人物の性的な画像がネット上に氾濫しているとして課題となっていますが、警視庁によりますと、生成AIで作成したわいせつ物の販売が摘発されるのは全国で初めてだということです。

城内科技相「既存の法令にのっとり適正に対処されるべき」
城内科学技術担当大臣は、閣議のあとの記者会見で「悪意を持ったAIの活用は望ましくない行為で、既存の法令にのっとり適正に対処されるべきだ。今の国会に提出しているAIの活用などに関する法案では、司令塔機能を強化し、内閣府が関連する情報の収集や調査などを実施することとしており、政府全体で課題に迅速かつ着実に対応したい」と述べました。