生成AIで、実在する女性芸能人を模したわいせつな画像を作成し、インターネットのサイトで販売したとして、会社員の男が逮捕されました。

【写真を見る】わいせつ電磁的記録媒体陳列の疑いで逮捕された横井容疑者

「ネット上の動画や記事で学んだ知識で」“わいせつ画像”AIで生成し販売か

15日、秋田市の会社員・横井宏哉容疑者（31）は、俳優の女性3人に似せたわいせつ画像を生成AIで作成し、インターネットのサイトで公開した疑いで警視庁に逮捕されました。

こうした実在する人物の偽の性的な画像や動画は「性的ディープフェイク」と呼ばれ、大きな社会問題になっています。

横井容疑者が作成した性的ディープフェイク画像は2万点にのぼり、女性芸能人262人に酷似したものだといいます。

取り調べに対し、横井容疑者は容疑を認めているということです。

横井容疑者
「閲覧者の反響が大きく、人気が出て、多くの収益が見込めると思った」

横井容疑者は、海外のサイトを通じて1ドルから100ドルまでの月額制で画像を公開。これまでの売り上げは約120万円にのぼるとみられています。

性的ディープフェイクを作成した手口について、横井容疑者は「インターネット上の動画や記事で学んだ知識で作りました」と供述しています。

インターネットで検索してみると、“AI美女作り方”といった作成マニュアルの動画がたくさん公開され、AIで生成したわいせつ画像も多数出品されていました。

性的ディープフェイクは誰もが加害者・被害者に…「法整備が技術に追いついていない」

横井容疑者が犯行に使ったのは、スマホと生成AIの無料ソフト。

警察庁によりますと、性的ディープフェイクに関する相談や通報の件数は、去年、全国で100件を超えたということです。

性的ディープフェイクの問題の一つは、誰もが簡単に被害者にも加害者にもなりうること。しかし、「日本は法整備が追いついていない」と専門家は指摘します。

三井物産セキュアディレクション　福田美香さん
「特に生成AIは、本当に日に日に進化していくもので、1週間後には考えられなかったような技術がどんどん出てきている。法整備がなかなか技術に追いつかないというのが現状」

被害に遭わないための対策は…

三井物産セキュアディレクション　福田美香さん
「ディープフェイクポルノに関しては、いろいろな対策が考えられていて、個人の顔がはっきり単体で写るような写真をSNS上に広く公開しない、公開を限定するとか、そういった対策が考えられる。個人としても、こういった脅威をまず知っておくことが重要になってくる」

・【全文公開】“ラブホテル密会” 小川晶・前橋市長の謝罪会見【前編】「最初にホテルへ誘ったのはどちらから？」記者と小川晶市長の一問一答（9月24日夜）
・見つかった娘(14)の遺体には「身を守れ」と父が願い伝えた“長袖・長ズボン”「1羽じゃかわいそう」中3・喜三翼音さんが家族に残した“生きた証”
・「あんな微罪で死ぬことはないだろう…」逮捕直前にホテルで命を絶った新井将敬 衆院議員「この場に帰って来れないかもしれないけども、最後の言葉に嘘はありませんから」【平成事件史の舞台裏（28）】