内閣委員会でのディープフェイクポルノをめぐる質疑でモヤモヤしたこと

2025年4月9日 (水)に行われた衆議院の内閣委員会で、立憲民主党の市來伴子議員から「性的ディープフェイク」に関する質問が出されました。その質問に高村法務副大臣と吉田法務省大臣官房審議官が答弁していましたが、その答弁に対する議員や世間の受け止め方が私の認識と違っているように感じたので、そのモヤモヤを書いてみることにします。

まず、実際の発言内容を文字起こししてみましたので、ハイライト部分に着目してご覧ください。

市來伴子議員

卒業アルバムやSNSの写真など実在する子供の写真を使って性的画像や動画を生成し

販売するなどの被害がございます。

これはですね深刻な問題でございまして、同じクラスの子供が被害者になる一方

同じクラスの子供が加害者にもなり得ます。

また、こういった子供のポルノをですね大量に作成して

ネット上で販売して利益を得ようとする悪質な者もいます。

そこで法務省に確認致しますが、AIで生成された性的画像や動画は

児童ポルノ法上の児童ポルノに該当し得るのかお答えください。

高村法務副大臣

お答えいたします。

犯罪の成否は捜査機関により収集された証拠に基づき個別に判断されるべき事柄であり

この点についての直接のお答えは控えたいと思いますが、

一方であくまで一般論として申し上げますと

いわゆる児童ポルノ法2条3項の児童ポルノについては

最高裁判所の決定によれば

写真電磁的記録に係る記録媒体その他のものであって

同項各号のいずれかに掲げる実在する児童の姿態を視覚により

認識することができる方法により描写したものを言い

実在しない児童を描写したものは含まないと解するべきであるとされていると

承知をしております

その上でお尋ねのAIで生成された性的画像や動画について

具体的な証拠関係に照らし

写真電磁的記録に係る記録媒体その他のものであって

児童ポルノ法2条3項各号のいずれかに掲げる

実在する児童の姿態を視覚により認識することができる方法により描写したものと

認められるのであればですね

児童ポルノに該当すると考え得ることができると思います。

市來伴子議員

副大臣もう一度　すいませんお答えいただければと思うんですが

個別ケースで判断されるというのはもちろんその通りだというふうに思うんですが、

実在する児童の画像を使った生成AIポルノ　AI生成ポルノで認められれば、

これは児童ポルノ法上の児童ポルノに該当する？　このことをお答えください。

高村法務副大臣

お答えいたします。

犯罪の成否は繰り返しになりますけれども

捜査機関により収集された証拠に基づき個別に判断されるべき事柄でありますが

あくまで一般論となりますが

いわゆる児童ポルノ法2条3項の児童ポルノについては

最高裁判所の決定によれば写真電磁的記録に係る媒体その他のものであって

同項各号のいずれに掲げる実在する児童の姿態を

視覚により認識することができる方法により描写したものを言い

実在しない児童を描写した場合は含まないと解するべきであります。

お尋ねの、実在する児童の画像をもとに生成された性的画像や動画について、

具体的に想定されているものが明らかではございませんが、

具体的な証拠に照らし写真電磁的記録にかかる記録媒体その他のものであって

いわゆる児童ポルノ法第2条3項各号のいずれかにかかわる

実在する児童の姿態を視覚により認識することができる方法により

描写したものと認められるのであれば児童ポルノに該当し得ると考えられます。

市來伴子議員

ありがとうございます。

該当し得るということですけれども、ちょっと聞き方変えますね、

児童ポルノの定義としまして描写されている児童が実際に実在する

あるいは実在したという基準が存在しますよね。

この要件に該当すれば

生成AIポルノも児童ポルノ法上の児童ポルノということでよろしいですか？

結局、実際に実在した児童ということで認められればOKですか？

吉田法務省大臣官房審議官

お尋ねは対象となる児童が実在しているかどうか、そこに問題意識があるものと理解いたしました。

今副大臣からもご答弁申し上げたとおり児童ポルノ法の2条3項各号というところに

どういう児童の姿態であれば児童ポルノと言えるのか、

ということが規定されておりまして、

そこでいう児童については実在するものである必要があるというふうに解されております。

具体的な証拠関係によりますけれども個別の事案ごとに見たときに

問題となっている児童の姿態というのが実在する児童の姿態だと言えるということであれば

ご指摘のように児童ポルノに該当し得るというふうに考えております。

市來伴子議員

ありがとうございます。

今の答弁は非常に重要な答弁だと思います。

実在する児童の画像が使われた生成AIポルノということが認められれば

これは児童ポルノ法上の児童ポルノと定義をされるということですね？

もう一度確認します。

吉田法務省大臣官房審議官　

いわゆるディープフェイクポルノの場合にどういう形で画像を組み合わせるか

というのは様々あろうかと思いますけれども

その事案ごとに問題となっている児童とされる者の姿態の画像を見たときに

実在する児童の姿態であるというふうになりますと

もちろん児童ポルノの2条3項各号に当たるかという問題が残りますけれども

先ほど申し上げたように児童ポルノに該当し得るというふうに考えております。

市來伴子議員

今の答弁はですね

今実際被害に遭われている方々の希望になると思います。

上記のやり取りからは読み取れることは、

実在しない児童を描写したものは含まない

児童ポルノ法2条3項各号のいずれかに掲げる実在する児童の姿態だと言えるということであれば児童ポルノに該当し得る

と、これだけです。

これは極めて当たり前のことを述べているだけで、決して「実在する児童の顔写真だけを使ったディープフェイクポルノ（体は誰のものか知らんし、架空のものかもしれないもの）が児童ポルノに該当し得る」とは明言していません。もしそういう意味の答弁だったとしたら衝撃ですが、果たしてそうでしょうか。

ご存知のとおりディープフェイクポルノの特徴は、実在する誰かの顔を使って体だけ生成AIで作り上げることであり、言い換えれば体は本人のものではないのにあたかも本人のポルノのように見えるという点にあります。

いくら実在する児童の顔写真を卒業アルバムやSNSから取得してディープフェイクポルノが作られたとしても、体がその児童本人のものではなく、また、別の実在する児童の体でもないならば、児童ポルノにはならないはずですなのですが、実際のところその点が今回のやり取りではよく分かりませんした。

今回の質問の中で市來議員は、「実在する児童の画像を使った生成AIポルノは児童ポルノに該当するか」「実際に実在した児童ということで認められればOKですか？」という聞き方をされていましたが、この聞き方だと、肝心の論点が曖昧なので、相手に質問の意図が伝わっているのかな？とハラハラしながら聞いてました。

私だったらこう質問していたでしょう。

「実在する児童の顔写真を使ったディープフェイク画像が作られたとして、それが児童ポルノ法2条3項各号のいずれかに掲げる姿態を描写したものではあるけど児童本人の体ではなく、AIが生成した架空のものだったとしても、顔が実在する児童のものであれば児童ポルノに該当し得るのですか？」

これに対する回答はおそらく、「実在する児童の姿態を描写したものでないなら該当しません。」ではないかと思うので、追加でこう聞きます。

「では、AIで生成されたその姿態（体）が、実は実在するどこかの児童の実写データそのものだったり、あるいはそれを学習した上で生成された創作物であることが捜査で判明した場合はどうですか？」

これに対する回答は、「それならば、その体の方の児童が児童ポルノの被害者ということになるかと考えます。」となるのではないかと予想します。

詰まるところ、現行の児童ポルノ禁止法が「実在する児童の姿態を描写したもの」に限っているので、顔写真だけ使われた児童が児童ポルノの被害者にはなり得ないんじゃないかというのが私の見解です。

だけどそれこそがこのディープフェイクポルノの問題であって、顔写真を悪用されてポルノ画像を捏造された児童が警察に相談に行っても、もうその時点で児童ポルノ事犯として扱われることはなく、名誉毀損罪の成否を検討されるくらいになってしまうということです。だからこそディープフェイクポルノを直接規制するための法律が必要であると考えます。

というわけで、今回の委員会での答弁を受けて「今、実際被害に遭われている方々の希望になる」と思うのはまだ早いんじゃないかと思うのですが、皆さんはどのように感じたでしょうか。

正しく問題を理解して声を上げることが大事

なお、実在する児童の顔写真を使ったディープフェイクポルノが現状野放しになっているかというとそういうとそうではなくて、仮に本物の児童ポルノにしか見えないような画像がどこかに載っていれば、それを通報すればプロバイダやSNS事業者はふつうに児童ポルノと判断して削除してくれるでしょう。なぜならプロバイダは削除するかどうかの判断において、それが実在する児童の姿態なのかどうかまで確かめることはしないので、削除させたいだけであればディープフェイクであることを告げずに「児童ポルノがありました」と報告するのがよいでしょう。

問題になるのは、ディープフェイクポルノを作った相手を特定して処罰してもらいたいと思った場合で、そうなってくるとディープフェイクポルノが違法かどうかが大きな意味を持ってきます。

現在、私も参加しているとあるワーキンググループでは、生成AIを使った擬似児童ポルノを児童ポルノ法の対象に含めるべきとの提言をしているところですが、それに関してはそもそも実在しない児童を描写したものを想定しているためさらにハードルが高くなります。さらに言うと、児童に限らず成人もディープフェイクポルノの被害に苦しんでいるわけなので、ディープフェイクポルノ自体を直接取り締まる法律も必要だと考えています。

そのためには一人でも多くの人がこの問題を正しく理解して、何らかの形で声を上げることが必要だと思っています。