AI(人工知能)の技術を悪用、女性芸能人の顔をアダルトビデオの出演者に合成してすり替えた動画をインターネットに公開したとして、京都府警が大分県の男を逮捕した。

 名誉毀損(きそん)と著作権法違反の疑いで、男は「金もうけのため」と容疑を認めているという。

 警視庁でも同様の容疑で男2人を逮捕している。AI技術を使った偽動画がネット上に広まる中で、相次いで警察が摘発に乗り出したかっこうだ。

 ネット利用者は、偽動画にだまされないよう注意するだけでなく、人を傷つける卑劣な内容には拒絶の姿勢を示し、拡散しないようにしたい。閲覧数を増やすことで広告収入を稼ぐのが、偽動画づくりの狙いだからだ。

 こうした偽動画は「ディープフェイク」と呼ばれる。AIの深層学習「ディープラーニング」と「フェイク」を組み合わせた造語だ。

 AIが顔の特徴や表情、口元の動きなどを学習し、別の動画の顔に合成することができる。急速に技術が進み、本物と偽物の見分けがつきにくくなっている。

 しかも、ネット上に専用ソフトが出回り、高度な知識がなくても作成できてしまう。府警に逮捕された男も無料ソフトを使い、100本以上作っていたという。

 海外では数年前から問題になっているようだ。日本と同様にほとんどがポルノ動画に悪用されているが、それだけにとどまらずに政治家も顔合成されている。

 オバマ前米大統領や現職のトランプ大統領らの偽動画は声まで似ている。パロディーと分かって笑うのはいいが、真実のように見せて政敵をおとしめデマを広めるのに使われており、民主主義にとって危険だ。米大統領選で使われないか警戒されている。

 精巧な偽動画は有権者を惑わし、政治不信を助長しかねない。社会の分断を招き、国家の安全保障を揺さぶる情報操作への懸念もあり、欧米や中国では規制の動きが出ている。

 フェイスブックやツイッターなどは、フェイク排除を打ち出しているが、根絶するには限界があろう。顔合成を見破る技術開発が進んでおり、精度を高めてほしいものだ。

 日本でも規制をめぐる議論を高める時だろう。AIの進歩や表現の自由などを妨げずに、どう偽動画に歯止めをかけるのか。インスタグラムなどで個人の顔や動画がネットにあふれており、悪用が心配だ。対策を急ぐ必要がある。