【独自】違法合成画像生成のＳＮＳのチャンネルに２２万人…「流布被害が深刻」＝韓国
SNS「テレグラム」を基盤とする違法合成画像（ディープフェイク）による性犯罪が相次いで発生するなか、参加人数だけで22万人以上にのぼる違法合成画像のテレグラムのチャンネルまでも盛んに運営されていることが確認された。簡単な検索でアクセスが可能なうえ、違法合成画像の生成を有料化した「収益構造」まで備えた形態と、犯罪という認識さえなしに広がっている違法合成画像の実態を示す断面だとみる分析が出ている。
ハンギョレが21日、X（旧ツイッター）に投稿されたアドレスを通じてアクセスしたあるテレグラムのチャンネルには、女性の写真を投稿すると、これを合成して裸体写真を作る違法合成画像生成プログラム（ボット）が搭載されていた。チャンネルに入場すると、すぐに会話ウィンドウに「今すぐ好きな女の写真を送ってください」という内容のメッセージが表示された。人工知能（AI）が作った仮想の女性の写真を入れたところ、約5秒後に合成画像が生成された。生成過程には特定の体の部位の形を調整する機能まで備えられていた。このテレグラムのチャンネルの利用者数は、21日時点で22万7000人あまりに達する。
テレグラムのチャンネルへのアクセスは簡単にできる。XなどのSNSで特定の単語で検索すると表示されるアドレスをクリックする方式だが、Xではこのチャンネルのアドレスを表示した投稿が「話題の投稿」として堂々と共有されている。最近、違法合成画像による性犯罪が知られるようになり、警察の捜査が進んでいるにもかかわらず、宣伝のツイートが相次いで投稿されている。
このチャンネルは、2枚目の写真までは無料で合成画像を生成し、その後有料に転換する収益構造まで備えていた。写真1枚あたり1ダイヤ（0.49ドル、約70円）を取るが、10ダイヤ単位で購入可能だった。購入量が増えれば割引し、代金を支払うかわりに友人を招待すれば生成を続けられる。利用者の底辺を広げる手法だ。匿名性を考慮したのか、決済は仮想通貨でのみ行われるようになっている。
このチャンネルには、参加者が対話をしたり写真を流布する機能はない。ただし、数十万人に達する参加者が生成した違法合成画像が、どのように悪用されるのか分からないことが問題だ。韓国女性弁護士会のソ・ヘジン人権理事（ザ・ライトハウス法律事務所）は、「このようなテレグラムのチャンネルで作られたディープフェイクによる性搾取物が、チャットルームなどで共有されることで、集団性犯罪が始まる」として、「生成段階のテレグラムのチャンネルに22万人以上参加しているのであれば、流布による被害は甚大だとみられる」と述べた。
莫大な規模の参加者に収益モデルまで備えたテレグラムのチャンネルの存在は、深刻な被害をもたらす違法合成画像の生成を軽く考える実態を反映したものだ。韓国性暴行相談所キム・ヘジョン所長は「収益構造化されているということは、それだけ需要が多いという意味」だとし、「女性に対する性的侮辱がオンライン上で一つの『コンテンツ』になってしまったにもかかわらず、これを軽微な事案だとみなす社会認識が性犯罪を育てる主な原因」だと指摘した。
訳M.S
