ソウル市内に住む中学2年生のパクさん(13)は26日朝、友人からこのようなメールを受けてびっくりした。パクさんはすぐSNS(交流サイト)の自らのアカウントを非公開とした。しかし以前ネットに公開していた顔写真を何者かが悪用し、性犯罪に悪用されないか今も恐怖におびえている。
【参考写真】本紙男性記者を別の女性の体と合成したディープフェイク写真
大学で発生した「ディープフェイク性犯罪」の被害が10代にまで及び、中高校生の間で「自分も被害者になるかも」という不安と恐怖が広がっている。
「ディープフェイク」とは人工知能(AI)の学習を意味するディープラーニングとフェイクを合成した言葉で、AIで作成した虚偽コンテンツのことを言う。SNSなどに公開されている顔写真に裸体など性的な画像を合成し、これが「性犯罪物」としてネットに広がるケースが増えているのだ。最近は性的なディープフェイク画像をテレグラムのチャットルーム(別名、知人同士の部屋)やチャンネルなどで共有する犯罪がソウル大学や仁荷大学の在学生と卒業生の間で広がり、チャットルームの管理人が検挙されたケースもある。
ディープフェイクへの恐怖が10代の間で広がる背景には、学校ごとのテレグラムチャンネルの存在が急速に知られ始めたことがある。実際に26日にテレグラムデータ検察サイトの「テレメトリオ」で「知人同士の部屋」などを検索したところ数百件がヒットしたが、そのタイトルの中には「○○高校」「○○中学」など多くの学校名が出てきた。
生徒たちは「被害学校リスト」を作成しこれを共有するなど独自の対策に乗り出している。25日にSNSのX(旧ツイッター)にアップされた「テレグラムディープフェイク被害学校リスト」には全国477の小中高校名が掲載されている(26日午後6時時点)。ただしリストに上がったこれら全ての学校で実際に被害が発生したかは確認できていない。
しかしリストに上がった京畿道のある高校の教頭は本紙の電話取材に「本校でもディープフェイク性犯罪物被害が発生した事実を把握している」「問題が非常に重大であり、地域の他の学校にも(被害者が)いるので、教育庁次元で警察と協力しながら対応することにした」と明らかにした。