チャン・ウォニョンも被害に…これは衝撃を超えて恐怖K-POP界を揺るがす最新AIディープフェイクの脅威

■ 指を鳴らすと顔が変わる？SNSで拡散された衝撃映像の正体

現在、韓国のオンラインコミュニティやSNSを中心に、ある一つの動画アカウントが大きな波紋を広げています。その内容は、一人の男性が指を「パチン」と鳴らすたびに、一瞬にしてその顔が、IVE（アイヴ、STARSHIPエンターテインメント所属の6人組ガールズグループ）のチャン・ウォニョン（장원영）さんや、BLACKPINK（ブラックピンク）のジェニー（제니）さん、aespa（エスパ）のカリナ（카리나）さんといった、韓国を代表するトップアイドルの顔に切り替わるというものです。

この動画に使用されているのは「AIフェイススワップ（顔交換）」と呼ばれる技術です。かつてのディープフェイク技術は、単に顔の画像を貼り付けたような不自然さが残るものが多かったのですが、今回話題となっている映像は、ウインクをしたり口元を動かしたりといった細かな表情やジェスチャーまで、本物と区別がつかないほど精巧に再現されています。

このアカウントは先月開設されたばかりですが、すでに60件以上の動画が投稿されています。対象となっているのはアイドルだけでなく、女優のコ・ユンジョン（고윤정）さんや国民的歌手のアイユー（아이유）さんなど、多岐にわたります。アカウントの所有者は「まもなくリリースするアプリをフォローしてほしい」と技術をアピールしていますが、専門家やファンの間では「技術の誇示を超えた犯罪への悪用」に対する懸念が急速に高まっています。

■ 進化するAI技術と、巧妙化する犯罪への転用

今回の「AIフェイススワップ」技術がこれほどまでに問題視されているのは、その圧倒的な「リアルさ」にあります。動画では、モデルの動きに合わせてAIがリアルタイムで表情を生成しており、従来の不自然な歪みがほとんど見られません。

このような高度な技術は、エンターテインメントの枠を超えて、すでに深刻な犯罪に悪用され始めています。例えば、北朝鮮のIT関係者が身分を偽って海外のテック企業に就職する際、ビデオ面接でこの技術を使い、顔を別人に作り替えていた事例も報告されています。また、アダルトコンテンツへの無断合成や、本人の声を模倣したAIボイスと組み合わせた詐欺など、その被害は計り知れません。

韓国では特に、アイドルや俳優の「イメージ」が極めて重要視されます。韓国の芸能界は、大手事務所（HYBE、SM、JYP、YGのいわゆるBig4など）による徹底した管理のもと、練習生時代から厳しい倫理観を叩き込まれる文化があります。そのため、本人の意図しないところで作成されたフェイク動画であっても、アーティストの清廉なイメージに傷がつくことは、そのキャリアにおいて致命的な打撃となりかねないのです。

■ ターゲットにされる韓国芸能界…政府も対策に乗り出す

米国のサイバーセキュリティ企業「セキュリティ・ヒーロー」が発表した報告書によると、なんと全世界のディープフェイク被害者のうち、半数以上が韓国の芸能人であるという衝撃的なデータが出ています。これを受けてイギリスのBBCも「韓国がディープフェイク非常事態に直面している」と報じるなど、国際的な関心事となっています。

K-POPが世界的な人気を博し、コンテンツの影響力が強まったことで、皮肉にも「合成の素材」としての価値も高まってしまったという背景があります。また、韓国はインターネットインフラが非常に発達しているため、情報の拡散スピードが他国に比べて圧倒的に早いという側面もあります。

こうした事態を受け、韓国政府もついに重い腰を上げました。行政安全部と国立科学捜査研究院は共同で「AIディープフェイク探知モデル」の開発を完了させたことを明らかにしました。このモデルは、映像全体の流れを分析する「全域分析」と、顔の細かな操作痕を判別する「局所分析」を同時に行うことで、高い精度で偽物を見破ることができるといいます。

政府はこの技術を、まずは選挙におけるフェイク動画対策に活用し、今後は一般の芸能人や市民の被害防止のためにも活用範囲を拡大していく方針です。また、所属事務所側も、アーティストの権利を守るために法的措置を強化しており、IVEが所属するスターシップエンターテインメントなどは、悪質なデマや捏造動画の作成者に対して、国境を越えた厳しい追跡調査と訴訟を続けています。

AI技術の発展は、ドラマや音楽の表現を豊かにする可能性を秘めていますが、それが誰かの尊厳を傷つける武器になってはなりません。ファン一人ひとりも、不審な動画を拡散しない、通報するといった意識を持つことが求められています。

出典：https://biz.heraldcorp.com/article/10698335?ref=naver