巧妙すぎるAIディープフェイクが韓国芸能界を直撃。投資詐欺や偽造資料など知能犯罪の現状

■ 進化するディープフェイク技術と巧妙な投資詐欺
韓国のSNS上で、有名スターが直接投資の秘訣を教えるといった広告動画が横行しています。一見すると本人が語りかけているように見えますが、その多くは人工知能（AI）によって作られた「ディープフェイク」による偽物です。最近では、有名経済専門家や信頼度の高いベテラン俳優の表情や音声をAIに学習させ、本人のように振る舞わせる手法が社会問題となっています。

特に深刻なのは、技術の向上が「リアルタイム」の領域にまで達している点です。犯人グループは非公開のビデオチャットに被害者を招待し、AIで作られた芸能人の顔と声で「私もこの銘柄で利益を出した」と直接語りかけます。被害者が質問をすると、AIが即座にそのタレントの声で回答するため、多くの人が「本人がビデオ通話までしているのだから本物に違いない」と信じ込んでしまいます。これはパブリシティ権（有名人の名前や肖像を商業的に利用する権利）の侵害にとどまらず、一般市民の財産を奪う重大な民生犯罪へと進化しています。

■ 世界的な規制の動きと「EU AI法」の注目点
こうした知能犯の増加を受け、各国では規制の準備を急いでいます。なかでも注目されているのが、欧州連合（EU）が採択した「AI法」です。この法律の核心は「リスクが高いほど強く規制する」という方針にあります。

特に重要なのが「透明性の義務」です。この法案によれば、人間ではなくAIが生成したすべての映像や音声には、一目で判別できるラベル表示と、データ内に隠された技術的な「ウォーターマーク（電子透かし）」の挿入が義務付けられます。もし投資広告にAIである旨の表記がない場合、そのコンテンツは欧州市場での流通自体が違法となります。さらに、プラットフォーム事業者がこうした違反コンテンツを即座に遮断しない場合、全世界の年間売上高の最大7％という巨額の制裁金が科される可能性があります。

■ K-POP産業への光と影
一方で、AI技術は韓国のエンターテインメント産業にポジティブな変化ももたらしています。例えば「多言語ボーカル生成」技術により、歌手が韓国語で歌うだけで、その歌声や歌い方を維持したまま6ヶ国語以上の言語に完璧に変換できるようになりました。これにより、世界中のファンが自国語で歌詞を楽しめるようになっています。また、バーチャルアイドルのPLAVEが音源チャートで1位を記録するなど、新人育成に伴うリスクやコストを抑える新しいビジネスモデルとしても期待されています。

しかし、韓国政府が準備を進めている「AI基本法」については、産業の発展を阻害するのではないかという懸念の声も上がっています。中小規模の芸能事務所にとっては、すべてのコンテンツにウォーターマークを埋め込み、検証システムを整えるコストが大きな負担となり、新たな参入障壁になる可能性があるためです。また、ファンが楽しみで作る「AIカバー曲」やパロディ動画までが規制対象になり、ファン文化が萎縮してしまうことも危惧されています。

■ 芸能事務所の新たな防衛策
現在、アーティストの声や顔のデータは、企業の存続を左右する「核心的資産」と位置づけられています。最近の韓国の芸能事務所では、契約段階からアーティストの音声や肖像をAI学習データとしてどこまで活用するかを精密に設計する「デジタルツイン契約」が標準化されつつあります。

また、引き抜き工作を行う勢力がAIで捏造した精算資料や会話録を用いて、アーティストと所属事務所の信頼関係を壊そうとする事例も発生しています。これに対抗するため、大手事務所は自社内に「AIフォレンジックチーム（デジタル鑑識チーム）」を運営し、偽造コンテンツをフィルタリングする防御態勢を強めています。

出典：http://news.ebs.co.kr/ebsnews/allView/60722164/N