Deepfake
Deepfake
Deepfake（ディープフェイク）とは
ひとことで
ディープラーニングなどのAI技術を使って、実在の人物の顔・声・動作などを本物そっくりに合成・改変した画像・音声・動画。なりすまし詐欺や偽情報の拡散に悪用される。
たとえると
腕の良いものまね芸人と特殊メイクを、誰でも手軽に使えるようにしたようなものです。見た目も声も本人そっくりなので、「本人が話している映像だから本物だ」という思い込みが通用しなくなります。
現場ではこう使う
経理担当者に、社長の声で「至急、取引先に送金してほしい」という電話がかかってきました。声も話し方も社長そのものでしたが、社内ルールに従って登録済みの番号に折り返して確認したところ、社長はそんな電話をしていませんでした。AIで合成された音声によるなりすましだったため、送金の指示は必ず別の経路で本人確認する手順を全社に改めて周知しました。
試験のポイント
EXAM POINT「AIで実在の人物の顔や声を合成・改変」「なりすまし」「偽情報」と出てきたらディープフェイクです。技術面ではGANや拡散モデルなどの生成技術と、リスク面では詐欺・名誉毀損・世論操作と結び付けて問われます。対策は検出技術だけでなく、別経路での本人確認や情報源を確かめる習慣など、人と手順による対策も含めて押さえましょう。
混同しやすい用語との違い
- HallucinationAIが意図せず誤った内容を出力してしまう現象。ディープフェイクは人が意図して偽物を作る
- GAN生成器と識別器を競わせて学習する生成技術。ディープフェイクを作る手段の一つで、技術の名前そのもの