1．妥当である

生成AIの進歩により、テキスト・画像・音声・動画を高品質に生成することが可能になり、リアルで信憑性の高い偽・誤情報を作成できるようになりました。ディープフェイク技術を使えば、実在する人物が実際には言っていないことを本当に話しているかのような動画を簡単に作成できます。日本でも、生成AIを利用して作られた岸田総理大臣の偽動画がSNS上で拡散した事例が発生しており、社会問題となっています。

2．妥当である

ディープフェイクの被害は著名人や公人にとどまりません。2024年1月に発生した能登半島地震の際にも、東日本大震災の津波映像や熱海市の土石流映像をあたかも能登半島地震のものであるかのようにSNSに投稿する事例が起きました。救助要請や個人募金を呼びかける偽情報も拡散され、一般市民にも被害が及ぶことが明らかになっています。

3．妥当でない

ディープフェイクは「偽の写真・動画・音声データなどを生成する技術」であり、個人の能力や嗜好をAIで推測する技術ではありません。個人の嗜好や行動パターンをデータから推測する技術は「プロファイリング」と呼ばれます。似たようなAI関連用語の混同を狙ったひっかけですので、それぞれの定義をしっかり区別して覚えておきましょう。

4．妥当である

生成AIは情報操作だけでなく、犯罪にも悪用されるケースが増えています。ChatGPTと同様のAI技術を悪用した「BadGPT（悪いGPT）」や「FraudGPT（詐欺GPT）」と呼ばれる不正チャットボットが登場し、フィッシング詐欺メールが大量に生成・送信される事態が起きています。

5．妥当である

ディープフェイクは写真や動画だけでなく、音声データとしても作成されます。実在する人物の声を模倣した偽音声の生成も技術的に容易になっており、電話での詐欺や音声メッセージを使った情報操作など、被害の範囲はさらに広がっています。