DeepFakeの脅威とAIによる新たな防衛策：AIデータ社が映像鑑定基盤の検証を開始
DeepFakeがもたらす新たな脅威に、なぜ今AIが必要なのか
近年、AI技術の進化は目覚ましく、私たちの生活に多くの恩恵をもたらしています。しかし、その一方で、AIを悪用した新たな犯罪も増加しており、特に「DeepFake（ディープフェイク）」と呼ばれる技術が社会に深刻な問題を引き起こしています。
DeepFakeとは、AIを使って本物そっくりの偽の画像や動画を作り出す技術のことです。例えば、あたかも著名人が話しているかのような偽の動画や、人の顔をポルノコンテンツに合成した映像などが、SNSを通じて瞬く間に拡散される事例が後を絶ちません。これにより、個人の名誉が著しく傷つけられたり、プライバシーが侵害されたりといった深刻な被害が発生しています。
その影響は個人のみにとどまりません。金融機関では、AIが生成した偽の顔動画を使ったオンライン本人確認（eKYC）詐欺が報告されており、企業の株価操作や世論誘導を目的とした偽の「発言動画」が出回るケースもあります。かつて「映像は客観的な証拠」とされてきましたが、DeepFakeの登場により、その前提は大きく揺らぎつつあります。このような状況において、映像が本物か偽物かを客観的に判断できる技術の整備が、社会全体にとって喫緊の課題となっています。
AIデータ社がAI映像鑑定基盤の検証を開始
こうしたDeepFakeの脅威に対し、企業データとAIの利活用を専門とするAIデータ株式会社（以下、AIデータ社）は、新たな防衛策の構築に乗り出しました。
AIデータ社は、国立情報学研究所（NII）が研究開発を進めるDeepFake判定AI技術「SYNTHETIQ VISION」を活用し、AI映像鑑定基盤の検証環境を社内に構築し、その有効性や運用方法の評価を開始しました。これは、DeepFake犯罪に対抗するための重要な一歩であり、将来的な商用サービス提供を目指した「検証フェーズ」に位置づけられています。
現在、AIデータ社では、以下のような点を中心に検証を進めています。
-
犯罪・トラブル事案を想定したサンプル映像での判定傾向の確認: 実際に発生しうるDeepFakeのケースを想定し、AIがどの程度正確に判定できるかを評価します。
-
従来の確認プロセスとの比較: 人間の目視や手作業による確認とAIによる判定を比較し、AIの導入がどれだけ効率的で正確になるかを検証します。
-
法的証拠能力の評価と既存プロセスへの組み込み可能性: AIの判定結果が法的な証拠として認められるか、また企業の内部統制や監査プロセスにどのように組み込めるかを検討します。
-
関係機関との連携を見据えた運用フローの検討: 捜査機関、自治体、企業など、様々な組織と連携する際の運用手順を具体的に考えています。
これらの検証結果を踏まえ、AIデータ社は商用サービスとしての提供開始時期や提供形態を今後検討していく予定です。
フェイク映像判定AI「SYNTHETIQ VISION」とは
AIデータ社が今回の検証に活用している「SYNTHETIQ VISION」は、国立情報学研究所（NII）が長年研究開発を進めてきた、フェイク映像判定AIの最先端技術です。その技術的な特徴は、AI初心者にも分かりやすく説明すると以下のようになります。
1. 微細な生成痕跡の解析
DeepFake映像は、AIによって顔が生成・合成される際に、人間の目ではほとんど気づかないような「微細な痕跡」を残します。SYNTHETIQ VISIONは、このわずかな痕跡をAIが高度な技術で解析し、映像が本物か偽物か、その可能性をスコア（数値）として出力することを目指して設計されています。これにより、直感的な判断だけでなく、客観的な数値に基づいた評価が可能になります。
2. 人間の目では判別が難しい映像も数値化
DeepFake技術は日々進化しており、非常に精巧な偽映像は、専門家でも見破ることが困難です。SYNTHETIQ VISIONは、このような人間の目では判断が難しい映像に対しても、AIが分析を行い、真偽の可能性を数値的に評価するアプローチを採用しています。これにより、人間の主観に左右されない、より客観的で信頼性の高い判定が期待できます。
3. 映像圧縮や加工後の検出性能の維持
インターネット上で流通する映像は、SNSへのアップロードや共有の過程で、圧縮されたり、再エンコードされたり、あるいは意図的に加工されたりすることがよくあります。通常のAIでは、こうした加工が施された映像の真偽判定は難しくなります。しかし、SYNTHETIQ VISIONは、このような映像に対しても検出性能を維持することを目指したモデル構成となっており、より実用的な環境での利用が期待されます。
4. 判定結果とログの保存機能
このAI鑑定基盤は、単に判定結果を出すだけでなく、その結果や関連する分析ログを保存できるアーキテクチャを備えています。これにより、後から判定結果を再検証したり、監査プロセスで参照したりすることが可能になります。特に、法的な証拠として利用する場合や、企業のコンプライアンス遵守の観点からは、この機能は非常に重要です。
AIデータ社は、これらのNIIの研究成果を活かしつつ、「人の目だけに依存しない映像鑑定」がどの程度実現できるのか、既存の目視チェックや不正検知システムとどのように組み合わせるべきか、そして証拠性や説明責任を踏まえた判定ログの管理・保存ルールをどう設計すべきかといった観点から、「実務で使えるAI映像鑑定基盤」となる可能性を深く検証しています。
想定される活用領域と社会的インパクト
このAI映像鑑定基盤は、今後の検証結果や関係機関との協議を前提に、社会の様々な分野でDeepFakeによる被害を食い止めるための強力なツールとなることが期待されています。具体的には、以下のような活用領域が想定されています。
1. 捜査機関／教育委員会
児童・生徒の顔が不正に合成された誹謗中傷動画やポルノコンテンツなど、未成年を巻き込むDeepFake犯罪は特に深刻です。このAI鑑定基盤は、以下のような形で貢献できるでしょう。
-
DeepFakeの疑いがあるかどうかの一次スクリーニング支援: 膨大な量の映像の中から、DeepFakeの可能性が高いものを効率的に特定し、捜査の優先順位付けを支援します。
-
被害申告時の証拠映像整理・記録支援: 被害者が提出した映像がDeepFakeである可能性が高い場合、その技術的な根拠を明確にし、証拠の整理と記録を支援します。
2. 自治体・行政機関
偽の情報が拡散されることで、社会の混乱を招く恐れがあるなりすまし発言動画や誤情報に対して、自治体や行政機関は迅速な対応が求められます。
-
相談窓口に寄せられた映像の真偽判定の補助: 市民からのDeepFakeに関する相談に対し、AIが技術的な根拠を提供し、真偽判定を補助します。
-
プラットフォーム事業者への削除要請や照会の際の技術的根拠資料の整備: 偽情報が拡散された場合、SNSなどのプラットフォーム事業者に対して削除を要請する際に、AIによる判定結果を技術的根拠として提示できます。
3. 金融機関／eKYC事業者
オンラインでの本人確認（eKYC）が普及する中で、DeepFakeを使った「なりすまし」は金融犯罪の新たな手口となっています。このAI鑑定基盤は、不正を未然に防ぐために役立ちます。
-
「なりすまし」「合成顔」の疑いがある映像の機械的な抽出: eKYCプロセスで提出された顔動画の中から、DeepFakeの可能性が高いものをAIが自動的に検出し、リスクのある申請を抽出します。
-
高リスク取引や追加本人確認フローに回すためのスコアリング: DeepFakeの疑いがある映像に対してリスクスコアを付与し、高リスクと判断された場合には、追加の本人確認や有人での審査に回すといった運用が可能になります。
4. メディア企業／SNS運営事業者
メディアやSNSは、情報発信の重要なプラットフォームであるため、偽情報の拡散防止に大きな責任を負っています。このAI鑑定基盤は、その責任を果たす上で有効な手段となります。
-
配信前チェックや通報受付時の二次審査にAIスコアを活用: 投稿動画や広告素材の配信前にDeepFakeのチェックを行ったり、ユーザーからの通報があった際にAIによる二次審査で真偽を判定したりする際に、AIスコアを活用します。
-
自社ブランド毀損や偽情報拡散リスクの見える化: DeepFakeの疑いがあるコンテンツを早期に発見し、自社ブランドの毀損や偽情報拡散のリスクを「見える化」することで、迅速な対応を可能にします。
これらはあくまで「想定される利用シナリオ」であり、具体的な導入や運用形態は、各分野の専門家や関係機関との議論、そして実証実験を経て慎重に決定されていく予定です。
今後の展開：社会インフラとしてのAI映像鑑定基盤を目指して
AIデータ社は、長年にわたりデータ復旧やデジタルフォレンジック分野で培ってきた豊富な経験とノウハウを活かし、本AI映像鑑定基盤の検証と高度化を以下のステップで進めていく計画です。
-
実務に近いケースを想定したテストデータによる評価と課題抽出: 実際のDeepFake犯罪の事例や傾向を分析し、それに即したテストデータを用いてAIの性能を評価し、さらなる改善点を見つけ出します。
-
捜査機関、教育現場、金融機関、自治体などとの共同検証・実証実験の検討: 各分野の専門家や実務担当者と協力し、より実践的な環境での検証や実証実験を通じて、システムの有効性を確認し、運用ノウハウを蓄積します。
-
法的証拠性やガイドラインとの整合性を踏まえた運用ルールの整備: AIの判定結果が法的に有効な証拠として認められるよう、関連法規やガイドラインとの整合性を考慮した運用ルールを策定します。
-
既存のデータ復旧・調査サービスとの連携方法の検討: AIデータ社が提供する既存のデータ復旧やデジタルフォレンジックサービスと連携させることで、より包括的なソリューションを提供することを目指します。
AIデータ社は、DeepFake技術の悪用による被害を少しでも抑止できるよう、現実的かつ検証に裏打ちされた形でAI映像鑑定基盤の実用化を目指しています。そして、中長期的には、「映像の真偽を技術的に検証できる仕組み」が社会インフラの一部として位置づけられる未来を見据え、関係機関や研究機関との連携をさらに強化していく方針です。
AIデータ株式会社について
AIデータ株式会社は、2015年4月に設立され、東京都港区に本社を置く企業です。代表取締役社長は佐々木隆仁氏が務めています。同社は、データインフラと知財インフラを基盤に、20年以上にわたり企業や個人のデータ資産を守り、活用する事業を展開してきました。
1万社以上の企業、100万人以上のお客様から信頼を得ており、データ共有、バックアップ、復旧、移行、消去を包括する「データエコシステム事業」では、BCNアワードで16年連続販売本数1位を獲得するなど、その実績は高く評価されています。
データインフラ分野では、IDXのクラウドデータ管理や復旧サービスを提供するとともに、経済産業大臣賞を受賞したフォレンジック調査や証拠開示サービスを通じて、法務分野でも高い評価を得ています。一方、知財インフラ分野では、グループ会社の特許検索・出願支援システム『Tokkyo.Ai』や特許売買を可能にするIPマーケットプレイスの構築により、知財管理と収益化を支援しています。
これらの事業を統合し、生成AI『AI孔明™』によるデータと知財の融合プラットフォームを展開。さらに、防衛省との連携による若手エンジニア育成にも注力しており、データ管理と知財保護を通じて社会基盤の強化に貢献しています。
- AIデータ株式会社 公式サイト: https://www.aidata.co.jp/
まとめ
DeepFake技術の悪用は、現代社会が直面する大きな課題の一つであり、その脅威は日々増大しています。AIデータ社が国立情報学研究所（NII）発の先進的なAI技術「SYNTHETIQ VISION」を活用し、AI映像鑑定基盤の検証を開始したことは、この問題への強力な対抗策となり得ます。
この取り組みは、単に技術的な解決に留まらず、捜査機関、自治体、金融機関、メディアといった社会の様々なセクターにおけるDeepFake被害の抑止、そして「映像の真偽を技術的に検証できる仕組み」が社会インフラとして確立される未来へと繋がるものです。AIデータ社の今後の検証と、それによってもたらされる社会的なインパクトに、大いに期待が寄せられます。
