天文学の技術を応用したディープフェイク検出手法の発明

この手法は、天文物理学教授ピンブレッド博士の指導の下、研究チームのリーダーであるオウォラビ氏によって開発された。その原理は、簡潔かつ効果的だ。同じ光源で照らされた人間の目は、通常、左右の眼球で類似した光の反射パターンを示す。研究チームはこの原理を利用し、銀河の光分布測定に用いられる「ジニ係数」を目の反射分析に応用した。

ジニ係数は、光の分散状況を示す指標で、眼球のピクセル全体における反射の均一性を評価できる。係数が0に近いほど光が均一に散らばっていることを示し、1に近づくほど一点に集中していることを意味する。

ピンブレッド博士は、「我々は眼球での光の反射形状の測定法と、望遠鏡で撮影された銀河の形状測定に用いられる天文学的手法を比較しました」と説明している。従来のディープフェイク検出方法に比べてより効果的である可能性を秘めている。

AIによるディープフェイク技術の進歩は目覚ましく、静止画だけでなく動画においても偽造を人間の目だけで判別するのは困難なレベルに達している。この状況は、悪意ある偽情報の拡散や悪用を招き、社会的なリスクを高めている。

日本でも偽情報対策が喫緊の課題となっており、富士通は内閣府や経済産業省が推進するプログラムの一環として、偽情報対策の研究開発に着手することを発表した。

富士通が開発を目指すシステムは、SNS投稿などの情報の真偽判定において、AIによる生成の有無を判定するだけでなく、「エンドースメントグラフ」を用いてさまざまな根拠の関係性を分析する。さらに、大規模言語モデル（LLM）を活用することで、情報に紐づく根拠の整合性や矛盾を分析し、真偽判定の精度を高めることを目指す。

ディープフェイク技術の進化は著しく、それに伴う検出技術の開発競争も激化している。社会の安全と信頼性を守るため、今後もこの分野の研究開発は加速していくと予想される。偽情報対策は国際的な動向もにらみながら、技術面だけでなく法整備や倫理的な議論も踏まえた包括的な取り組みが求められるだろう。

【関連リンク】

・フェイクニュースを検出して社会的影響度を評価するシステム、富士通が研究開発に着手(IT Leaders)
https://it.impress.co.jp/articles/-/26610

・天文学者が銀河測定ツールを使ってAIが作成したディープフェイクを見分ける手法を発明(Gigazine)
https://gigazine.net/news/20240723-astronomers-spot-ai-fakes-galaxy-measurement-tools/