Google DeepMindとシンガポール政府（GovTech）は、市民を詐欺から保護するための新たなオンデバイスAI検出モデルを発表しました。

シンガポールでは詐欺被害が深刻化しており、特に近年は巧妙なソーシャルエンジニアリングによる被害が増加しています。

この新モデルは、Google DeepMindの軽量Gemmaモデルをローカルの詐欺会話データでファインチューニングし、シンガポールの一般的なスマートフォンで動作するように最適化されています。

従来のクラウドベースのスキャンとは異なり、このモデルはデバイス上で会話データを処理するため、エンドツーエンドで暗号化されたメッセージングプラットフォームでもプライバシーを侵害することなく詐欺を検出できます。

検知された場合、ユーザーに警告が表示され、慎重な対応を促します。

この開発は、GovTechのSovereign Sandbox環境で行われ、市民の個人情報は一切使用せず、匿名化されたデータのみを使用しました。

この取り組みは、AIが公共の利益のために、プライバシーを犠牲にすることなく、メッセージングプラットフォームの安全性を高める可能性を示しています。