JJ Geewax 和 Miguel de Andrés

与新加坡政府科技局（GovTech Singapore）合作，在不牺牲隐私的前提下保护用户。

诈骗，如投资欺诈、虚假招聘和冒充公职人员，占新加坡已报告犯罪的一半以上，自2019年以来造成的损失超过40亿新元。与此同时，诈骗手法已从简单的网络钓鱼转向复杂的社会工程学，攻击者通过令人信服的对话操纵受害者，然后索要钱财。此类诈骗目前占所有损失的80%。

为解决这一问题，Google DeepMind 与新加坡政府科技局（GovTech Singapore）作为我们与新加坡政府国家人工智能合作伙伴关系的一部分，一直在携手合作。我们共同微调了一个保护隐私的设备端诈骗检测模型。

设备端 AI 保护，不牺牲隐私

通用模型往往难以应对本地化的欺骗手法，使诈骗检测更加困难。为解决这一问题，Google 的轻量级 Gemma 模型在本地诈骗对话上进行了微调。这些对话涵盖冒充公共机构、银行和本地人物，以及流行的区域性骗局。这确保微调后的模型在部署到公民安装的应用程序中时，能够区分正常的社交闲聊和真正的操纵行为。

与依赖云端服务器端扫描消息的传统威胁检测不同，该模型可以直接在设备端处理对话数据。当集成到应用程序中时，这将允许更快地分析对话模式以检测操纵意图，帮助公民在发生财务或凭证泄露之前采取行动。

该模型在应用程序中的推出将谨慎分阶段进行，并与新加坡政府合作开发。部署后，该模型只能在用户同意的情况下访问设备端对话，并遵守该应用程序的使用条款。由于模型完全在设备端运行，新加坡政府和 Google 都无法通过其部署访问用户的对话。

打击诈骗不应意味着牺牲个人隐私。与 Google DeepMind 合作，我们将先进的 AI 保护直接带到公民的设备上。这使我们能够实时捕捉高度针对性的本地诈骗企图，同时保持个人通信的私密性。Mark Chen，新加坡政府科技局信任与安全总监

深入底层：本地上下文与边缘效率

当模型检测到操纵性对话模式时，它会直接在用户设备上触发实时警告，建议他们在分享敏感信息或资金之前暂停并保持谨慎。

在现代智能手机上运行复杂的诈骗分类器模型并非易事，电池效率是一个关键关注领域。为此，我们依赖一个两阶段流水线：

这项合作在新加坡国际网络周（SICW 2026）上展示，为消息平台在用户保护与端到端加密之间取得平衡提供了一个范例。整个开发过程始终保持严格治理：

该项目展示了 AI 如何在不妨碍安全或隐私的情况下帮助打击犯罪。它还表明政府和模型提供商可以携手合作，打造服务于公共利益的科技。借助这一轻量级端侧模型，我们证明了本地实时诈骗检测的能力，同时确保聊天交互保持安全。我们期待很快分享更多关于与新加坡政府合作的信息，并探索类似技术在其他国家部署的可能性。

转载声明：本文为转载整理，原文版权归原作者及原站点所有。