Google Gemma 端侧 AI 反诈骗技术详解：本地模型、两阶段分类、微调与 Android 部署思路

一、Google DeepMind 把 AI 反诈骗模型放进手机

当我们讨论大语言模型时，通常会想到云端计算。

用户通过聊天应用发送问题，服务器调用大型模型，然后将结果返回手机。

这种架构可以使用大量 GPU 计算资源，但并不是所有 AI 任务都适合云端处理。

尤其是涉及私人聊天、金融信息和个人通信的安全检测。

如果系统为了识别诈骗消息，要求用户把全部私人对话上传到云端，就可能带来新的隐私问题。

2026 年 10 月 14 日，Google DeepMind 与新加坡政府科技局 GovTech Singapore 公布了一项合作成果。

双方利用经过微调的轻量级 Gemma 模型，开发了一套可以在手机本地执行的 AI 反诈骗检测方案。

该技术的目标是：

在不需要将私人对话发送给云端模型的情况下，识别聊天中潜在的诈骗与社会工程学操纵行为。

与普通垃圾短信拦截不同，这套方案不仅关注某句话是否包含危险词语，还希望分析连续对话中逐渐出现的欺骗行为。

更值得开发者关注的是，Google 采用了两阶段检测架构。

先使用轻量分类器筛选消息。

只有值得进一步检查的内容，才交由微调后的 Gemma 模型分析。

这种设计有助于平衡检测能力、设备功耗和用户隐私。

二、为什么传统诈骗检测越来越困难？

早期的诈骗消息往往包含比较明显的关键词。

例如虚假中奖通知、可疑网页链接，或者要求立即输入银行卡资料的短信。

传统系统可以通过关键词、黑名单和规则引擎识别部分风险。

但如今诈骗方式已经变得更加复杂。

有些诈骗者不会在第一条消息中提出转账要求。

他们可能先假冒熟人、客服、招聘人员或机构工作人员，与用户建立联系。

然后在多轮对话中逐渐制造紧迫感、建立信任，最后诱导转账或提供敏感信息。

这类社会工程学攻击具有两个特点。

第一，单条消息可能看起来完全正常。

第二，真正的风险来自多轮对话形成的上下文。

例如，一个陌生联系人开始时只是讨论求职机会。

但在后续对话中，逐渐要求用户支付所谓的保证金。

如果系统只检查其中某一条消息，很可能无法理解完整风险。

这也是 Google 选择上下文分析的重要原因。

三、Google 为什么选择新加坡开展合作？

新加坡长期面临复杂网络诈骗问题。

Google DeepMind 在公告中引用当地统计，指出诈骗占新加坡已报告犯罪案件的一半以上。

自 2019 年以来，相关经济损失累计超过 40 亿新加坡元。

同时，Google 提到，越来越多损失来自复杂的社会工程学欺骗。

不同国家和地区还存在不同的诈骗语言与方式。

例如：

某些诈骗可能假冒当地政府部门。

某些诈骗可能使用本地银行名称。

还有一些诈骗会利用本地语言、职业信息和社会习惯。

因此，仅使用通用英文数据训练出来的模型，不一定能准确识别各种地区性的欺骗方式。

Google DeepMind 与 GovTech 的合作重点之一，就是让 Gemma 学习特定地区的诈骗语言与行为模式。

但需要明确，这里的模型微调使用经过处理的数据，不是直接收集普通用户手机中的全部私人聊天作为训练数据。

四、两阶段 AI 反诈骗架构是什么？

这是整个方案最有技术价值的部分。

可以把它分成两个步骤。

第一阶段：轻量级快速筛查

系统首先使用一个计算成本较低的分类器检查新收到的消息。

其目标不是完成复杂推理，而是快速判断：

当前内容是否值得进行更深入的安全分析？

如果消息没有明显风险，可以减少后续模型调用。

如果检测到可疑迹象，则进入第二阶段。

第二阶段：Gemma 多轮上下文分析

第二阶段使用经过微调的 Gemma 模型。

与第一阶段只看简单特征不同，Gemma 可以分析更大范围的对话上下文。

例如：

用户是否与陌生联系人建立了异常的金钱关系？

对方是否持续使用紧迫感诱导操作？

是否存在冒充权威机构、索取敏感信息或其他操纵行为？

最后，系统输出相应的风险判断。

当检测到可能存在欺骗行为时，可以在设备上提示用户暂停，并进一步核查对方身份。

整个过程可以概括为：

收到消息 → 轻量分类器 → 正常内容直接通过 / 可疑内容进入 Gemma → 上下文分析 → 风险提醒。

五、为什么不用 Gemma 检查每一条消息？

从纯粹模型能力来看，直接让 Gemma 分析所有消息似乎更简单。

但在手机端，这并不一定是最合理的设计。

原因是端侧设备存在明显的资源限制。

1. 电池续航

手机需要同时运行通信、显示、网络和其他应用。

如果后台持续使用相对复杂的模型推理，就可能增加耗电。

2. CPU、GPU 与 NPU 资源

即使是轻量大模型，也需要一定的内存和计算资源。

如果每条普通消息都触发完整推理，会增加系统负担。

3. 响应速度

用户需要的是及时提醒，而不是发送一条消息之后等待很长时间。

4. 设备兼容性

不同手机的芯片、内存和 AI 加速能力存在差异。

因此，两阶段架构可以让简单检测负责大部分低风险消息，再将计算资源集中到真正需要深入理解的内容上。

这是一种非常典型的工程优化思路：

用便宜的判断过滤大量常规请求，把复杂推理留给更有价值的任务。

它不仅适用于反诈骗，也适用于垃圾邮件筛查、内容审核和本地安全助手。

六、Gemma 微调为什么重要？

Google 官方明确说明，这个项目使用经过本地化微调的轻量级 Gemma 模型。

这里的关键不只是模型大小。

更重要的是训练数据是否贴近真实业务。

例如：

一个通用模型知道什么是网络诈骗。

但它不一定熟悉某个地区最新出现的冒充机构名称、沟通方式和欺骗话术。

通过经过治理的数据进行微调，可以让模型更好地学习对应任务。

不过，需要区分微调与简单提示词。

提示词主要告诉模型应该如何执行任务。

而微调则通过训练过程调整模型行为。

如果开发者准备构建自己的反诈骗检测器，应该优先准备：

明确标注的诈骗与正常对话样本、不同语言的测试数据、时间变化样本，以及能反映真实误报风险的评估集。

不能只收集诈骗案例，而不提供足够的正常对话数据。

否则，模型可能将普通聊天误判为危险内容。

七、Google 如何保护训练数据和用户隐私？

Google DeepMind 公告列出了几项重要措施。

1. Sovereign Sandbox

模型微调在新加坡 GovTech 管理维护的 Google Cloud 环境内进行。

这种隔离环境用于控制训练数据访问范围。

2. 不使用公民私人数据进行训练

官方说明，训练数据排除了私人或可识别个人身份的信息。

主要使用来源于诈骗报告和威胁情报的匿名化数据。

3. 模拟与本地数据测试

系统使用合成对话和本地数据集进行测试，以覆盖不同类型的诈骗情景。

4. 本地推理

最终面向用户部署时，相关聊天分析在设备上完成。

按照 Google 的方案设计，政府和 Google 不会因为这项模型部署而直接获取用户的私人聊天内容。

但有一个重要前提：

应用必须在用户同意且符合其使用条款的情况下，才能访问相应的设备内对话。

这项保护并不意味着第三方应用可以绕过手机系统权限读取任何消息。

八、端侧推理为什么适合隐私敏感应用？

云端推理与端侧推理各有优缺点。

不能简单认为端侧一定全面优于云端。

例如，复杂模型可能需要更多内存，旧设备也可能无法获得理想性能。

但对于持续读取敏感内容的安全辅助功能，端侧推理具有明显的隐私优势。

九、开发者如何尝试本地 Gemma？

Google 已经提供面向移动设备的 Gemma 开发工具和文档。

不过，需要先区分两件事情：

普通公开 Gemma 模型可以用于开发者实验。

新加坡合作项目中的具体反诈骗微调权重，并没有在本次公告中宣布向所有开发者公开下载。

因此，目前不能把这项政府合作成果直接包装成一个可以自由下载的官方反诈骗模型。

开发者可以通过公开 Gemma 和移动推理框架，尝试搭建相似架构。

第一步：选择端侧模型

根据目标手机的内存、CPU、GPU 和 NPU 能力，选择适合的 Gemma 权重。

第二步：准备模型运行格式

根据所选框架的要求，准备兼容的模型文件。

例如用于 LiteRT 或 MediaPipe LLM Inference 的格式。

第三步：验证手机推理

可以先使用 Google AI Edge Gallery 测试支持的 Gemma 模型。

主要验证：

模型能否成功加载、推理速度、内存占用和输出质量。

第四步：准备自己的检测数据

使用具有合法使用权的数据，建立诈骗与正常消息的评估集。

第五步：训练和量化

针对业务类型进行微调，并按目标设备要求转换、量化模型。

第六步：接入应用

通过 Android 或 iOS 端侧推理接口，在用户授权后处理应用能够合法访问的消息。

以上属于基于官方开放工具设计的开发路线，并不是新加坡反诈骗项目完整实现的公开源码教程。

十、一个两阶段筛查的 Python 教学示例

为了更直观理解架构，可以先用简单规则模拟第一阶段。

以下代码仅演示“筛选后再交给模型”的流程。

RISK_SIGNALS = (
    "立即转账",
    "提供验证码",
    "缴纳保证金",
    "发送银行卡密码",
)

def fast_screen(message: str) -> bool:
    return any(
        signal in message
        for signal in RISK_SIGNALS
    )

def screen_message(message: str):
    if fast_screen(message):
        return {
            "stage": 2,
            "status": "needs_context_analysis"
        }

    return {
        "stage": 1,
        "status": "not_flagged_by_demo_rules"
    }

print(
    screen_message(
        "请先缴纳保证金才能入职"
    )
)

输出表明这条测试消息需要进一步分析。

但这里有两个重要限制。

第一，简单关键词规则非常容易漏报。

第二，没有命中关键词，绝不代表消息安全。

真正的 Stage 1 应经过训练和验证，并且需要根据业务目标优化漏报率、误报率和计算成本。

第二阶段则应使用具备相应检测能力的本地模型，而不是简单重复关键词判断。

十一、第二阶段 Gemma 应该怎样分析上下文？

假设用户收到以下几条消息：

第一条：

“你好，我是招聘负责人。”

第二条：

“你的申请已经通过了。”

第三条：

“正式入职前，需要先支付一笔保证金。”

如果只分析第一句话，可能无法判断风险。

但结合上下文，模型可以发现对方从建立联系转向索取金钱。

因此，第二阶段模型不应只接收单条可疑消息。

它需要在用户授权范围内，获取与判断有关的有限对话历史。

例如：

任务：判断下列对话是否存在潜在诈骗迹象。

分析要求：
1. 识别可疑请求
2. 判断是否存在施压或冒充
3. 给出简短风险解释
4. 避免声称已经证实犯罪
5. 不建议用户直接转账

输入：
经过隐私处理的相关对话片段

在生产系统中，还需要采用结构化输出，并限制模型能够访问的数据范围。

如果只是生成一段主观描述，却无法稳定返回风险等级和证据位置，就不适合直接作为自动化安全拦截依据。

十二、如何评估端侧反诈骗模型？

建议重点关注四个指标。

1. Recall：召回率

实际诈骗样本中，有多少被识别出来？

2. Precision：精确率

模型判定为诈骗的样本中，有多少确实存在相应风险？

3. False Positive Rate：误报率

正常聊天被错误标记为诈骗的比例。

4. Latency：推理延迟

从收到消息到完成风险判断需要多久？

除此之外，还应该测试：

不同语言、不同手机、不同网络条件、长对话，以及大量连续消息场景。

模型评测时，需要把手机端功耗和内存占用一起纳入考虑。

Google 本次公告没有公布足以形成完整准确率排名的统一检测基准数字，因此不宜编造某个“99% 反诈骗准确率”。

十三、这项技术能防止所有诈骗吗？

不能。

诈骗方式会持续变化。

模型可能无法理解某些新话术，也可能因为上下文不足而出现误判。

另外，有些诈骗并不依赖聊天内容，而是通过虚假网站、恶意软件或其他渠道实施。

因此，端侧 AI 应当被视为辅助风险提示工具。

当系统发出告警时，用户仍然应该通过官方渠道核实对方身份。

尤其涉及转账、支付验证码和账户密码时，不应仅依赖 AI 的单次判断。

十四、这项技术对 AI Agent 开发有什么启示？

最值得借鉴的是它的任务分层方法。

在很多 AI Agent 系统中，并不需要每一步都调用最大的模型。

例如：

先由低成本模块判断任务类型。

只有在需要复杂分析时，才升级到能力更强的模型。

同时，如果任务涉及敏感数据，应优先考虑是否能够在用户设备或可信环境内完成处理。

这种思路可以推广到：

邮件安全检查、企业内部文本分类、移动端智能助手、本地文档分析和隐私敏感的 AI 应用。

其核心不是尽可能多地调用大模型。

而是让模型在真正需要它的地方发挥作用。

十五、常见问题

Google 的反诈骗 Gemma 模型可以下载吗？

本次官方公告并未宣布向所有开发者开放对应项目的专用微调权重。

这是一个已经面向所有新加坡用户开放的 App 吗？

不是。Google 表示将在合作应用中分阶段部署，当前不能把研究合作成果当作已经全面上线的消费级产品。

会自动读取手机所有聊天吗？

不会因为安装 Gemma 就自动获得这项权限。实际应用必须遵守系统访问限制，并取得相应用户同意。

端侧模型必须联网吗？

如果模型和必要资源都部署在本地，部分推理任务可以离线完成。但模型下载、更新或其他服务功能可能仍需要网络。

可以直接用云端 Gemini API 代替吗？

技术上可以设计云端检测服务，但隐私边界与数据传输方式将发生变化，不能再宣称所有聊天内容都留在设备本地。

十六、总结

Google DeepMind 与新加坡 GovTech 的合作，展示了一种值得关注的 AI 安全应用方向。

过去，很多安全检测依赖将数据上传云端分析。

现在，随着轻量模型和端侧推理技术发展，一部分复杂的上下文判断可以在用户自己的设备上完成。

这项方案真正值得开发者研究的有三个方面：

两阶段检测降低计算负担，本地化微调提高对特定风险的适应性，端侧推理减少私人数据外传。

不过，它目前仍处于分阶段应用部署阶段，不能将其宣传为已经解决全部网络诈骗问题。

对于希望开发 Android AI、安全助手和隐私保护产品的团队，这是一套具有实际参考价值的工程架构。

官方参考资料

Google DeepMind 2026 年 10 月 14 日公告： https://deepmind.google/blog/on-device-ai-scam-detection-mddi/

Google Gemma 移动端部署文档： https://ai.google.dev/gemma/docs/integrations/mobile

Google Gemma 模型部署说明： https://ai.google.dev/gemma/docs/run

Google AI Edge 文档： https://ai.google.dev/edge