深度伪造（deepfake）指用深度学习合成或替换人脸、声音与影像内容的技术。2023 年以来，开源换脸工具、语音克隆服务与视频生成模型的能力快速提升且随手可得，伪造一段"可信的视频"从需要专业团队变成几分钟的桌面操作。安全行业的监测显示，实时通话场景中的人脸替换攻击数量在近年激增（行业报告口径约增长 300%，估计值）。
公益与慈善场景天然适配这类诈骗，原因有四：情感唤起（苦难叙事抑制理性判断）、紧迫感（"灾区急需、今晚截止"）、信任转移（借名人、官方机构、亲友的脸和声音背书）、小额高频（单笔几十至几百元，受害者报案意愿低，积少成多）。对行业而言，最深的伤害不是个案损失，而是"看到求助先怀疑是假的"这种默认不信任——它直接抬高了所有真实项目的传播与筹款成本。
| 时间 | 案件/事件 | 手法与要点 |
|---|---|---|
| 2024-02 | 香港跨国公司员工深伪会议案（CNN 等报道） | 多人视频会议中"CFO 与同事"全部为 AI 换脸，仅受害者一人为真人，被骗约 2 亿港元（约 2500 万美元）；非募捐案，但确立了"眼见不再为实"的公众认知拐点 |
| 2025-08 | 泰国总理佩通坦遭 AI 拟声捐款骗局 | 诈骗者用 AI 模拟某东盟国家领导人声音，以"国家名义"诱骗其捐款，本人自述险些上当——直接说明"以慈善/国家名义 + 拟声"组合已能骗到最高层级目标 |
| 2026-02 | 最高法通报吴某涛"AI 假孙子"案 | 针对独居老人的 AI 拟声冒充孙辈诈骗，并安排人员上门收取现金以绕开转账风控；老年群体是深伪募捐类骗局的核心受害人群 |
| 持续 | 假冒名人慈善/投资代言（香港警务处防骗提示） | 合成名人短片投放社交平台与通讯群组，宣称代言慈善捐款或投资计划，诱导点击链接转账入金 |
宏观数据上，最高人民法院 2026 年 2 月通报：2021—2025 年全国法院一审新收诈骗刑事案件从 2022 年低点（约 5.2 万件）升至 2024 年 9.4 万件、2025 年 9.3 万件，增幅 81.2%，并明确点名利用 AI 换脸、深度伪造实施的智能化诈骗呈高发态势。需要说明：该统计覆盖全部诈骗类型，并非仅募捐类；慈善类深伪诈骗的单案金额通常小而分散，缺乏权威的全口径统计（多为估计）。
用名人换脸视频宣称"某基金会补贴捐款、捐一返三"或代言某慈善项目，链接指向仿冒官网或收款码。仿冒 Elon Musk、Taylor Swift 等名人的深伪带货与投资骗局近年在海外被大量报道，香港警务处防骗资讯亦将"合成名人短片 + 慈善捐款链接"列为典型手法。识别点：官方慈善捐赠从不承诺返还；任何"返利式慈善"都是诈骗。
用文生图/文生视频编造灾难现场、重症儿童画面与病历，在短视频平台与朋友圈裂变传播，配合收款码收款。特征：画面完美但无法提供可核查的项目编号、执行机构与进展回访。这是对公益传播生态破坏最大的模式——它污染的正是"看到真实求助内容"的信任基础。
以"家人出事急需手术费"为话术的拟声电话与换脸视频，本质是绑架慈善情感的资金诈骗；最高法通报案例显示团伙已进化到"上门取现"以规避银行风控。对公益行业的关联影响：公众对一切"急难求助"提高警觉，真实的大病患者筹款（互助平台项目）同样被波及。
中国已形成"三 layer"监管：《互联网信息服务深度合成管理规定》2023 年 1 月施行，确立深度合成内容显著标识与备案要求；四部门《人工智能生成合成内容标识办法》于 2025 年 3 月发布、2025 年 9 月 1 日起施行，要求对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识（用户可直接感知的文字/声音/图形标注）与隐式标识（元数据嵌入），且下载、复制、导出时标识不得被移除篡改；配套强制性国标 GB 45438-2025 同步落地。这使中国成为全球 AI 内容标识规则最明确、强制力最高的法域之一。
海外：欧盟《人工智能法》（AI Act）对深度伪造内容设定透明度义务（披露其为人工生成/操纵）；美国无联邦统一立法，由 FTC 以"禁止商业欺骗"执法、各州分散立法（如选举广告深伪禁令），平台自律为主。平台侧：TikTok、Meta、YouTube 等均已上线 AI 生成内容标签与创作者自我声明机制；国内抖音、快手等按上述办法执行标识，并对募捐类内容实行资质白名单。
C2PA 内容凭证（Content Credentials）等来源溯源标准正在被主流平台与设备厂商采纳，隐式水印与元数据核验将成为深伪检测的基础设施；公益平台可在项目视频中嵌入签名元数据，让"官方出品"可机读验证。检测工具则只能作为辅助——攻防永远不对称，制度与流程防御优先于纯技术防御。