由于生成式人工智能的普及，冒充名人的投资欺诈广告在 SNS 上迅速蔓延。 2026年5月19日，自民党深度造假对策联合项目组（PT，由众议院议员平正明担任主席）编制了《针对深度造假欺诈广告的对策建议》，并于5月28日提交给消费者事务大臣黄河田仁，并于5月29日提交给总务大臣松本恒和总务大臣林吉正。
作为背景，根据警察厅的临时数据，2025年确认的SNS投资诈骗案件将达到9,538起，损失金额将达到1,274.7亿日元，比上一年增加约50%。该提案提到了台湾的《欺诈和犯罪危害预防条例》，并呼吁考虑立法，包括澄清受监管的广告并将其定为刑事犯罪、要求广告商验证其身份（KYA）、下架广告以及实施处罚。
此外，作为不等立法的措施，我们要求通过公私合作建立专门的报告网站，制定操作指南，并在政府内部建立跨部委和机构的综合协调职能。
从： 
“我们不会放过反应迟钝的企业”：深度假货对策PT提供建议
【编辑部评论】
当我读到这个提案时，首先让我印象深刻的是自民党“我不能再让它自我调节了，”他沮丧地说。，那种温度感。该提案于2024年5月提交过一次。当时的重点是对平台运营商的要求。这一次，我们一开始就声明，我们不会重复同样的道路。
为什么是第二次？我认为这是这个新闻的关键。虽然伤害因之前的要求而减少过一次，但效果逐渐消失，又开始增加。。换句话说，“只要有礼貌地询问，就会解决”的前提已经崩溃了。生成式人工智能的传播极大地降低了制作虚假视频的成本，从而导致了虚假视频的崩溃。
提案中提到的损害是严重的。根据警察厅的暂定数字，2025年SNS类投资诈骗案件数量将达到9,538起，损失金额将达到1,274.7亿日元，比上一年增加约50%。请注意，该数字仅限于“SNS型投资诈骗”。在包括恋爱诈骗在内的上层“SNS型投资/恋爱诈骗”中，2020年的临时数字甚至更高，为15,142起案件和1,827亿日元。在其他媒体上看到的数字的差异是由于这种分类的差异造成的。
该提案基于台湾的《防止欺诈和犯罪危害条例》。当我研究这个法律时，这是一个非常激进的设计。广告主身份验证（KYA）、客户/投资人及AI生成信息披露、24小时内删除，最高新台币1亿元罚款。违规平台甚至可能被切断连接。
特别有效的是损害赔偿连带责任这就是它的工作原理。忽视删除信息义务的经营者将与诈骗者一起向受害人支付赔偿。根据建议，KYA 强制令生效后，欺诈广告举报从每周约 6,000 起减少到几十到几百起。台湾的案例表明，“如果经营者认真对待，是可以减少的。”这是。
那么，为什么企业经营者没有认真对待这一问题呢？路透社的调查报道，包括脚注中的建议，生动地揭示了答案。据报道，Meta 内部预计 2024 年收入的 10% 左右，即估计 160 亿美元，来自欺诈和违禁广告。
当你分解这些数字时，这就是它们的含义。欺诈性广告对于企业来说既是一个“问题”，又是一个“收入来源”。。只要这种二元性存在，自愿反应就会受到结构性的抑制，这在结构上是不可避免的。这就是该提案指出“仅靠自愿努力的局限性”的原因。
另一方面，也有一些问题值得我们冷静地看待。 Meta 对 160 亿美元的估计提出异议，称其“过于宽泛”。在谈论监管时，仅以某一方面的数字作为正义是不公平的。。准确地说，实际情况还在调查核实中。
我觉得这个提案对日本社会的影响范围比预想的要广泛。表面上，我们谈论的是深度伪造的欺诈性广告。本质是言论自由与消费者保护之间的冲突：“平台应该在多大程度上承担责任？”是。该提案本身反复指出，“该系统的设计应适当考虑言论自由。”
从技术角度来看，有趣的是人工智能也被纳入了对策中。根据该提案，台湾举报网站“Fraud Buster”使用自动人工智能巡逻收集广告，并自动化检测欺诈的过程。在某些情况下，从报告到通知删除的时间在一小时之内。一项利用人工智能解决人工智能产生的问题的计划是。
从长远来看，我赞赏该提案承认其自身的局限性。只有大约 40% 的损害是通过广告造成的，其余的则来自广告以外的渠道，例如私信和帖子。一旦广告被关闭，策略就会转向UGC和假EC。这就是为什么有必要在各部委和机构之间建立一个永久性的“指挥塔”以跟上变化。这一想法不会因一次性立法而结束是。
我之所以在这个时候报道这件事，是因为这不是一个“遥远的政治故事”。冒充名人、个人被骗、靠广告赚钱的平台。所有的角色都是我们日常生活的延伸。。社会将如何应对未来技术带来的挑战？我认为我们现在正处于十字路口。
【术语解释】
深假
虚假视频和音频使用生成式人工智能来合成真人的面孔和声音，使其看起来像真实的东西。冒充名人的招商视频等滥用欺诈行为已成为一个问题。
SNS型投资诈欺
这是一种通过SNS等非面对面交流的反复互动，诱骗您信任他人，然后以投资基金或提款费等名义骗取金钱的骗局。在许多情况下，冒充名人的虚假广告可以作为切入点。
SNS型投资/恋爱诈骗
根据警察厅的统计分类，除了SNS型投资诈骗外，还有一个更大的类别，就是通过假装恋爱的方式骗取他人钱财的恋爱诈骗。这些数字比单纯的投资欺诈还要多。
KYA（Know Your Advertiser）义务
平台运营者有义务在投放广告前验证广告商的身份。台湾的法令提前出台，其理念被比喻为“KYC”，用于验证金融机构的身份。
损害赔偿连带责任
平台经营者未履行删除等义务的，与诈骗者共同对受害人承担赔偿责任的制度。目的是让企业经营者很难让系统无人值守。
安全港
“安全港”条款允许企业如果善意地遵循规定的程序就可以逃避法律责任。台湾的法规旨在免除对删除做出快速反应的企业的责任。
UGC（用户生成内容）
一般用户发布的文字、图像、视频等内容的总称。有人指出，随着广告监管越来越严格，欺诈手段往往从广告转向UGC。
系统之间的差距
指由于多个部委、机构根据不同的假设而制定的法律法规，导致新技术没有得到充分的涵盖，而导致对策也没有得到解决的情况。
我的号码卡
写有日本个人号码（My Number）的官方身份证。该提案建议使用这种公共身份验证系统来验证国内广告商的身份。
[参考链接]
警察厅（外部）
公布已确认的 SNS 投资欺诈案件数量和造成损失金额统计数据的国家组织。这是提案中引用的损失数据的来源。
金融服务局（外部）
政府金融管理机构，设置受理 SNS 投资欺诈信息的窗口。提案中将其列为现有报告点之一。
消费者事务局（外部）
通过消费者事务中心等负责消费者保护的政府机构。提案中将其列为现有咨询和举报柜台的合作伙伴。
数字代理（外部）
监督日本数字政策的政府机构。它是个人编号卡的负责人，也是提出此请求的人（数字部长松本恒）。
总务省（外部）
具有通信管理管辖权的政府机构。他参与平台监管，也是我们提出此要求的人（总务大臣林吉正）。
元（外部）
一家运营 Facebook、Instagram 和 WhatsApp 的美国公司。他是一份有关欺诈性广告收入的调查报告中点名的当事人。
停止诈骗广告（数字民主 2030）（外部）
由私人志愿者组织运营的假冒欺诈广告举报网站。这是该提案称为公私合作模式的先例。
[参考文章]
文件显示，Meta 靠大量欺诈广告赚取巨额财富（路透社）（外部）
路透社调查报道。据报道，Meta 内部预计 2024 年销售额的约 10%（即估计 160 亿美元）来自欺诈和违禁广告。
路透社的 Jeff Horwitz 和 Engen Tham（普利策奖）（外部）
同一份报告的普利策奖获奖页面。它还提到内部文件显示，在中国超过 180 亿美元的广告销售额中，约 19% 来自违禁内容。
路透社揭露 Meta 欺诈利润丑闻（Lawfare）（外部）
分析报告。对这些数字的严格解读表明，Meta 只准备投入 1.35 亿美元来打击欺诈行为。
《杜绝诈骗条例》相关草案出炉，规定24小时内移除广告/台湾（外部）
报道台湾数位发展部相关草案的文章。它特别引入了24小时内删除内容的义务、违规罚款以及明确说明人工智能的使用。
【警察厅公布】2025年特殊诈骗、SNS类投资、恋爱诈骗的受害状况及动向（外部）
警察厅整理了2020年的暂值。统计分类得到确认，其中SNS型投资/恋爱诈骗增加至15,142起、金额1,827亿日元。
Fraud Crime Hazard Prevention Act（台湾・法务部法令データベース）（外部）
台湾《防止诈骗及犯罪危害条例》英文文本。这是可以直接确认 KYA 义务、损害连带责任、安全港以及新台币 1 亿元以下罚款的主要来源。
[相关文章]
Meta 利用人工智能和执法来消除欺诈——Facebook、WhatsApp 和 Messenger 上推出的新工具
本文从平台侧对策的角度探讨路透社报道的160亿美元以及文中提到的冒充名人的广告（名人诱饵）。
Meta 每年从中国的欺诈广告中赚取超过 30 亿美元——令人震惊的执法团队因扎克伯格的干预而解散
本文从Meta的利润结构角度详细审视了社论中引用的路透社报道“约10%的销售额=160亿美元”。
警察厅网络威胁报告最新版|去年总结，这是有史以来损失最严重的一年
这就是本文提到的SNS型投资/恋爱骗局造成的1827亿日元损失统计的来源。您可以通过数字了解日本受灾情况的整体情况。
[编者后记]
说实话，在我读到这个建议之前，我一直认为那些被欺诈广告所欺骗的人都是不小心的人。然而，当我真正检查人工智能创建的假视频的准确性时，这个想法很容易被推翻。由于技术的进步，真实与虚假之间的界限变得越来越模糊。这可能不再是一场仅通过个人谨慎就能避免的战斗。
另一方面，如果监管变得更加严格，言论自由也会出现紧张。阻止欺诈的愿望和保护某人的通信自由的愿望。社会会在这两者之间选择怎样的平衡？大家感觉如何？如果您愿意，请告诉我您的想法。如果我们能够继续共同关注这个问题的进展，我将非常高兴。