互联网安全活动人士已致函英国通信监管机构 Ofcom，要求限制 Meta 基于人工智能的风险评估计划。
2025 年 5 月 31 日，NPR 报道称，Facebook、Instagram 和 WhatsApp 背后的公司 Meta 正在推进计划，利用人工智能系统实现高达 90% 的产品风险评估任务自动化。
此前，人类分析师评估新功能的隐私和安全性，但这将改变为人工智能立即评估风险并根据问卷答复提出要求的系统。
Molly Rose 基金会、NSPCC 和 Internet Watch 基金会等组织批评人工智能驱动的风险评估是一种“倒退且令人深感担忧的措施”，认为它不符合英国在线安全法案要求的“充分且充分”的标准。
Meta 反驳说，它“只能自动化低风险决策，并利用人类专业知识来解决复杂问题”。一位前 Meta 高管匿名告诉 NPR，这一变化将加快产品发布速度，但警告称这会给用户带来更高的风险。
从： 
英国活动人士对 Meta 计划使用人工智能进行风险检查的报道提出警告
【编辑部评论】
Meta 的人工智能自动化计划不仅仅是效率问题。这代表了科技公司安全评估的根本范式转变。
传统上，Facebook、Instagram、WhatsApp 等的新功能和算法更新都经过人类专家团队的仔细风险评估。这是一个需要复杂而微妙判断的领域，比如隐私被侵犯的可能性、对未成年人的负面影响、虚假信息传播的风险等。
根据NPR获得的内部文件，新系统将允许开发团队简单地回答一份调查问卷，人工智能将立即确定风险并批准产品。虽然这极大地提高了产品发布的速度，但也引起了人们的严重担忧。
最值得注意的是与监管机构的冲突结构。 Meta 自 2012 年以来一直受到美国联邦贸易委员会 (FTC) 的监控，并有强制性的隐私审查。根据英国《2024 年在线安全法案》，Ofcom 将有权对公司处以高达全球营业额 10% 的巨额罚款。
有趣的是，尽管 Meta 最初声称只会做出“低风险决策”，但内部文件也考虑了人工智能安全、青少年风险以及暴力内容和虚假信息传播等敏感领域的自动化。这表明该公司的官方声明与内部计划之间存在差异。
从技术角度来看，Meta 的 2025 年第一季度综合报告宣布，人工智能系统在某些政策领域已经超越了人类。然而，在需要人类独特能力的情况下，例如理解背景和确定文化细微差别，人们也指出了其局限性。
这一运动已经蔓延到其他科技公司，Klarna、Salesforce 和 Duolingo 也因人工智能的引入而裁员。如何在效率和安全之间取得平衡，是决定数字社会未来的重要问题。
【术语解释】
网络安全法
英国于 2024 年颁布《数字平台监管法案》。该法案要求社交媒体公司保护儿童并打击非法内容，并赋予 Ofcom 权力，对违规行为处以最高可达其全球营业额 10% 的罚款。
风险评估
主动评估新功能和算法更新可能对用户造成的潜在危害的过程。专家分析隐私侵犯、对未成年人的负面影响、虚假信息传播等风险并采取适当措施的系统。
FTC（连邦取引委员会）
美国的一个独立行政机构，负责企业竞争政策和消费者保护。自 2012 年以来，它一直在监控 Meta 的隐私实践，并要求该公司接受隐私审查。
隐私完整性审查
Meta 内进行的产品安全评估流程。专门团队在发布新功能之前评估侵犯隐私和有害内容传播风险的系统。
[参考链接]
元官方网站（外部）
Meta Platforms 的日本官方网站，运营 Facebook、Instagram 和 WhatsApp。介绍公司的产品、服务、企业理念、安全举措等。
Ofcom（英国通信管理局）（外部）
政府授权机构，负责监管英国的广播、通信、互联网和邮政服务。监督电视和广播标准、宽带和电话以及在线视频共享平台。
莫莉玫瑰基金会（外部）
该慈善机构是为了纪念 14 岁的莫莉·拉塞尔 (Molly Russell) 而成立的，她于 2017 年因社交媒体上的有害内容而自杀。目的是防止25岁以下年轻人自杀。
互联网观察基金会 (IWF)（外部）
一家英国非营利组织，致力于识别并删除儿童性虐待图像。该组织成立于 1996 年，运营匿名举报系统，旨在保护儿童并支持在线幸存者。
NSPCC（国家防止虐待儿童协会）（外部）
英国最大的儿童保护慈善机构，成立于 1884 年。我们防止虐待儿童、支持儿童受害者、提出政策建议，并提供 24 小时求助热线和在线安全教育。
NPR（全国公共广播电台）（外部）
美国公共广播电台成立于1970年。一家非盈利媒体，以关注政治和社会问题的高质量新闻而闻名，并且是第一个报道此类内部元信息的媒体。
[参考文章]
Meta 计划用人工智能代替人类来评估风险（外部）
详细报告基于 NPR 独家获得的内部元文件。全面解释了 90% 人工智能风险评估自动化的计划、前高管的匿名证词，以及联邦贸易委员会监管下的变化的影响。
Meta 计划实现许多产品风险评估的自动化（外部）
TechCrunch 对 NPR 报道的摘要。它简洁地总结了Meta中新系统的运作方式、基于问卷的即时判断流程以及前高管提出的担忧。
[编者后记]
人工智能可以在越来越多的领域取代人类的判断。 Meta 案例凸显了现代技术的一个根本挑战：效率与安全之间的权衡。
您对于让 AI 检查您日常使用的 SNS 的安全性有何看法？另外，在监管机构与企业之间的冲突中，我们用户应该采取什么立场？请在评论部分告诉我们您的想法。