Meta 于 3 月 19 日正式宣布推出更先进的人工智能系统来处理内容审核工作。该公司明确表示计划在未来显著削减对第三方供应商的依赖。这些系统旨在自动处理涉及恐怖主义、儿童剥削及商业欺诈等有害内容。此举反映了平台对提升安全效率的迫切需求，同时也展示了技术整合的新方向。
任务范围广泛，涵盖捕捉并删除非法药物销售与各类诈骗信息。公司表示将在系统持续优于现有审核方法后全面部署。这标志着自动化审核流程在内容管理中的重要性进一步提升。未来这些技术将应用于更多类型的违规内容识别中。
早期测试数据显示，新系统检测成人色情引诱内容的效率提高二倍。审核错误率降低了超过百分之 60，显著改善了用户体验。系统每天能识别并阻止约 5000 次诈骗尝试，减少用户损失。这些指标表明技术正在成熟，能够胜任更复杂的识别任务。
专家负责设计、训练及监督这些人工智能系统的运行过程。他们衡量性能指标并处理最复杂的高影响决策。技术在此过程中承担了大量重复性图形内容审查工作。这一分工确保了人类专家专注于高风险判断。
人类员工将继续在最高风险和最关键决策中发挥关键作用。例如账户禁用申诉或向执法部门举报仍需人工介入。这种混合模式确保了审核的可靠性与准确性。技术辅助并不能完全替代人类的最终裁量权。
公司计划减少对第三方供应商在内容审核方面的依赖程度。技术更适合处理重复性图形内容审查工作。此外，技术能更好地应对不断变化的战术。这种策略有助于降低成本并提高响应速度。
此举发生在 Meta 过去一年放宽内容审核规则之后。特朗普总统第二次上任期间政策出现松动。此前公司结束了第三方事实核查项目。这一系列政策调整反映了当前监管环境的变化。
公司转而采用类似社区笔记的模式进行内容验证。用户被鼓励采取个性化方式处理政治内容。这一变化引发了关于言论自由与平台责任的广泛讨论。外界对平台如何平衡自由与安全表示关注。
Meta 及其他科技巨头正面临多项诉讼。诉讼旨在追究社交媒体巨头对年轻用户造成伤害的责任。这促使公司加速开发更有效的安全工具。法律压力成为了推动技术升级的重要动力。
周四 Meta 还宣布推出支持 Meta AI 的辅助助手。该助手将全天候为用户提供支持服务。新功能正在全球范围内的 Facebook 和 Instagram 应用中推出。这包括 iOS、Android 及桌面端的帮助中心。这为用户提供了更便捷的获取帮助渠道。
