财经美联社2月6日（石正成编辑）。据不完全统计，2024年，来自50多个国家和半个世界的人民将面临第一次连任。 同时，随着最新一轮AIGC技术的出台，AI技术对互联网生态的威胁也达到了前所未有的高度。 连日来，“假拜登电话”、知名女演员深度造假**等事件引发国际社会强烈关注。
在整件事越来越失控之前，社交平台 Facebook、Instagram 和 Threads 决定通过识别和标记平台上的 AI 内容，尝试将社交平台上的 AI 生成内容与现实生活区分开来。
识别、检测和标记
Meta 表示，在未来几个月内，Facebook、Instagram 和 Threads 将尝试检测上传到平台的**，并将其标记为“AI”。
这个问题应该分为两个层次：“基于证据的”AIGC**和杂乱无章的AI**，音频内容。
首先，它是第一个标准比较明确的领域。 以 Meta 自带的 AI“文生地图”功能为例，通过这种方式生成的**不仅会在左下角可见水印，同时** 还会在元数据中标有“不可见水印”
Meta 表示，它正在开发可以批量识别这些类型水印的工具，特别是 C2PA 和 IPTC 技术标准——这意味着当在 Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstock 等公司按计划向 AIGC 工具添加元数据后，Meta 将能够在社交平台上批量识别和标记这些公司生成的 AI。
当然，仅靠少数巨头的合作并不能解决所有问题，那些恶意使用AI的人也有办法去掉AI**中的标记水印。
英国前副首相兼 Meta 全球事务和传播总裁尼克·克莱格 （Nick Clegg） 补充道Meta 现在还在开发分类器，目的是自动检测那些由 AI 生成但没有数据水印的分类器。 同时，Meta 的 AI 实验室最近分享了一种名为“Stable Signature”的数字水印技术，该技术将水印机制直接集成到图像生成步骤中，这对许多开源模型来说将非常有价值。
音频呢？
Meta 透露，与“水印”标准不同，AI 生成的音频在这方面缺乏共识，因此现在无法按心跳进行标记。
作为回应，Meta 决定引入自我声明和惩罚机制。 除了允许用户自行声明 AI** 和音频外，Meta 可能会惩罚故意创建 deepfake 内容并故意不举报的用户。
克莱格进一步表示，Meta 可能会确定某些 AI 创建或修改的图像、** 或音频内容在重大问题上严重欺骗公众的风险特别高根据需要添加更突出的标签
即使对“AI浩劫年”有担忧，克莱格仍然认为，今年这种情况“席卷Meta平台”的可能性并不高。 克莱格说：“我们不会很快看到任何完全合成的、具有政治意义的**或音频，我只是认为这不会发生。 ”
Clegg 还提到，Meta 已经在测试根据社区指南训练的大型语言模型，并表示这项技术提供了一种高效的“分流机制”，以确保人工审核员看到的帖子确实是需要人工判断的边缘案例。