5月31日，在陪审团主席宣读特朗普成为美国史上首位被判有罪的前总统后，曼哈顿下城的法院外，人们涌向附近的公园，抗议者之间发生了激烈对峙。
这一历史性事件让美国大选进入了混乱的新阶段，而AI深度伪造内容正在为这种混乱“推波助澜”。
5月23日，民主党政治顾问史蒂文·克莱默因使用AI工具，伪造美国总统拜登的电话呼叫而被起诉，该电话试图劝阻数千名新罕布什尔州居民在民主党初选中投票给拜登。
这则“假拜登”的电话呼叫内容为：把你们的选票留在11月份再投很重要。在这周二投票，只会让共和党人得逞，让特朗普再次当选为共和党候选人。
“假拜登”电话的炮制者克雷默曾为拜登的竞争对手、众议员迪恩·菲利普斯工作，他声称这则电话总共花费了500美元。他说：“这是我改变现状的一种方式，我已经做到了。花500美元，就得到了价值约500万美元的关注。”
此前CCDH研究人员针对几个AI工具的测试中，也成功生成了拜登躺在医院病床上的深伪照片。另外也有Midjourney用户成功使用了“特朗普被捕，高质量，狗仔队照片”这一提示词。
拜登竞选团队发言人表示，竞选团队“已经组建了一个跨部门团队，为AI在本次选举中可能产生的影响做准备，包括恶意深度伪造内容的威胁。”该团队自 9 月成立，“并拥有各种各样的工具来解决问题。”
美国联邦通信委员会主席杰西卡·罗森沃塞尔说：“当来电者听起来像你认识的政客、喜欢的名人或熟悉的家庭成员时，我们中的任何一个人都可能被使用AI技术的电话欺骗，相信一些不真实的事情。”
这样的AI深度伪造内容正在混淆美国选民视线，播下混乱的种子。它们在社交平台飞速传播，并逐渐演变成一种日益严峻的全球威胁，也使得社交媒体面临识别深度造假和防止错误信息传播的压力。
AI深伪内容搅动大选年
根据以色列社交媒体分析公司 Cyabra 在5月24日发布的，对社媒平台X（前身为 Twitter）虚假账户的分析报告显示，赞扬特朗普和批评拜登的X 账户中有 15%是虚假的。赞扬拜登和批评特朗普的X账号中有 7% 是虚假的。
Cyabra 的研究了自3 月 1 日开始的两个月内 X 平台上的内容审查。审查方式为分析热门标签并确定发布内容的正面、负面或中性情绪。
该报告指出，三月和四月新发现的虚假账户数量增加了十倍。在 总计94,363 个支持特朗普个人账户中，有 12,391 个是虚假的；在总计 10,065 个支持拜登的个人账户中，有 803 个是虚假的。该报告没有透露伪造该内容的个人或团体。
自2022年被马斯克收购后，X一直在淡化平台上虚假账户的情况。Twitter 在 2022 年 5 月的内部审查显示，其每日活跃用户中不到 5% 是“虚假或垃圾账户”。而当时Cyabra 对这个数据的估计是13.7% 。
对此马斯克曾表示：X正在“清除机器人和恶意评论者，将追查责任人，并对他们采取法律手段”。
然而，研究显示，包括X在内的许多社媒平台反而缩减或重组了负责检测危险深伪内容的团队。有些平台还提供了私人单向广播等新功能，这些功能特别难以监控。
此前，X平台信任和安全运营负责人亚历山德拉·波肯，在马斯克收购X几个月后离开X,并加入了内容审核公司WebPurify。”许多社交媒体公司严重依赖于不可靠的人工智能内容审核工具，让精简后的人力团队处于不断灭火的状态“，她表示：“选举诚信是一项巨大的努力，确实需要一个积极主动的战略，需要很多人力和智慧。”
值得一提的是，此前支持拜登的马斯克，近来的态度发现了明显转变，这一转变的原因包括科技监管和税收。
马斯克在X上对1.85亿粉丝上直言不讳，矛头直指拜登的移民、电动汽车和关税政策：“拜登显然对发生的事情几乎一无所知。他只是一个悲惨的左翼政治机器的傀儡。”
同时，马斯克还敦促美国最高法院推翻特朗普的罚款，为特朗普辩护并称赞他的幽默感，同时指责媒体偏袒拜登。5月31日，知情人士称，马斯克计划在大选前与美国前总统特朗普举行一次X平台的直播。
在特朗普政府期间曾任美国驻奥地利大使的特雷弗•特雷纳表示：“我认为我们可以承认，他基本上已经（支持特朗普）了。
5月29日，《华尔街日报》援引知情人士的话报道称，如果特朗普重新入主白宫，他将考虑聘请亿万富翁埃隆·马斯克担任政策顾问。
非营利性智库TechFreedom的主席贝林•索卡(Berin Szóka)表示，像马斯克这样的科技创始人可能会通过与特朗普结盟，在监管网络言论和内容审核的斗争中寻求“优势”。
谁能阻止这一乱相
AI深伪内容的泛滥使美国大选年更加成为“多事之秋，然而目前美国国会并未采取行动。
“唯一阻止我们制造不道德的深度伪造品的，是我们的道德规范，”相关从业人员告诉媒体。 “但要阻止这种情况非常困难。”
在缺乏监管的情况下，政府官员正在寻求政客和科技公司自愿达成协议，以控制AI深伪选举内容的扩散。欧盟委员会副主席维拉·朱罗娃表示，她已致信欧盟成员国的主要政党并呼吁他们抵制使用该技术。然而如果政客和政党不听从她的要求，并不会面临任何后果。
朱罗娃说，她在2023 年 7 月曾要求大型社交媒体平台在选举前对AI生成的内容进行标记。这一要求在硅谷得到的回应得褒贬不一，一些平台甚至告诉她，开发检测AI的技术是不可能的。
据监测网络仇恨言论的非营利组织“反数字仇恨中心”（CCDH）报告显示：尽管每家公司都有禁止制作误导性内容的政策，但它们仍可用于制作与选举相关的假照片。
CCDH 测试了 OpenAI 的 ChatGPT Plus、微软的 Image Creator、Midjourney 和 Stability AI 的 DreamStudio等AI文生图软件。
在CCDH的测试中，他们成功利用AI工具制作了美国总统乔·拜登躺在医院病床上以及选举工作人员砸碎投票机的图像。
其中ChatGPT Plus 和 Image Creator 成功在要求提供候选人图像时阻止了所有提示，Midjourney 在所有工具中表现最差，在 65% 的测试中产生了误导性图像。
CCDH 表示有证据表明，一些用户已经在使用该工具制作误导性的政治内容。其中Midjourney 的一位用户功使用了“特朗普被捕，高质量，狗仔队照片”这一提示词。
Midjourney 创始人戴维·霍尔兹曾在一封电子邮件中表示，“具体与即将到来的美国大选相关的更新即将发布”，并补充说，去年创建的图像并不代表该研究实验室目前的审核实践。
这些AI深伪内容也增加了各大社媒平台的压力。
Meta在5月29日表示，在其 Facebook 和 Instagram 平台上发现“可能由人工智能生成的”深伪评论内容，该公司将这一活动归咎于特拉维夫的政治营销公司 STOIC。
“利用生成式 AI 工具来创建内容让他们能够更快地制作深伪内容，并且数量暴增。但这并没有真正影响我们检测它们的能力，”Meta 威胁调查负责人 Mike Dvilyanski 表示。 Meta在季度安全报告中称，他们在第一季度成功阻止了六项类似的秘密影响行动。
然而，即将到来的6月初的欧盟选举和11月份的美国大选，对Meta的防御能力构成重大考验。
为印度主要选举政党负责AI政治工作的贾杜恩表示，深度伪造内容的蔓延不能仅靠政府和企业来解决，公民必须接受更多教育。
“任何让你的情绪上升到更高层次的内容，”他说，“在分享之前请三思而后行。”
Tips：我是虎嗅科技医疗组的王欣，关注AI及创投领域，行业人士交流可加微信：13206438539，请注明身份。