“在分享信息前，请检查你的信息来源。”美国加州州长纽森在社交媒体平台“X”上警告称，虚假信息在网络空间蔓延，或将激化社会矛盾。

　　伴随着加州洛杉矶地区的抗议活动发酵、以伊冲突升级，社交媒体上掀起了舆论风暴。据“政治”新闻网美国版报道，社交媒体上充斥着人工智能（AI）生成的与抗议、冲突有关的深度伪造图片和视频，加剧了人们的恐慌和焦虑。

　　近日，社交媒体上一个自称“鲍勃”的人引起关注。视频中，他声称自己是美国国民警卫队队员，正在为“对（洛杉矶）抗议者实施毒气攻击”做准备。短短几天内，这条视频播放次数接近百万。经英国广播公司核验为“AI合成的虚假视频”后，该视频已被删除。但美国《时代》杂志发现，许多人在视频评论区留言感谢“鲍勃”的行为，他们没有意识到这个人并不存在。

　　美国乔治城大学麦考特公共政策学院副教授蕾妮·迪雷斯塔长期研究阴谋论的网络传播机制，她指出，2020年美国非洲裔男子弗洛伊德遭警察跪压死亡后引发抗议潮，其间的混乱图景与当前社交媒体的信息生态呈现出惊人的相似性。不过，如今AI生成的图像更丰富，用户群体也分散至不同的网络平台，各平台“演绎着截然不同的叙事”。

　　美国有线电视新闻网报道称，以洛杉矶抗议活动为例，在右翼观点盛行的“X”上，许多有影响力的用户把因不满美国移民与海关执法局行动而抗议的群体称为“煽动者和恐怖分子”；而在左翼观点盛行的“Bluesky”上，知名用户抨击特朗普政府部署国民警卫队的举措。美国BitMindAI公司创始人肯·乔恩·宫地告诉法新社，以伊冲突期间，虚假信息激增。生成式AI被用来操纵公众认知，以前所未有的规模和复杂度放大分裂或误导性的言论。

　　“人们不经调查就相信自己看到的内容。”美国雪城大学纽豪斯公共传播学院教授尼娜·布朗说，“有些视频带有欺骗性，是深度伪造的。”

　　《时代》杂志发现，许多“X”用户使用马斯克旗下人工智能公司xAI发布的大模型Grok 3核查事实，该模型确实能检测出一些AI合成的照片和视频，但并非百分百可靠。比如，它曾将美国《旧金山纪事报》发布的一张独家照片判定为2021年的旧照片。

　　从技术本质看，当代AI依托复杂的数学算法体系，通过对海量数据的分析实现技能学习。英国《金融时报》打了个比方：“AI有点像一只学说话的鹦鹉。”这意味着，它进行真伪判断的能力不足，也无法建立事实与逻辑的映射关系。

　　“我们已竭尽所能，仍然无法避免AI系统产生幻觉。”为企业研发AI工具的初创公司负责人阿姆尔·阿瓦达拉告诉美国《纽约时报》，有测试数据显示，部分新型AI的幻觉发生率高达79%。

　　近两三年来，技术工具已能轻松生成以假乱真的伪造视频，真相与现实的边界变得模糊。有人出于政治目的操纵信息，也有人只想赚钱，期待“流量变现”。“在充满深度伪造的世界里，学会辨别‘何为真实’至关重要。”美国自媒体博主、经济评论员凯拉·斯坎伦向美国《外交政策》杂志指出。

　　美国加州大学伯克利分校教授哈尼·法里德向法国24电视台分享了一个甄别深度伪造视频的技巧。以谷歌公司的Veo 3模型为例，它生成的视频长度通常为8秒，或是由8秒的片段组合而成。“8秒的时长限制无法直接证明视频是伪造的，但可以提醒我们在转发之前核查信息。”法里德说。

　　有专家告诉法新社，冲突期间虚假信息激增，凸显出社会对更强大的检测工具有迫切需求。然而，削弱内容审核力度、减少对事实核查人员的依赖成为主流科技平台的趋势，这在很大程度上削弱了信息监管的保障机制。“我们迫切需要更成熟的检测工具、媒体素养和平台问责机制，以维护公共话语的完整性。”宫地说。

　　除了辨别真伪，学会驾驭数字工具也是人机协作时代的必备技能之一。英国埃克塞特大学就业和实习顾问莉安·比萨特告诉《金融时报》，AI能辅助人们梳理工作中的思考逻辑，却无法替代在真实实践场景中积淀的经验智慧。旨在提高AI素养和技能的“与谷歌一起成长”组织创始人丽莎·盖韦伯建议，人们可以借助AI快速完成工作中简单的部分，从而把精力集中到更需要专业能力的核心工作上。

　　“不妨将AI视作工具包中的一个工具。”比萨特强调，进行独立研究与判断、与专业人士合作十分重要。

　　责任编辑：王梓

来源：青年参考

2025年06月27日  01版