近期社交媒体平台涌现大量AI生成的虚假战场视频,包括特拉维夫导弹袭击和迪拜哈利法塔起火等伪造内容。这些AI生成虚假视频在冲突事件后获得数万次转发,部分博主利用AI工具快速制作虚假视频牟利。
平台变现机制通过流量分成奖励热门内容,间接助长了虚假视频的传播。X平台调查显示99%的虚假视频账号以盈利为目的,尽管平台已宣布取消未标注AI冲突视频的变现资格,但基于互动收益的算法机制与信息准确性存在根本矛盾。
专家指出AI工具大幅降低造假门槛,过去需要专业技能的虚假内容现在只需几分钟即可生成。这种现象导致真实战场画面与伪造内容难以区分,引发严重的网络信息信任危机。
数字空间信息战的危害性可能超越真实战场,当流量利益与真相保护产生直接冲突时,缺乏有效的内容验证机制将使虚假信息持续泛滥。牛津互联网研究院警告称,这种趋势正在系统性破坏数字信息的可信度。