AI假靳东，求你别再骗奶奶

近年来，AI换脸诈骗案例频发，尤其针对中老年群体。江西、上海等地多名老年人因误信短视频平台上通过视频合成技术滥用伪造的“假靳东”视频，陷入老年人情感诈骗陷阱，被骗取巨额钱财。这些骗子利用“靳东”形象组建粉丝团，以恋爱、投资等话术诱导转账，涉案金额达数十万元。全国政协委员靳东公开呼吁加强监管，避免技术成为犯罪工具。
针对AI换脸立法治理的迫切性，2024年全国两会期间，多位代表提出加快相关立法进程。雷军、李东升等建议明确生成内容平台责任，要求对AI生成内容强制标识，并加强对老年人和青少年的防骗教育。目前，中国生成式AI用户规模已达2.49亿，技术滥用风险随用户增长持续扩大，立法与技术治理需同步推进。
明星身份盗用骗局不仅限于国内。法国、英国等地也出现利用AI伪造名人形象或高管身份实施诈骗的案例，如伪造布拉德·皮特骗取医疗费、冒充企业高管诱导转账等。技术滥用已引发全球性AI换脸信任危机，公众对视频、语音的真实性产生普遍质疑。
尽管AI换脸在影视、电商等领域有正向应用（如AI孙燕姿翻红、虚拟主播替班），但其潜在危害不容忽视。专家提醒，需警惕视频合成技术滥用导致的财产与隐私风险，建议公众保护个人生物信息，并提高对“假脸”的鉴别意识。平台方也应强化技术识别与警示措施，共同应对技术双刃剑效应。