所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
■田鹏 近日，演员温峥嵘在抖音直播间自曝自己“被AI换脸抢了”。与此同时，多个直播间中也出现了“她”的照片和商品。当我在评论区问“你是文正英，我是谁？”时，对方拉黑了我。这场荒唐的对峙也暴露了AI换脸技术被滥用正在侵蚀直播电商生态的冰山一角。 6月，北京市海淀区市场监管局查处了一起利用人工智能技术伪装央视主播李子萌姓名、形象的虚假广告案，并给予行政处分。 8月，社交平台上有博主用AI模仿Ol的声音奥运会冠军陈全宏出售当地鸡蛋。近年来，利用人工智能通过改变面孔和声音来生成虚假内容的案例屡见不鲜。笔者认为，这种颠覆的背后是技术套利对直播电商行业生态的破坏。另一方面，从供给角度来看，这种技术套利造成了“劣币驱逐良币”的恶性循环。直播电商的核心竞争力本应是内容价值和产品品质，但由于人工智能转型和盗版直播，行业正被拖入不正常的“噱头”竞争。如果他的侵权成本远低于维权成本，而打假带来的收入远远超过合规收入，那么越来越多的企业就会放弃创新投资，而采用成本更低的打假产品。如果再这样下去，直播内容就会陷入同质化的泥潭，产品质量将不再得到保障，最终损害创新的活力和整个行业可持续发展的基础。然而，在消费者方面，更隐秘的危机在于挑战消费者信任的底线。信任是电商行业的基础，但随着换脸AI技术的出现，真假之间的界限将永远变得模糊。当直播辨别真假成为常态时，消费者的购买决策就会变得犹豫和谨慎，复购率就会降低，用户流失不可避免。更重要的是，这种对信任的损害会产生连锁反应。假冒直播间的欺诈行为可能会引发消费者对整个直播电商行业的质疑，限制行业的发展。当然，我们不能把所有问题都归咎于技术本身。 AI脸部修饰技术没有好坏之分。如果运用得当，直播还可以降低中小企业的门槛，让他们通过数字媒体将优质产品触达更多消费者。当前，直播电商正处于黄金时期。受益于线上消费场景变化、科技产业升级等因素，直播分发市场规模持续扩大。同时，这种业态不仅重构了商品流通链，还创造了巨大的就业生态系统。因此，人工智能技术应该成为帮助直播电商市场不断扩大的“使能器”，“AI暗流、黑流”不应该破坏直播电商生态。仔细观察当前动荡的核心可能在于治理体系的缺失，包括平台治理的滞后技术的限制和行业规则的不完善，都为“人工智能反串、盗版流”提供了可乘之机。因此，纠正这种无序状态，需要构建技术防控、规则约束、生态共治相结合的立体治理体系。在行业层面，监管应提高人工智能生成侵权内容的认定标准，提高赔偿数额，并明确平台、商家和技术提供商的连带责任。其次，在行业层面，行业协会可以制定合规指引，明确人工智能虚拟识别标准，建立“卖家自查、平台核查、消费者监督”三级机制。通过申报、抽查、举报奖励等方式，形成全链条的联合监管合力，降低造假风险。多方压缩地面。第三，在技术层面，主要直播平台和电商直播运营商需要加大投入，完善检测技术，比如专门的deepfake识别模型来分析视频和音频中的不自然特征，结合实时监控系统，在触发风险时触发弹窗消息和暂停直播。直播电商的生命力离不开真实可信的基础和公平的竞争环境。一旦科技防线筑牢、法律网络更加密集、行业集体治理强化，“假面子”乱象将无处藏身。只有这样，才能消除虚假泡沫，展现合规卖家的价值，避免失去消费者信任，最终促进平静的电商市场的稳定和长远发展。
作者
adimin@chicktastic.com