打造“完美主播”、暗设消费陷阱，AI营销边界在哪

  你在网络直播间看到的正在带货的名人明星是真人吗？未必。近期，小米集团创始人雷军建议加强“AI换脸拟声”违法侵权重灾区治理，再次引发公众对AI数字人使用的讨论。

图片来源于网络，如有侵权，请联系删除

  去年以来，AI生成的数字人大量“占领”电商平台，有的靠“图”预售、以次充好，还有的用AI数字人仿冒名人外貌及声音为一些“神药”“神器”背书，短时间内卖出巨额大单。在这背后，一套从肖像、配音，到文案生成的AI数字人带货制作流程充斥网络，带来众多监管难题。

图片来源于网络，如有侵权，请联系删除

  专家表示，利用AI数字场景直播带货是电商发展的新趋势，但在发展前期，一些不法商家利用监管漏洞侵害了消费者权益，建议尽快完善法律法规，强化平台责任，设定AI数字场景使用边界，防止AI“赋能”变AI“负能”。

  一场“眼见是否为实”的暗战

  兰州市民崔女士近日在网络直播间购买了一件春季薄款毛衫。商品页面中模特展示这款毛衫的面料细腻柔软，穿在身上得体优雅，她感觉自己的身材也像模特一样属于偏瘦类型，于是下单。而收到实物后却发现，这件毛衫材质既不细腻也不柔软，裁剪还很粗糙，她深感上当受骗。

  经过与售后一番费尽周折的交流，崔女士得知，该模特其实是AI生成的“数字人”，面料的视觉效果都经过了AI技术的“渲染”。

  甘肃慧联信息科技发展有限责任公司总经理王雪莲已有十多年电商从业经历。她告诉记者，雇用模特试穿拍照是服装电商行业的传统做法，但AI数字模特的迷惑性在于它可以通过参数设置，生成“九头身”“马甲线”理想化身材，并借助AI渲染技术消除衣服褶皱、增强光泽感和飘逸灵动感，使廉价的面料呈现出昂贵质感，让消费者误判服装的实际效果。

  崔女士的购物经历并非个例。记者调查发现，在直播带货领域，AI数字人通过仿真的面部形象、声音和精心的场景布置，其迷惑性让消费者防不胜防。

  更有甚者，有商家将名人明星换脸为数字人“平替”。去年以来，“AI换脸杨幂”直播卖化妆品、“AI古天乐”代言游戏等AI数字人仿冒名人话题频频登上热搜。今年春节期间，更有不法商家生成“AI张文宏”，“严肃认真地在直播间卖蛋白棒”，从开播到被举报关停，短时间内卖出了1200多单商品。

  除了借用名人效应外，一些商家用AI技术打造数字人人设，如“成功女企业家”“单亲妈妈”“带娃宝妈”“知性美女”“美妆达人”等，利用特定人群的同理心直播带货。而在保健品、药品、化妆品、医疗辅助器械“三品一械”领域，精心打造的数字人面向老年人、学生等辨别能力弱的群体，大肆夸大产品功效，快速敛财。

  AI数字营销监管“网眼大”

  针对AI数字人仿冒名人直播带货、AI换脸诈骗等违法行为，国家网信办已出台《人工智能生成合成内容标识办法（征求意见稿）》，并开展网络清朗行动等专项行动约束管理。

  然而，对于正处在发展初期的AI数字营销，一些专家表示，从法治层面到平台监管，还存在诸多漏洞。

  记者在某平台上输入“AI数字人直播教学”等关键词，搜索出成千上万个教程，学费从几十元到数百元不等，还有的甚至免费。

  记者联系一位收费教程博主，其称“三分钟教会搭建AI数字人直播间”，并承诺“一天可以做近百个数字作品，都能通过原创审核”。

  兰州大学信息科学与工程学院副教授刘忻表示，AI技术发展迅速且具有技术门槛低、隐蔽性强、更新迭代快的特点，随着开源工具的普及，普通人仅需少量数据即可生成逼真的仿冒内容，而且传播速度快、范围广。当前，从数据采集、AI模型训练到虚假账号运营，已形成分工明确的产业链。

  甘肃政法大学民商经济法学院副教授盛玉华表示，利用AI仿冒他人形象直播带货或从事其他违法经营行为，违反了广告法、个人信息保护法等多部法律法规，但面对AI数字人营销骗局，当前最大的难点不是“无法可依”，而是“有法难依”。

  盛玉华说，AI数字人虚假营销涉及技术提供方、内容生成者、直播平台、商家等多方，现有法律未明确各方责任划分，导致在实际执法过程中难以准确适用法律。

  针对AI数字人误导消费者风险，2024年某平台优化了对AI主播的识别能力，累计处理超17万个录播直播间，封闭3万多个账号，打击2800多个黑商团伙。但从平台管理来看，仍存盲区，审核机制还有待完善。

  兰州大学管理学院副教授王洪鹏说，此前该平台通过博主的粉丝量来设计带货门槛，随后这一规定被取消，直播带货门槛降低，也为AI数字人虚假营销提供了可乘之机。

  多方发力加强引导 促AI数字营销健康发展

  在王雪莲、盛玉华等业内人士和受访专家看来，从长远来看，AI数字营销将会革新传统的电商销售模式，赋能消费领域和销售环节，给市场带来更多更好的体验。

  事实上，目前AI数字人已在多个领域提升电商销售发展水平。在服装电商行业，AI数字技术正通过数据挖掘、视觉算法和个性化推荐，提升关联销售水平，如有的平台推出AI搭配和AI试衣间，用户在平台内创建虚拟形象后，AI就会帮助顾客生成多种穿搭方案，直接链接到关联商品，大幅提升商品关联销售额。

  而当前出现的各类AI数字人虚假营销，是AI赋能网络直播销售发展初期，监管机制不完善的阶段性产物。“当务之急是要从法律层面补齐监管漏洞。”盛玉华说，首先要明确AI生成内容的法律性质和责任归属，厘清技术提供方、内容提供者、平台、商家等多方主体的责任边界，提高法律可操作性。

  业内人士建议，在刑法、网络安全法等法律框架下，对利用AI技术编造传播虚假信息，实施诈骗、诽谤、侵害肖像权等行为，细化法律适用规则，加大惩处力度。

  同时，要持续强化平台责任，健全内容审核机制。例如利用技术手段，对直播和商品信息进行监测，及时发现和处理AI虚假营销行为。可通过在AI直播间标注类似“AI直播注意鉴别”等字样，把知情权、选择权交给消费者。

  王雪莲等认为，对于AI数字赋能网络销售这一新事物，相关部门要加强对消费者的AI素养宣传教育，提升其认知能力，并不断完善在AI数字人大规模发展背景下消费者投诉举报机制，降低维权成本，让消费者从“技术弱势方”转变为“监督主力军”，打破“维权难、违法易”的恶性循环。（记者姜伟超 王铭禹 马莎）