【欧洲时报网】随着中国“双十一”的热潮逐渐退去，一种新型的网络欺诈手法涌现。有消费者用AI（人工智能）伪造瑕疵图骗“仅退款”，亦有商家美化商品致货不对办。有业界专家反映，AI内容治理已成系统性难题，亟需通过强制标识制度构建“可识别、可追溯、可问责”的安全防线。

法律视角下的恶意退款行为

香港中通社报道，在西安，一位陶瓷店主就曾遭遇此类事件，买家声称杯身有裂纹并附上一张裂纹图片，但在要求视频验证时买家却放弃了退款请求。经查后发现，该图片为AI生成，且仿真度极高。

上海正策律师事务所律师董毅智指出，这种利用AI伪造证据申请“仅退款”的行为不仅违反了《民法典》中的诚实信用原则，还可能触犯行政乃至刑事法律。如果单次或累计骗取金额达到一定数额，则可能构成诈骗罪。万商天勤律师事务所律师程亮也强调，这类行为侵害了商家和平台的财产权益，严重者需承担刑事责任。

除了直接伪造图片外，“仅退款”规则还催生了一个完整的灰色产业链。从编写教程到开发造假工具（如AI修图软件），再到提供代退服务，这一链条分工明确、隐蔽性强，打击难度大。网经社电子商务研究中心主任曹磊表示，这不再是简单的“薅羊毛”（利用优惠促销或规则漏洞以获取超出正常范围的利益），而是组织化、专业化的黑色产业链，严重影响了电商生态健康。

面对此问题，相关监管部门已开始采取行动。今年1月10日，市场监管总局约谈主要电商平台，要求落实平台责任，调整相关规则。多家平台响应号召，优化了“仅退款”政策，并加强了对AI假图的技术防范措施。专家们建议构建多元共治体系，包括完善法律法规、推行AI生成内容标识制度、建立跨平台用户消费信用联动机制等。

专家表示，针对当前情况，需要监管部门、电商平台和商家共同努力。一方面，要强化法律法规建设，明确法律责任；另一方面，电商平台应改进审核流程和技术手段，提高识别能力。同时，商家自身也需要强化证据保存意识，优化售后沟通流程，共同抵御风险。

“以假乱真”门槛大幅降低

北京《法制日报》报道，从早期引发社会广泛关注的“换脸”技术滥用，到利用AI合成语音实施的电信网络诈骗，再到“被压在废墟下的小男孩”等虚假热点事件，生成式AI大模型的多维度演进，使内容生成呈现“低门槛+高逼真”的特征，网络违法信息的演化路径更趋复杂。

《法治日报》律师专家库成员、盈科律师事务所数字经济研究会主任王风和说，多数AI伪造工具库已高度流程化、自动化，普通用户仅凭文本口令、基础素材就能制作“以假乱真”的图像、语音、视频等内容，加之部分短视频、社交媒体上的相关教程、“成功案例”形成示范效应，极易诱导用户模仿。

上海政法学院上海司法研究所讲师周陈介绍，为规避检测，新型AI伪造手段能实现对抗性攻击，即在生成内容中嵌入人眼难以察觉的噪声，专门用于欺骗检测模型，将其判断为“真实”，有的工具支持去除“AI生成内容”标识选项，为违法行为提供了便利。同时，借助AI多模态融合能力，使得AI伪造不仅能替换脸和声音，还能同步生成对应的身体动作和场景，使伪造内容难以辨别真伪。

王风和提醒，短视频与社交平台作为主要传播渠道，面临海量信息审核压力与技术识别短板的双重制约，仅依赖关键词筛查机制，导致违规内容得以规避监管。高度逼真的合成内容叠加“娱乐化”包装，降低了公众的辨别能力，而当前又缺乏成熟的生成式内容快速核验技术，加剧了虚假信息传播风险。

以标准与伦理守护“技术向善”

针对AI造假问题，中国正出台多项治理措施。

香港中通社报道，9月1日起，中国国家互联网信息办公室联合多部门发布的《人工智能生成合成内容标识办法》已正式实施，标志着中国AI内容标识制度落地。此举对提升AI安全治理能力、构建多元协同监管体系、保障“人工智能+”行动健康发展具有重要意义。

中国信息通信研究院政策与经济研究所副所长李强治指出，随着“人工智能+”上升为国家战略，AI生成内容在逼真度、跨界应用和传播方式上带来新风险：内容难辨真伪、易引发医疗误诊或市场波动，且传播去中心化、源头隐匿，溯源困难。AI内容治理已成系统性难题，亟需通过强制标识制度构建“可识别、可追溯、可问责”的安全防线。

在数字经济时代背景下，如何平衡技术创新与市场秩序维护。唯有通过多方协作，才能有效遏制此类新型网络欺诈行为，保障电商行业的健康发展。

北京航空航天大学法学院副教授赵精武认为，对《人工智能生成合成内容标识办法》的落实可进一步细化。一方面，需要继续巩固中央网信办“清朗·整治AI技术滥用”专项行动成效，形成周期性、常态化的AI技术应用巡视机制；另一方面，公安机关等执法部门需要对这类AI技术背后的网络黑灰产业链进行严厉打击。未来，针对这类AI技术滥用情况，应建构专门的协同执法机制，彻底切断违法产业链。同时，尽可能对标识标准进行统一，并对平台加强监管，防止因平台逐利而少标识、不标识。

“生成式AI的治理绝非简单的‘禁止’或‘放任’，而是要在保护创新活力与守住法律底线之间找到平衡点。”王风和说，应持续推进技术标准与法律规范的协同创新，完善“标准—检测—评价”的闭环治理机制，让生成式AI真正服务于社会进步与公众福祉，实现“以人为本、技术向善”的治理目标。

（编辑：李朔）