当前位置：主页 > 西安 >

美伊谈判最新情况

AI假图“仅退款”成风：商家叫苦不迭，国家反诈中心“AI鉴定师”进入实战阶段_蜘蛛资讯网

国产螺丝刀成了老外的梦中情刀

IT之家 5 月 17 日消息，“有图有真相”的消费维权常识，正被突飞猛进的 AI 技术改写。据央视报道，近期不少电商商家反映遭遇了一种新型售后套路：买家提供的“问题商品”图片并非实拍，而是利用 AI 技术伪造出来的“证据”。原本正常的消费者维权渠道，正被部分人异化成“白嫖”商品的工具。河北的种植户张先生对此感触颇深。上个月，他的店铺在某平台售出 12 单无花果苗后，随即收到一份“仅退款”申请。对方附上一张叶片枯黄、毫无生机的果苗图片，声称收到已干枯死亡。有着多年种植经验的张先生倍感疑惑，因为他是带盆发货，且苗情健壮，两天内完全不可能枯黄至此。他凭借经验指出，图片显示叶片完全舒展呈枯黄色，但真正失水的叶子应该是收缩下垂的，不符合常理。张先生断定该图为 AI 造假，联系买家退货退款遭拒，对方直接申请平台介入。尽管张先生进行了申诉，平台仍依据这张图片，在几分钟内便批准了“仅退款”申请。类似困扰也蔓延到更多品类：有商家收到“一致间距且精准断裂”的衣架图，也有消费者发来的杯身裂痕图被 AI 检测工具判定为“92% 概率 AI 生成”。还有买家利用 AI 将正常商品“P”出发霉、破损，甚至在退货时调包，试图双重获利；甚至还有一些人的图带有“豆包生成”的水印。为应对技术滥用的挑战，国家反诈中心 App 今年 3 月正式上线了 AI 内容鉴定功能，支持图像、视频、文本及音频的 AI 识别检测，覆盖 30KB 至 5MB 的图片、10 分钟以内的人声音频等常用格式。该功能旨在用同样的技术手段去识别虚假内容，以遏制愈发泛滥的 AI 换脸、伪造图片视频等新型诈骗手段。网络支付与安全领域的相关企业也在积极布局这类鉴真技术。蚂蚁安全内容视觉算法负责人兰钧介绍了当前主流 AI 鉴真的核心技术路线，他表示检测方式主要由两部分构成：一部分是利用小模型深入学习 AI 生成内容的模式，基于大量数据进行训练判断；另一部分则是结合大模型关注内容本身的物理瑕疵和逻辑语义，例如查找文字乱码或不符合常理的场景，最终通过小模型与大模型的协同工作来判定真伪。据悉，这类鉴真工具在业务场景中已能实现较高的识别率与极低的误报率。央视实测发现，将网上商家晒出的多张疑似 AI 生成“售后图”上传至国家反诈中心 App，结果均被判定为“图像含 AI 生成痕迹”。随着这项面向大众的公益功能上线，中小商家在遭遇类似纠纷时，也有了一条低成本的初步鉴定路径。北京邮电大学互联网治理与法律研究中心主任谢永江指出，AI 伪造图片骗取退款的行为本质是民事欺诈，若不及时遏制，将威胁电子商务的正常秩序与健康发展。AI 鉴真工具能够极大降低商家的辨别成本，既对不法分子形成震慑，也能作为商家与平台交涉、维护自身权益的有力证据。