技术赋能之下,便捷高效的智能服务层出不穷,但AI换脸拟声虚假带货、大数据杀熟、算法诱导消费、网络人肉搜索等新型乱象也随之滋生,不断冲击传统消费者权益保护体系。日前,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》直面AI领域消费侵权突出问题,划定AI应用的法治边界,厘清各方责任,打通AI消费维权的司法堵点,护航网络数字消费。
技术创新不能成为规避责任的挡箭牌,《意见》直指“技术免责”的错误认知,穿透算法黑箱,清晰划分AI产业链上各参与方的责任。针对社会反映强烈的AI仿冒名人虚假带货等消费欺诈行为,《意见》明确:借助伪造他人肖像、声音进行虚假宣传,误导消费者做出交易决策,即构成消费欺诈,消费者有权主张惩罚性赔偿,以此抬高AI虚假营销的违法成本。
针对屡禁不止的“大数据杀熟”,司法不再被算法外壳迷惑。经营者利用掌握的个人信息实施差别定价,本质上侵害消费者公平交易权,必须承担相应民事责任。而对于生成AI利用“AI幻觉”误导消费者的现实问题,新规打破灰色地带,明确AI服务提供者负有审核义务,不能拿“内容自动生成”作为免责理由,接到侵权通知却怠于处置,就要承担侵权责任。
面对 AI 换脸、AI 拟声、人肉搜索等深度伪造侵害人格权行为,《意见》明确,未经许可抓取自然人肖像、声音用于模型训练和对外输出,构成人格权侵权。同时运用人格权侵害禁令,在损害发生过程中快速止损,遏制侵权信息持续扩散,防止伤害进一步扩大。
技术向善,根基在于权益保障。《意见》释放明确信号:无论AI技术形态多么新潮,都不能凌驾于消费者合法权益之上。算法不能算计消费者,AI不能伪造市场信任。这份司法文件不是要束缚人工智能产业创新,而是以规范促发展,实现技术进步与权益保护的双向平衡。
随着司法规则落地,各方主体应当恪守法治底线,把消费者权益保护嵌入AI产品研发、运营、营销全流程。唯有以法治为帆、权益为本,才能让人工智能技术真正惠及民生,营造安全放心的数字消费环境,推动新质生产力行稳致远。(北京大学普惠金融与法律监管研究基地副主任 顾雷)