近期，网络上出现了一批“一键生成爆款种草笔记”的AI写作工具，这些工具以极低的成本，批量炮制虚假消费体验和商品推荐。近日，中央网信办部署开展“清朗·整治AI应用乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。
调研发现：三成用户对AIGC内容接受度不高
“输入几个关键词，AI帮你全自动写出爆款种草文案”在各大短视频平台和二手交易网站上，“利用AI自动化起号”“批量做矩阵号”成了不少网络课程的噱头。
记者搜索发现，类似的课程及工具在网络上有不少，在二手平台，花几毛钱就可以买到破解版软件及教学视频。
在网络投诉平台上，一款被多位消费者投诉的AI写作助手，终身会员199元，提供工作总结、论文撰写、小说创作、短视频脚本、社交平台笔记标题生成等上百种服务，记者仅输入笔记主题，不到一分钟的时间，该款工具生成了20个“爆款标题”。在商品推荐文案功能中，输入商品名称、品牌等几个要素，可以瞬间生成几百字的种草笔记。这些伪装成真人亲测的分享内容，在生成的过程中，不需要任何真实出行经历、产品使用体验，完全由AI杜撰、虚构。
无论是对于平台、创作者还是庞大的用户群体，AI批量生成的低质内容都会带来前所未有的冲击。
某社交平台社区用户信任中心负责人介绍，在做大范围用户调研时发现，有接近三成的用户对于AIGC的内容接受度并不高。
全国首例涉AI代写“种草笔记”不正当竞争案宣判
近日，浙江省杭州市中级人民法院披露了一起涉及某社交平台AI批量代写种草笔记典型案例，作为全国首例涉及AI代写“种草笔记”的不正当竞争案件，判决为生成式人工智能服务提供者划定了合理的注意义务边界。
据介绍，原告是知名社交平台的经营者，该平台规则和平台公约均强调要真实体验和经历分享，本案被告B公司和C公司共同运营一款AI写作工具，该工具可定向为用户提供上述社交平台风格的种草文案、旅游攻略等内容的一键生成服务，并诱导用户发布文案到该社交平台。原告认为被告的行为破坏了该社交平台真实的种草内容生态，向法院提起诉讼，要求后者停止著作权侵权及不正当竞争行为。
法官助理 张宗滨：本案被诉的这个AI写作工具，有网页版、App、微信小程序三种版本。它的热门模块直接展示了某社交平台种草文案、旅游攻略、笔记标题等服务模块，并且服务模块的名称直接采用了该社交平台相关的命名，并直接使用根据产品特点帮你生成“符合平台调性的分享文案”等宣传语。点击一键创作就可以直接生成一篇几百字绘声绘色的一个文案的内容。
张宗滨介绍，本案的核心争议焦点主要是：针对该社交平台定向提供生成式人工智能服务是否构成不正当竞争。《中华人民共和国反不正当竞争法》第二条规定，不正当竞争行为是指经营者在生产经营活动中，违反本法规定，扰乱市场竞争秩序，损害其他经营者或者消费者的合法权益的行为。
随着我国《网络反不正当竞争暂行规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等文件落地，国家层面对AI服务提供者的合规义务提出了明确要求：此类服务应当尊重知识产权、商业道德。在审理中，法院首先明确了原告通过长期经营积累的真实内容生态，属于受法律保护的竞争性权益。
张宗滨：A公司通过长期的经营，投入了大量的成本、人力、物力，产生和积累了大量的种草笔记内容，形成了以真实体验为核心的种草内容生态。这个生态也是其获得商业利益和竞争优势的核心资源，所以我们认为《中华人民共和国反不正当竞争法》可以保护的竞争性权益。
而基于生成式人工智能服务的特点，被告无论是从行为方式还是行为目的来说，没有尽到合理注意义务。
张宗滨介绍，在本案中，法院创新性地提出了“四要素判定法”，判决被告B、C公司赔偿原告经济损失及合理开支共计10万元。
第一，被诉服务是否属于生成式人工智能服务。
第二，被诉服务是否以特定场景作为应用层？结合到本案当中来，被诉服务的模块名称直接使用了某知名平台种草文案等表述，并且它是以该社交平台作为特定的商业应用层，而并非通用的AI工具。
第三，被诉服务是否带有明确的指向性和诱导性？结合本案当中被诉的服务模块，都是要诱导用户发布未经真实体验的相关的文案的内容。
第四，关于被诉服务是否属于营利性的商业行为，结合到本案当中，该AI写作工具的相关页面就显示终身会员是168元，年会员是98元，月会员是40元，具有明确的商业利益驱动。
从治理的角度来说，该案判决的生效不仅是对原告合法诉求的回应，也明确了生成式人工智能服务提供者合理的注意义务边界，为治理提供了参照准则。
张宗滨认为，未来要关注模型研发、内容生成到合规管控等多个环节，形成全链条共治格局。
首先，要确保训练的数据和模型设计合规，不得将模型定向优化为生成特定平台的违规内容。
第二，要加强风险提示和内容管控，要以显著的方式提示AI生成内容的局限性，明确禁止用于发布虚假的信息，也要遵守特定的平台规则，限制定向用于特定平台的违规的场景。
第三，要做好内容标识和用户数据保护。
第四，要建立投诉举报机制，对于违法或侵权的内容要及时处置。
编辑：王玉西 责任编辑：刘亮
浏览量：
92 
大字号
京公网安备11010702003049号
