央广网北京5月11日消息（总台中国之声记者周益帆）据中央广播电视总台中国之声《新闻晚高峰》报道，随着生成式人工智能技术的飞速发展，大模型在文本生成、图像创作等领域的应用日益普及。然而，这项旨在提高生产力的技术，却被一些黑灰产从业者盯上。网络上，出现了一批主打“一键生成爆款种草笔记”的AI写作工具，这些工具以极低的成本，批量炮制虚假消费体验和商品推荐。
对于以“真实分享”为核心竞争力的社交和内容平台而言，此类低成本、零门槛批量生成的仿真实内容，让普通消费者在海量“AI水军”面前难辨真伪，严重挤压了优质原创创作者的生存空间。
近日，中央网信办部署开展“清朗·整治AI应用乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。这些“数字泔水”从何而来？又该如何治理？
“输入几个关键词，AI帮你全自动写出爆款种草文案……”在各大短视频平台和二手交易网站上，“利用AI自动化起号”“批量做矩阵号”成为了不少网络课程的噱头。购买过此类课程的消费者王馨（化名）接受中国之声采访时说：“录播课教你怎么用AI，给了一些指令，用AI写作、起号等，分析一下热门赛道，然后就让AI分析、写出爆款帖子。
记者搜索发现，类似的课程及工具在网络上有不少，在二手平台，花几毛钱就可以买到破解版软件及教学视频。
在黑猫投诉平台，一款被多位消费者投诉的AI写作助手，终身会员199元，提供工作总结、论文撰写、小说创作、短视频脚本、社交平台笔记标题生成等上百种服务，记者仅输入笔记主题，不到一分钟的时间，该款工具生成了20个“爆款标题”；在商品推荐文案功能中，输入商品名称、品牌等几个要素，可以瞬间生成几百字的种草笔记。这些伪装成真人亲测的分享内容，在生成的过程中，不需要任何真实出行经历、产品使用体验，完全由AI杜撰、虚构。
