首页 > 3D快报内容详情

小红书曝光AIGC黑灰产乱象:AI批量生成同质化内容扰乱平台生态

4天前 177 大屏时代

近日,小红书发布了最新的“黑灰产账号治理进展公告”,披露了平台在过去三个月内采取的治理措施,重点打击黑灰产账号的两大主要行为:黑灰产养号和恶意营销。据统计,截至2025年2月17日,小红书共处置了超过320万个黑灰产账号,其中包括401个拥有10万粉丝以上的账号和9215个粉丝超过1万的账号。

66382f0e-5c7d-419d-be0b-8cba8e6fc11b.jpg

此次治理行动的核心问题之一是黑灰产团伙利用AI技术,通过AIGC(生成式人工智能)大模型批量生成同质化内容,进而通过虚假内容和热点跟风手段快速养号。这些内容大多缺乏原创性和创意,严重破坏了平台的内容质量和社区生态。特别是在短视频和二创视频领域,黑灰产团伙通过大量生成相似内容和建立营销矩阵,迅速积累了大量粉丝,造成了内容的极度同质化。

此外,黑灰产团伙还利用这些账号进行恶意营销,发布虚假信息和违法商品服务。例如,一些账号通过推广伪科学的占卜服务或帮助债务人规避债务的“逾期协商”服务来获取非法利益。同时,黑灰产团伙还在多个行业制造恶意内容,进行恶性竞争和虚假宣传,影响了旅游、教育等多个行业的正常生态。

小红书的治理团队表示,真人养号和AI批量生成内容的结合,已成为当前治理的重点对象。平台强调,这一系列黑灰产行为不仅损害了用户体验,也影响了平台的整体内容质量和可信度。为此,小红书计划继续加大打击力度,净化平台环境。

小红书自去年11月宣布启动全面治理黑灰产账号行动以来,已加大了对这些不法行为的打击力度,并表示将持续对AI技术在内容生成中的滥用进行监管,以保护平台生态的健康发展。

相关标签: 黑灰产 账号 内容 小红 治理 平台 团伙 AI 粉丝 生成