医学泰斗客死他乡？AI小作文批量如何炮制？对话已被抓获的网络水军成员

现在通过AI生成发布1万条500字左右的小作文有多快？1个AI软件1个小时就能做到。

通过对“资讯池”内容的采集，结合AI加工后，大量自媒体号不实贴文便能自动生成并发布，变为一条条看似货真价实的“新闻”，而内容发布者甚至没阅读过生成的文章内容……

3月下旬，一则“‘医学泰斗’华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长椅”的消息在网络流传。后经上海警方核实确认，该条消息为网络谣言。

4月22日，澎湃新闻（www.thepaper.cn）记者从上海市公安局获悉，编造该谣言的网络水军团伙被捣毁，3名犯罪嫌疑人已被上海静安警方依法采取刑事强制措施，相关违法账号被依法封禁。

“华山医院前院长客死他乡”的虚假消息。上海市公安局供图

经查，自2025年2月起，犯罪嫌疑人王某某、郭某某、石某某等3人成立了工作室，通过自媒体账号发文吸粉引流牟利。他们通过控制500余个自媒体账号，设置社会热点、明星绯闻、爆款推荐等关键词策略，引导AI软件自动生成并发布不实贴文30余万条，造成恶劣社会影响。截至案发，非法牟利共计4万余元。目前，案件正在进一步侦办中。

记者了解到，今年以来，上海公安按照“以打开路、以打促治”思路重拳出击，全量清理造谣传谣信息，分级惩治涉谣账号，严厉打击“造热点”“带节奏”的网络水军。截至目前，已破获网络水军案件15起，抓获38名违法犯罪嫌疑人。

网络上的不实信息五花八门，用AI软件批量生产小作文的模式究竟是如何运作的？犯罪嫌疑人又是如何看待自身行为及产生的虚假信息风险？4月22日上午，澎湃新闻记者来到上海静安区看守所，采访了犯罪嫌疑人王某某和上海市公安局网安总队。

公安机关审讯犯罪嫌疑人。上海市公安局供图

【对话犯罪嫌疑人】

澎湃新闻：“张明远”这个名字、身份信息及“病死”经历是从哪里获悉的？

王某某：4月19日警方找到我时告诉我，我在某平台发布的文章涉嫌造谣，当时我并不知道具体是哪条。直到现在我才大概了解到“张明远”这篇文章的具体内容，文章在发布时我没看过，完全没意识到这是AI虚构编造出来的，此前我也不知道上海有华山医院。

澎湃新闻：做AI生产发布“小作文”这个“生意”多久了？为何会对内容如此放心？

王某某：我们是从今年2月开始，在某App内按热度榜去采集别人发布过的内容，再用AI输入关键词批量“搬运加工”，生成后我们就通过软件直接发布。该App内包含大部分网络上的资讯，官方媒体、自媒体都有，我们想都是别人发过的内容，就没有核实内容的真实性。另一方面，出于对平台内容同质化的管理要求，我们也会通过AI“再加工”，“张明远”就是这样生产出来的。

澎湃新闻：你对自己发布的内容是如何分类界定的？现在跳脱出自媒体从业者身份后，作为普通读者，又是如何看待的？

王某某：我们本身做的是短资讯类消息，内容也会限定在体育、娱乐、职场、养老等领域，当时我们只觉得自己做的是日常信息、观点分享，类似于社交平台的内容发布。

（现在回过头来看），作为读者我肯定认为这些社会领域的内容是新闻类型的，我们在内容发布时没有把握好尺度，太急功近利了，没有意识到造谣会产生的不良后果。

澎湃新闻：除了这次因“张明远”文章被公安机关处罚外，此前你也有被平台处罚过的经历，为什么还在做？

王某某：此前做的娱乐领域比较多，在某女明星去世时，我记得有篇文章因为谈到她孩子抚养权的问题被平台扣分。这篇文章也是按热度采集，再用AI改写的。当时觉得出问题可能只是偶发情况，没有意识到问题背后的风险及严重性。

【对话网安总队三队队长符斌】

澎湃新闻：“华山医院前院长客死他乡”这条谣言是怎么被关注到的？

符斌：3月5日，我们在日常巡查中发现，“华山医院前院长客死他乡”的消息先在圈群中广泛传播，随后又传播到网络平台上。我们随即联系属地公安跟医院核实，确认为虚假信息后，我们就立即开展了调查。

澎湃新闻：日常工作中公安机关对网络谣言有哪些发现查处机制？

符斌：针对网络谣言的发现处置，我们除了落实技术+人工的巡查制度外，也有相应的举报机制。同时，公安机关网安部门与相关职能部门建立了“巡查监测-核查反馈-会商研判-线索移送-打击处置”的闭环机制。针对不实谣言信息，公安机关始终采取“零容忍”的态度，发现一起，处置一起。

澎湃新闻：从指导部门的角度看，造谣的目的有哪些？为何上海容易成为谣言的“背景板”？

符斌：谣言涉及的领域类型非常广泛，它本质上属于流量经济的一种劣化表现，造谣的目的究其根本在于养号涨粉带流量。当这些号的关注度达到了一定程度后，就可能进入开直播、带货的状态。贴文中一旦出现热门城市，流量就会有加成，所以很多谣言会选择热门城市作为“发生地”。