6月22日，IT之家报道，央视新闻于近日对网络上频繁出现的“AI造谣”现象进行了深入报道。报道中引用了公安部网络安全局披露的一起典型案例，该案例中，犯罪嫌疑人利用AI技术制作了一系列引人注目的虚假信息，例如“华山医院前院长张明远因阑尾炎未得到及时救治，最终在医院走廊不幸去世”等内容。这些信息随后被公之于众，引起了广泛关注。
上海市公安局静安分局网络安全支队民警透露，经过调查发现，华山医院并无名为“张明远”的前任院长，亦无同名的在职员工。同时，散布相关谣言的人并非该账号的注册者本人，该注册者系将账号注册完毕后，通过兼职工作将其转交他人使用。
图源央视新闻
警方经过深入调查，揭露了所谓“华山医院前院长不幸客逝异地”的虚假消息，该谣言出自一家自媒体工作室，该工作室的实际负责人为王某某、郭某某、石某某等三位人士。该工作室管理着约五百个自媒体平台，每日在网络中搜寻各类热点事件与资讯，借助人工智能技术自动撰写文章，未经核实便在其掌控的账号上发布，累计发布了超过十万条虚假信息，引发了极坏的社会效应。
据IT之家报道，王某某、郭某某、石某某等三人因涉嫌非法利用信息网络犯罪，上海静安警方已依法对其采取刑事强制措施。同时，涉及违法的账号也已依照法律规定被封禁。目前，该案件正处在进一步的调查处理阶段。
央视网指出，近年来，AI深度合成技术迅猛进步并广泛应用于各个领域，导致网络中频繁出现利用该技术制造谣言的现象。这些乱象不仅包括伪造的新闻内容，还有不法商家利用AI技术制作名人代言广告或视频，用以推销商品。国家互联网信息办公室正在进行专项打击行动，截至目前，该行动第一阶段已成功处理了3500多款违规的小程序、应用软件、智能体等人工智能产品，同时清理了超过96万条违法违规信息，并对3700多个账号进行了处理，各项工作均取得了显著的积极成效。
