用AI“治理AI”，网络谣言治理应有新解法

  近日，“贵州文昌阁多只小猫被挖眼砍断四肢”等话题在网上引发关注，相关内容为：“有网友发布视频称，在贵州贵阳文昌阁附近发生多起虐待或虐杀小猫事件，其中包括一只常被游客打卡拍照的网红猫。”然而警方调查没有发现虐猫情况。后确认，此事系AI编造谣言，造谣者已被行政处罚。

图片来源于网络，如有侵权，请联系删除

  这只是众多AI传谣事件之一。随着AI技术普及，网络谣言中AI谣言的比重不断上升，曾经“有图有真相”，如今有图也不一定是真相，甚至有虚拟合成的视频“加持”，增加了网友辨别真假的难度。

  “造谣一张嘴，辟谣跑断腿”

  近年来，网络谣言的相关议题受到社会各界的广泛关注。一方面，谣言伴随着热点事件频出，呈现传播速度更快、隐蔽性更强的特点；另一方面，技术发展使谣言内容生产门槛降低，“几秒生成”的AI视频降低了造假、传谣的成本。

  可见，AI时代信息交流和保护的语境中存在着复杂性和多变性，这些都给网络空间的信息治理带来了前所未有的挑战。在互联网平台，谣言不仅“跑”得快，规模大，还擅长伪装。互联网平台的不实信息治理，犹如在一群飞驰的野马中，精准识别出“害群之马”，并及时套缰“悬崖勒马”。

  复旦大学新闻学院副院长周葆华此前曾表示，在新的网络环境与媒介形式下，不实信息受多种因素影响，可能产生于生成、传播、演化等环节当中。从传播过程来看，信息在传播过程中存在损耗，缺少部分核心要素与前后语境，带来传播偏差、理解偏差与场景偏差，从而导致不实信息。相较以往，真实与虚假的边界模糊，不实信息的内涵更加复杂，其生成、传播与演化机制更加复杂，类别更加多样，治理面临更多难题。

  露头就打，AI赋能不实信息治理

  如今，网络谣言治理有了新解法。近期，抖音已在谣言治理工作中引入AI大模型技术，力求实现对谣言“发现即管控”。

  以今年7月份，网络平台上一度流传“老年人乘坐高铁将有新的优惠折扣”的不实信息为例。抖音方面介绍，当这一内容产生一定热度时，即平台谣言治理智能体“捕获”。

  首先智能体对视频内容进行了拆解，包括画面、音频、文字等，然后理解其内容，提炼其主旨。

  破除谣言的本质是“探寻真相”。智能体随即全网检索相关信息，重点关注相关政府部门官网、权威媒体和有丰富信源的辟谣库，提出权威重点信息，比如，12306客服否认该消息，上海辟谣平台也发布了相关内容。结合上述信息，进行研判该，内容系捏造事实，并给出重要度——容易给公众误导，风险高。平台随即处置相关内容，同时入库回扫平台上存在的其他相关内容，拦截这类谣言内容的新增，进一步降低谣言传播风险。

  按照以传统的谣言治理方式，发现谣言往往需要依靠媒体报道或机构发声，有了辟谣信号，才能由人工将谣言信息点纳入谣言库，单例谣言的发现和处置时效需以“天”为单位。如今，谣言治理大模型的效率明显提高，能够相对快速、大范围遏制住传谣。

  据抖音数据，在大模型技术助力下，近一个季度以来，抖音谣言内容曝光量下降67%。大模型识别准确率达85%，目前仍在持续提升中。

  共建谣言“认知防线”，“一个都不能少”

  近年来，抖音持续丰富辟谣相关的产品及内容生态。今年4月，抖音曾推出“辟谣卡”功能。当用户搜索一些涉及谣言的信息时，搜索结果会以辟谣卡片形式呈现。9月16日，抖音又宣布升级推出“AI抖音求真”功能。在浏览一些易产生误解的内容和搜索谣言相关信息时，用户均可通过“求真卡”获知事件完整信息及辟谣内容。

  除产品层面，抖音近年来也通过热点运营、辟谣账号运营、建立媒体辟谣团等方式，持续打造辟谣内容生态。辟谣运营团队在发现一些谣言风险信号时，会主动向当事人或有关部门核实内容真伪。

  谣言就像网络世界的病毒，不仅扰乱平台环境，损害平台公信力，更对公众认知乃至社会秩序构成威胁。平台通过提升产品功能、打造辟谣内容生态，有助于用户提升识谣、辟谣的主动性与辨别力。但仍需认识到的是，即使技术在进步，谣言治理仍面临困难，仅依靠平台的力量是不够的。

  不实信息治理不是某一方的“独角戏”，而是复杂的系统性工程，不仅需要平台的技术防御，也需要各方共建“认知防线”。网络平台通过技术手段不断加码不实信息治理工作。受众面对纷繁复杂的网络信息，擦亮双眼、提升认知水平、避免被误导和被利用，也是应有之义。应对不实信息，需要政府、媒体、平台、创作者、网民等社会各方发力，“一个都不能少”，共同治理网络不实信息，打造一个全民参与共筑防线的良性辟谣生态。