Can Large Language Models Detect Rumors on Social Media?

论文信息

论文标题：Can Large Language Models Detect Rumors on Social Media?
论文作者：刘强、陶翔、吴俊飞、吴舒、王亮
论文来源：
发布时间：2024-02-06
论文地址：link
论文代码：link

1 介绍

1.1 研究动机

  研究动机围绕社交媒体谣言检测的现实需求、现有方法局限及大型语言模型（LLMs）应用的矛盾点展开，具体可分为现实背景驱动、传统方法缺陷、LLMs 应用的机遇与挑战三部分：

A. 现实背景：社交媒体谣言传播的紧迫性

• 社交媒体的发展使信息获取更便捷、传播更快速，但也导致谣言更易扩散至公众，对网络环境和社会稳定造成负面影响，因此亟需自动谣言检测技术支撑（Castillo et al., 2011; Islam et al., 2020）1。
• 近年 LLMs（如 GPT 系列）虽在多领域取得成功，但也被用于故意生成大量不明信息（Vykopal et al., 2023; Chen and Shu, 2024），进一步加剧了社交媒体谣言传播的严峻性，使自动谣言检测的需求更迫切1。

B. 传统谣言检测方法的局限性

• 早期方法：仅聚焦传播过程的统计特征（Kwon et al., 2013; Ma et al., 2015），或通过循环网络、卷积网络等提取文本序列特征（Ma et al., 2016; Yu et al., 2017），无法充分建模 “新闻 + 评论” 的完整传播模式2。
• 主流图神经网络模型：虽能建模传播结构并取得当前最优性能（Bian et al., 2020; Lu and Li, 2020），但依赖大量标注训练数据，在少样本（few-shot）或零样本（zero-shot）场景中适应性差，难以应对现实中数据稀缺的情况4。
• 现有 LLMs 相关研究：部分工作尝试用 LLMs 识别信息真实性，但多局限于从文本提取知识（Yang et al., 2023）或仅分析新闻内容（Hu et al., 2024），未探索 LLMs 对 “新闻 + 评论” 完整传播信息的分析能力；且仅依赖新闻文本特征时，LLMs 难以获得理想检测结果（Hu et al., 2024; Chen and Shu, 2024）3。

C. LLMs 用于谣言检测的核心挑战（机遇背后的障碍）

  LLMs 虽具备强大的语言理解能力，但直接用于社交媒体谣言检测时面临两大关键问题，成为研究的核心突破口：

• 关键线索聚焦困难：LLMs 无法自动识别传播信息中的关键线索（如新闻中的常识错误、评论中的反驳观点），易因忽略核心信息导致错误预测5。
• 长上下文推理负担：社交媒体中新闻的评论数量通常极大（如 Weibo 数据集单条新闻平均评论数达 816 条），而 LLMs 存在输入长度限制，且面对长上下文或冗余信息时推理能力显著下降（Huang et al., 2023; Xie, 2023），难以处理大规模评论数据5。

1.2 研究问题

  基于上述动机，本文明确提出三大核心研究问题，涵盖 “可行性验证”“方法设计”“效果评估” 三个维度，具体如下：

A. 核心问题 1：LLMs 能否通过有效引导，利用 “新闻 + 评论” 的完整传播信息实现社交媒体谣言检测？

• 问题背景：现有 LLMs 相关研究未涉及完整传播信息，且直接使用 LLMs（如 GPT 3.5）时，因缺乏引导会拒绝判断（如回复 “无法验证实时事件”），需验证 “通过设计干预手段让 LLMs 聚焦关键线索” 的可行性6。
• 研究目标：突破 LLMs“仅依赖自身事实知识、无法分析传播线索” 的局限，探索让 LLMs 从新闻写作风格、常识逻辑，以及评论中的冲突 / 反驳观点切入，完成谣言推理的路径7。
• 对应方法支撑：设计 RP（Rational Prompts，引导分析新闻风格与常识）和 CP（Conflicting Prompts，引导分析评论冲突），通过 Tab.1 和 Tab.2 的对比实验验证：无提示时 LLMs 无法判断，有提示时能正确识别 “三星用硬币支付罚款”（假）、“山西高速车祸”（真）等案例。

B. 核心问题 2：如何缓解 LLMs 面对大量评论时的推理负担，实现对大规模传播信息的有效处理？

• 问题背景：实验表明，当评论数量超过 100 条时，LLMs 的检测准确率会急剧下降（Fig.2），需解决 “输入长度限制” 与 “大规模评论数据” 的矛盾10。
• 研究目标：设计一种拆分传播信息的策略，让 LLMs 分步处理评论，在每一步保持合理的信息规模，同时确保推理的连贯性和完整性11。
• 对应方法支撑：提出 CoP（Chain-of-Propagation，传播链）策略：按评论发布时间排序，每步选取 100 条评论（LLMs 可处理的最优规模），让 LLMs 在同一会话中分步推理，后续步骤参考前序结果，最终以最后一步聚合所有信息的结果作为判断；Fig.5 验证，该策略使 LLMs 在评论数量增加时准确率不下降反而提升。

C. 核心问题 3：基于上述设计的 LeRuD 方法，在零样本场景下是否优于当前主流谣言检测模型，且具备早期检测能力？

• 问题背景：传统模型依赖训练数据，零样本场景表现差；需验证 LeRuD “无需训练数据” 的优势，以及在谣言传播早期（评论较少时）的检测性能，以满足现实中 “快速识别谣言” 的需求12。
• 研究目标：
  1. 在 Twitter 和 Weibo 数据集上，对比 LeRuD 与图神经网络模型（BIGCN、DDGCN 等）、LLMs 相关模型（CICAN、ARG）的性能；
  2. 评估 LeRuD 在不同检测 deadlines（传播早期）的表现，验证其对 “评论数量依赖低” 的特性。
• 对应实验支撑：
  1. 性能对比：LeRuD 在 Twitter 上准确率达 94.01%，较最佳基线（CICAN）提升 3.19%；在 Weibo 上准确率达 98.09%，较最佳基线（DDGCN）提升 3.95%，且所有指标（精确率、召回率、F1 分数）均为最优；
  2. 早期检测：Fig.4 显示，无论检测 deadlines 如何（如传播 1 小时内、3 小时内），LeRuD 均显著优于所有基线，证明其无需依赖大量评论即可实现高效检测；
  3. 消融实验：去除 RP、CP 或 CoP 任一模块后，LeRuD 性能均下降（如去除 CP 后准确率下降 2.5%-4.8%），验证三大模块的必要性。

2 方法

  LeRuD（LLM-empowered Rumor Detection）方法，通过 “问题定义 - 提示设计 - 传播链拆分” 三层逻辑，解决 LLMs 在社交媒体谣言检测中 “关键线索聚焦难” 和 “长上下文推理负担重” 的核心问题：

2.1 问题定义

核心目标

  明确社交媒体谣言检测的任务边界，将 “新闻 + 评论” 的传播信息转化为 LLMs 可处理的输入形式，最终实现 “判断新闻真伪” 的二分类任务。

关键符号与定义

符号 / 术语	具体含义	细节说明
$n$	新闻内容	单条社交媒体新闻的文本段落，是谣言检测的核心对象之一，需分析其写作风格、常识合理性等特征
$C = \{(c_1, t_1), (c_2, t_2), ...\}$	评论集合	-$c_i$ ：第 $i$ 条评论的文本内容，包含用户对新闻的态度、质疑、反驳等关键信息-$t_i$ ：第 $i$条评论相对于原新闻的发布时间（相对时间），用于后续按时间序拆分传播链
任务输出	新闻真伪标签	二分类结果：“Fake（谣言）” 或 “Real（真实新闻）”，需同时结合n和C的特征推理得出

与传统方法的差异

  传统方法多将 “新闻 + 评论” 视为独立文本序列或图结构数据，而本节将其定义为 “带时间戳的新闻 - 评论对”，既保留传播的时序特性，又明确 LLMs 需同时建模 “新闻内容合理性” 和 “评论态度一致性” 两大维度，为后续提示设计和传播链拆分奠定基础。

2.2 RP: Rational Prompts for News（新闻理性提示）

设计动机

  解决 LLMs “无法自动聚焦新闻关键线索” 的问题：无引导时，LLMs 会因缺乏推理方向（如仅依赖自身训练数据中的事实，无法分析未知事件）拒绝判断（如回复 “无法验证实时新闻”），需通过提示引导其关注新闻中的可推理线索。

核心设计逻辑

  参考现有谣言检测研究（Przybyla, 2020; Hu et al., 2024），明确新闻中区分谣言的两大关键线索：

1. 1. 写作风格：真实新闻通常具备 “正式、细节完整、符合报道范式” 的特征，谣言常存在 “非正式、夸张、细节模糊” 的问题；
   2. 常识知识：谣言常包含违背现实逻辑的内容（如 “用 200 亿硬币支付罚款”“卡车载重 3000 吨”），真实新闻则符合常识合理性。

  因此，RP 提示的核心指令为：（基于写作风格和常识知识，评估新闻可信度）

  “Based on the writing style and the commonsense knowledge, estimate the credibility of the news.”

效果验证

  通过两个典型案例验证 RP 的有效性，具体如下：

提示类型	提示内容与输出结果	关键推理线索（红色下划线标注）
普通提示（Vanilla Prompt）	新闻内容：“三星向苹果支付 10 亿美元罚款，用 30 辆卡车运送 200 亿枚硬币！” 请验证该新闻的可信度，并从以下选项中选择答案：A. 虚假，B. 真实。 输出结果：我无法验证实时或特定新闻事件的可信度，因为我的训练数据仅包含截至 2022 年 1 月的信息，且不具备访问互联网获取实时更新的能力。
理性提示（Rational Prompt）	新闻内容：“三星向苹果支付 10 亿美元罚款，用 30 辆卡车运送 200 亿枚硬币！” 请基于写作风格和常识知识，评估该新闻的可信度，并从以下选项中选择答案：A. 虚假，B. 真实。 输出结果：三星用 30 辆卡车运送 200 亿枚硬币向苹果支付 10 亿美元罚款的新闻，似乎极其难以置信且不切实际。该新闻缺乏具体细节，且采用如此非常规的支付方式，令人对其信息可信度产生怀疑。因此，最恰当的答案是：A. 虚假。	- 常识漏洞：硬币支付的可行性、卡车载重逻辑 - 写作风格：无具体来源 / 细节，偏向夸张
普通提示（Vanilla Prompt）	新闻内容：“今日早晨 7 时左右，山西大运高速运城至侯马段（距离侯马 9.3 公里处）发生一起重大交通事故，共 47 辆车连环相撞，造成 3 人死亡、7 人受伤。” 请验证该新闻的可信度，并从以下选项中选择答案：A. 虚假，B. 真实。 输出结果：我无法验证实时或特定新闻事件的可信度，因为我的训练数据仅包含截至 2022 年 1 月的信息，且不具备访问互联网获取实时更新的能力。
理性提示（Rational Prompt）	新闻内容：“今日早晨 7 时左右，山西大运高速运城至侯马段（距离侯马 9.3 公里处）发生一起重大交通事故，共 47 辆车连环相撞，造成 3 人死亡、7 人受伤。” 请基于写作风格和常识知识，评估该新闻的可信度，并从以下选项中选择答案：A. 虚假，B. 真实。 输出结果：这则关于山西大运高速运城至侯马段发生重大交通事故的新闻，表述直接且符合事实风格。新闻包含了事件发生的时间、地点、涉事车辆数量以及报告的伤亡情况（3 人死亡、7 人受伤）等具体细节。虽然我无法独立验证该信息，但从常识判断，这则新闻看似合理，且表述方式与典型的交通事故报道一致。因此，基于写作风格和常识，该新闻应判定为：B. 真实。	- 写作风格：正式、细节完整，符合报道范式 - 常识合理性：高速车祸具备发生可能性，细节无矛盾

核心价值

  RP 首次让 LLMs 摆脱 “依赖已知事实” 的局限，转向 “基于可观测线索推理”，即使面对训练数据中未涵盖的事件，也能通过风格分析和常识判断得出结论，为后续结合评论信息奠定基础。

2.3 CP: Conflicting Prompts for Comments（评论冲突提示）

设计动机

  解决 LLMs“仅依赖评论中‘是否有明确证据’判断，易误判真实新闻” 的问题：无引导时，LLMs 若未在评论中找到直接支持新闻的证据（尤其谣言传播早期，证据常不充分），会倾向判定为 “Fake”；而真实场景中，评论的 “无反驳 / 无冲突” 本身就是支持新闻真实性的重要信号。

核心设计逻辑

  参考现有研究（Ma et al., 2016; Liu et al., 2018），明确评论中区分谣言的关键线索：反驳（rebuttals）或冲突（conflicts）—— 谣言的评论常包含 “直接质疑”“事实矛盾”“明确辟谣” 等内容，真实新闻的评论多为 “情绪表达”“事件讨论”，无明显冲突。

  因此，CP 提示的核心指令为：(基于评论分析是否存在反驳或冲突，进而验证新闻真实性）

  “Based on the comments, analyze whether there are any rebuttals or conflicts, and accordingly verify the authenticity of the news.”

效果验证

提示类型	提示内容与输出结果	关键问题 / 改进
普通提示（Vanilla Prompt）	新闻内容：“今日早晨 7 时左右，山西大运高速运城至侯马段（距离侯马 9.3 公里处）发生一起重大交通事故，共 47 辆车连环相撞，造成 3 人死亡、7 人受伤。” 该新闻的相关评论如下：“天啊！”“祈福……”“这么大的雾，高速为什么不封路？”“转发”“珍爱生命！”“太吓人了！”“祈福。”“开车小心，注意安全。”“太震惊了……” 请根据这些评论验证该新闻的真实性，并从以下选项中选择答案：A. 虚假，B. 真实。 输出结果：根据所提供的评论，无法直接判定该新闻的真实性。这些评论表达了对事件的震惊、担忧和质疑，但未提供任何具体证据或新闻来源相关信息。因此，答案为：A. 虚假。	错误逻辑：将 “无明确支持证据” 等同于 “新闻为假”，忽略 “无反驳 = 潜在真实” 的线索
冲突提示（Conflicting Prompt）	新闻内容：“今日早晨 7 时左右，山西大运高速运城至侯马段（距离侯马 9.3 公里处）发生一起重大交通事故，共 47 辆车连环相撞，造成 3 人死亡、7 人受伤。” 该新闻的相关评论如下：“天啊！”“祈福……”“这么大的雾，高速为什么不封路？”“转发”“珍爱生命！”“太吓人了！”“祈福。”“开车小心，注意安全。”“太震惊了……” 请根据这些评论，分析是否存在反驳或冲突观点，并据此验证新闻的真实性，再从以下选项中选择答案：A. 虚假，B. 真实。 输出结果：这些评论主要表达了对事件的震惊、担忧，以及对事故责任的质疑。部分评论批评了大雾天气下未关闭高速的决策，暗示可能存在疏忽；同时也有评论呼吁在此类天气下注意行车安全。评论中似乎不存在任何直接的反驳或冲突观点，相反，评论整体聚焦于情绪表达、对事件信息的探寻，以及对大雾天气下高速封路决策的质疑。根据对评论的分析，目前没有明确的对立观点可对新闻的真实性产生怀疑，评论者提出的担忧与新闻报道中的细节相符。因此，答案为：B. 真实。	正确逻辑：聚焦 “是否有冲突”，而非 “是否有支持证据”，符合社交媒体传播早期的信息特征（证据少但无反驳）

核心价值

  CP 让 LLMs 学会利用 “群体智慧的一致性” 判断：真实新闻的评论往往形成 “无冲突共识”，谣言则因逻辑漏洞引发评论质疑，这一设计填补了 LLMs 对 “评论态度隐含线索” 的挖掘空白。

2.4 CoP: Chain-of-Propagation（传播链）

设计动机

  解决 LLMs “面对大量评论时推理能力下降” 的问题：

1. 1. 输入长度限制：LLMs（如 GPT 3.5）存在固定输入长度上限，无法一次性处理社交媒体中动辄数百条的评论；
   2. 长上下文冗余干扰：实验表明（Fig.2），当评论数量超过 100 条时，LLMs 的检测准确率急剧下降（如 Twitter 数据集评论数＞300 时准确率＜0.4），因冗余信息会干扰关键线索识别。

核心设计逻辑

  借鉴 LLMs 复杂任务拆解思路（Wei et al., 2022; Wang et al., 2023），将 “大规模评论处理” 拆分为 “多步小规模推理”，核心原则如下：

1. 1. 时序性拆分：按评论发布时间（ $t_i$ ）排序，确保每步推理符合信息传播的时间逻辑（早期评论反映初始态度，后期评论可能包含更多反驳 / 验证）；
   2. 固定步长设置：每步选取 $k=100$ 条评论（实验验证的 LLMs 最优处理规模，Fig.2 显示评论数≤100 时 LLMs 准确率稳定）；
   3. 上下文连贯性：所有推理步骤在 LLMs 同一会话中完成，后续步骤可参考前序结果，避免信息丢失；
   4. 最终结果聚合：以最后一步推理结果作为最终判断，因最后一步已涵盖所有评论的信息，且参考了前序步骤的结论。

  Fig.2 实验

    步骤：

1. 1. 数据划分：将 Twitter 和 Weibo 数据集的新闻评论数量划分为不同区间（如 Twitter 的 [0,100]、(100,200]、(200,300]、(300,∞)；Weibo 的 [0,100]、(100,500]、(500,1000]、(1000,∞)）。

   2. Prompt 设计：使用 Rational and Conflicting Prompts 提示，例如：“There is a piece of news: "Famous actor Morgan Freeman passed away in Los Angeles due to a heart attack." There are comments for the news: "A great actor!" "Blessing." "So suddenly." "One of my favorite actors..." ......  You need to do: (1) Based on the writing style and the commonsense knowledge, estimate the credibility of the news. (2) Based on the comments, analyze whether there are any rebuttals or conflicts, and then accordingly verify the authenticity of the news. Based on  above results, please choose the answer from the following options: A. Fake, B. Real.”

   3. 推理与统计：让 LLMs 在每个评论数量区间下，基于上述 Prompt 对新闻真伪进行判断，最后统计每个区间的准确率，从而得到 Figure 2 所示的 “评论数量越多，LLMs 准确率越低” 的实验结果，验证了 LLMs 在处理大量评论时的推理困境。

   4. 备注：当样本输入长度超限时，采用随机选取该样本部分注释作为输入的方式处理。

    实验结果：

    

具体流程

  以 “摩根・弗里曼去世” 的谣言检测为例，CoP 流程如下：

1. 1. Step 1：输入新闻 + 前 100 条评论（含 “这是假的！”“没看到相关报道，反而有他为 SIRI 配音的新闻” 等反驳），通过 RP+CP 推理，判定为 “Fake”；
   2. Step 2：输入新闻 + 第 101-200 条评论（含 “摩根・弗里曼又‘被去世’了？” 等质疑），参考 Step 1 结果，再次判定为 “Fake”；
   3. Step 3：输入新闻 + 第 201-300 条评论（无反驳，仅表达哀悼），参考前两步结果，虽本步无冲突，但结合历史结论仍判定为 “Fake”；
   4. Final Output：聚合三步结果，最终判定新闻为 “Fake”。

 方法

   

核心价值

1. 突破长度限制：通过拆分，LLMs 可处理任意数量的评论，解决 “输入溢出” 问题；
2. 提升推理精度：Fig.5 验证，随着评论数量增加，LeRuD 准确率不下降反而提升（如 Weibo 数据集评论数＞300 时准确率仍＞0.98），因更多评论提供了更充分的冲突 / 支持线索；
3. 适配早期检测：即使传播早期评论较少（如仅 50 条），CoP 仍能通过单步推理得出准确结果，为 “谣言快速识别” 提供可能。