阅读笔记

以下为个人阅读笔记，原文见 arXiv:2606.11482v1。

论文阅读笔记：Building Social World Models with Large Language Models

1. 研究背景与动机

论文旨在解决社会科学中的一个根本性挑战：理解并预测社会信念（social beliefs）如何随事件（如政策变化、科学突破）而演变。作者指出，尽管大型语言模型（LLMs）具备常识知识和社会智能，但能否利用它们来建模社会事件后的社会信念动态仍是一个待验证的问题。

论文认为，社会信念塑造了不同的人类社区和人类未来。例如，关于通用人工智能（AGI）是否会在五年内出现，或谁将成为下一任美国总统的信念，都具有深远影响。虽然某些广泛接受的信念不易改变，但其他信念则具有高度波动性，会因社会事件而发生剧烈转变。

为了直观展示社会事件如何塑造未来的社会信念，论文引用了真实世界的预测市场数据。如图 1 所示，突发事件会触发多个社会信念的突然转变。例如，2024 年 11 月 6 日唐纳德·特朗普赢得总统选举这一事件，直接影响了公众对 2024 年 12 月美联储政策、Solana 加密货币价格以及其他政治事件的预期。

图 1 展示了社会事件如何塑造未来的社会信念。上图每条线追踪一个随时间变化的社会信念（源自 Polymarket 数据），一个突发新闻事件触发了多个信念的突然转变。下图举例说明了社会事件如何直接或间接地驱动社会信念的变化。SWM 的目标是基于历史状态和（假设的）社会事件来预测这些信念的演变。

2. 建模社会信念动态的三大挑战

论文指出，建模社会信念的动态涉及三个层级挑战，需要根本性的方法转变：

1. 可量化性与数据稀缺（C1）：社会信念是语义驱动的，难以像物理状态那样捕捉为结构化数据。缺乏高保真的时间序列数据使得建立标准化基准以评估信念演变变得几乎不可能。
2. 社会转换的语义复杂性（C2）：即使有数据，支配社会转变的机制也是非符号化且语义驱动的。社会动态由微妙的心理学和文化背景驱动，而非明确的编码法则，传统统计或符号模型往往无法捕捉这些隐含的转换规则。
3. 缺乏明确的归因标签（C3）：即使观察到信念转变，特定事件与该转变之间的关系往往被掩盖。缺乏将事件与信念转变联系起来的明确监督标签（即“事件到转变”标签），使得模型难以学习社会信念动态背后的机制。

3. 社会世界模型（SWM）框架

为了解决上述挑战，作者提出了社会世界模型（Social World Model, SWM）。这是一个生成式框架，通过状态转换范式来表征社会信念动态，即 $P(s_{t+1} | s_t, e_t)$。

SWM 在概念上类似于经典的世界模型，它将集体信念视为语义状态，将社会事件视为外生动作。SWM 的实现涉及三个关键技术突破：

1. 基于预测市场数据的“状态” grounding：为了解决数据稀缺问题，作者利用预测市场数据作为集体信念的代理。预测市场中的价格波动被视为社会信念强度的近似。
2. 利用 LLM 作为“转换引擎”：为了应对语义复杂性，SWM 利用 LLM 作为骨干。通过利用 LLM 在人类话语上的大规模预训练，使其作为认知引擎，提供模拟复杂背景如何驱动信念转变所需的常识推理和社会知识。
3. 后验引导机制（Posterior-guided Mechanism）：为了解决归因标签缺失问题，作者引入了后验分布。利用观察到的未来转变 $s_{t+1}$ 来提供高保真训练信号。这种“后验引导”使模型能够执行逆推理，有效地收集归因的伪标签，并赋予 SWM 反事实推理能力。

论文展示了 SWM 的训练框架概览，如图 2 所示。该架构采用 LLM 作为三个核心组件的骨干，包括状态编码、转换建模和后验引导。

图 2 展示了社会世界模型训练框架的概览。该架构采用 LLM 作为骨干，用于三个核心组件：状态编码、转换建模和后验引导。

4. 基准测试与数据构建（SWM-Bench）

为了评估 SWM，作者引入了一个基准测试 SWM-Bench。该基准源自现实世界的预测市场，具体包括 Kalshi 和 Polymarket 两个平台。

SWM-Bench 包含超过 12,000 个数据点，涵盖政治、金融和加密货币等多个领域的社会信念预测任务。作者选择预测市场数据的原因在于其具有三个关键特征：

1. 不确定性约束：市场天然围绕不确定的结果形成，过滤掉了琐碎或普遍共识的知识。
2. 多样性和规模：广泛的参与者基础确保了价格信号代表了更广泛的公众意见，而非自我选择的用户群体。
3. 高保真度：将潜在的社会信念转化为可测量的、高保真的时间序列格式，为评估信念演变提供了必要的地面真值（Ground Truth）。

5. 实验结果与分析

论文在 SWM-Bench 上进行了实证评估，结果显示 SWM 在多个方面表现优异：

• Kalshi 数据集：SWM 取得了最先进（SOTA）的结果，在方向准确性（Directional Accuracy）上比 GPT-5.5 等基线模型提高了 4%。
• Polymarket 数据集：SWM 展示了具有竞争力的性能。
• 可解释性：除了预测性能，SWM 还提供了对社会信念动态潜在机制的可解释洞察。

实验结果表明，SWM 显著优于时间序列基础模型。作者认为，这是因为 SWM 能够捕捉由语义驱动的、隐含的社会动态转换规则，而不仅仅是拟合数值模式。

6. 总结与贡献

论文的核心贡献可以总结为以下三点：

1. 建立了 SWM-Bench：这是首批从现实世界预测市场数据整理的评估基准之一，将社会信念转化为可量化的时间序列格式。
2. 引入了社会世界模型框架：利用 LLM 驱动的架构来捕捉社会动态的语义驱动、隐含转换规则。
3. 提出了后验监督训练范式：通过将社会推理与动态建模解耦，解决了归因标签问题。

综上所述，这项工作为社会共识的建模和预测提供了一条新的流水线，展示了利用 LLM 理解社会信念动态的潜力。