CURP｜“用户码本”重构个性化生成：个性化大模型架构初探

引言：

当我们真的开始“大规模模拟一个具体的人”

个性化正在变得越来越重要。

在社会模拟、政策评估、医疗决策测试等场景中，我们不再满足于“模型能回答问题”，而是希望模型能够模拟规模化的不同个体在同一问题下的反应，从而了解大众对特定话题的真实想法。

举个例子：

我们评估“是否放宽医疗监管”，设定两位个体：

• 40 岁女性，教师，高宜人性，外向型

• 35 岁男性，工程师，高责任心，内向型

看似个性化，但实际运行中会暴露两个问题：

现实个体是多维、连续的，但建模时往往只依赖：少量标签，文本 persona 描述或简单参数注入。结果是：差异停留在标签层面，容易产生刻板印象，复杂问题上的行为差异有限。

无论是文本拼接还是模型微调，本质上都缺少结构化的个体表示。

但现实中，文本 persona 依赖有限标签集合，差异空间被压缩，增加标签数量，只是简单组合扩展，模型微调若走向逐个用户微调，成本迅速上升。结果导致，要么回答高度相似，难以反映真实多样性；要么差异可以表达，但无法规模化维护。

在社会模拟场景下，这意味着很难生成足够丰富、结构合理的群体行为分布。

如果个体表示本身是非结构化的，

那么无论拼接文本还是增加参数，都只是表层修补。

我们需要的，是一种新的基础设施：

• 能精细表达个体差异

• 能支持大规模多样化

• 又不依赖 per-user 模型复制

理论支持：人不是一个“固定标签”

社会心理学中的自我分类理论（Self-Categorization Theory, SCT） 给出了重要启发。

SCT 认为：

例如，一个人可能同时具备：

• #Teacher

• #CommunityOriented

• #RiskAverse

• #Calm

• #HighResponsibility

这些原型不是孤立标签，而是可以组合、叠加、动态变化的行为单元。

换句话说：

这为个性化建模提供了一个关键启发：

与其为每个用户单独建模，不如在一个共享原型空间中表示所有个体。

CURP：用原型码本重构个体表示

为什么“原型码本”同时解决两个问题？

① 解决多样化与规模化问题

• 所有个体共享同一套原型空间

• 所有数据被训练到统一参数结构中

• 差异来自“原型组合”，而不是“独立模型”

因此，多样性在统一空间中自然扩展，不需要 per-user 模型复制。

② 解决精细化问题

• 原型是离散且可组合的维度

• 不同语义维度可以被分解

• 差异可以在局部层面调节

相比粗粒度 persona 描述，这种结构更接近可精细控制的坐标系。

模型结构：让“用户”变成可组合的结构表示

① User Encoder：把“杂乱历史”压缩成可计算表示

真实的用户历史通常是：

• 长

• 分散

• 风格不稳定

• 含有大量无关噪声

如果直接拼接进 prompt，模型会面临两个问题：

• 上下文被迅速占满

• 无法自动提取稳定的用户特征

因此，第一步我们引入一个双向编码器（例如 Contriever），专门负责阅读用户历史。

它做的事情不是生成，而是理解——

把每条历史行为编码成向量表示，再通过 mean pooling 得到紧凑的历史特征。

这一阶段的目标可以概括为：

但到这里，我们还没有完成真正的用户建模。因为连续向量仍然是黑盒的、不稳定的，也不具备可解释性。

② Prototype Codebook：把连续向量变成“原型组合”

这是 CURP 的核心设计。

我们不直接使用连续 embedding，而是把它们映射到一个共享的原型空间中。

具体来说，我们基于约 15 万用户、2400 万条历史行为，构建了一个包含 1000 个原型的 codebook。每条历史行为会通过 Product Quantization 被拆分成 4 个子空间，并在每个子空间中选择一个最相近的原型索引。

于是，一条历史行为不再是一个难以解释的向量，而是：

可以理解为：

模型从大规模用户数据中自动学习出一组“典型行为模式”，而每个用户都可以由这些模式的组合来表示。

为什么要这么做？

因为离散原型有三个优势：

• 提升结构化表达能力

• 减少噪声干扰

• 便于分析和解释

为了避免原型塌缩（只使用少数原型），我们在训练中加入了三个约束：

• Lquant 保证量化后仍接近原始表示

• Ldiv 保持原型之间的差异性

• Lusage 促进所有原型被均匀使用

最终得到一个稳定、可泛化的“用户原型库”。

这一阶段解决的是：

③ LLM Decoder：在冻结状态下完成个性化生成

有了用户的原型表示之后，最后一步才是真正的生成。

我们将量化后的原型 embedding 通过一个小型 MLP 映射到 LLM 的 embedding 空间，然后与当前任务的 query 拼接，一起输入到冻结的 LLM Decoder中。

这里有两个关键点：

第一，LLM 是完全冻结的。

第二，我们只训练约 2000 万参数的对齐模块。

在一个 8B 模型中，这只占大约 0.2%。

也就是说，我们没有：

• 为每个用户单独训练 LoRA

• 修改 LLM 内部权重

• 复制模型实例

而是通过结构化原型指导生成。

最终的生成流程是：

用户历史 → 编码 → 原型量化 → 映射 → 拼接问题 → 冻结 LLM 输出答案

这种设计实现了真正的：

两阶段训练：先“学原型”，再“学对齐”

目标是构建一个通用、可迁移的用户原型空间。

这一阶段完全独立于具体任务，重点是从大规模用户行为中抽象出稳定原型。

可以理解为：

在有了原型空间之后，我们训练对齐模块，让模型学会：

• 如何将原型映射到 LLM 表达空间

• 如何利用原型辅助生成

此时，模型真正学到的是：

实验结果：性能与效率的平衡

我们在四类具有代表性的个性化生成任务上进行了系统评测，包括 Reddit 问答（开放式回答）、新闻标题生成（可控生成）、推文改写（风格迁移）以及商品评论写作（长文本生成）。这些任务覆盖了不同长度、不同场景和不同个性化强度的需求。对比方法方面，我们既考虑了 Prompt-based 方法（如 Zero-shot、ICL、RAG、Persona 生成等），也比较了 Training-based 方法（如 LoRA、Soft Prompt、PPlug、OPPU 等），从“纯提示”到“参数微调”两类主流技术路线进行全面对比。

在此基础上，我们重点关注两个问题：模型效果如何，以及为此付出了多少参数成本。

• 整体性能领先：在四个任务的大多数指标上，CURP 均取得最优或并列最优表现，尤其在开放式生成任务上优势更明显。

• 显著优于纯 Prompt 方法：相比 ICL、RAG 等方法，CURP 在避免长上下文噪声的同时，获得更稳定、更准确的个性化效果。

• 接近甚至超过重训练方法：在不进行 per-user 微调的情况下，性能接近或超过 LoRA、OPPU 等训练型方法。

• 参数效率极高：CURP 仅训练约 2000 万共享参数（约占 8B 模型的 0.2%），无需为每个用户单独训练模块，实现了性能与效率的良好平衡。

简而言之：

消融与分析实验

为此，我们移除了 codebook，将用户历史的连续表示直接用于生成，对比完整的 CURP 框架。结果如表二和图三所示：

实验结果显示：

• 整体性能变化并不显著，说明量化并没有明显损失关键信息；

• 但引入原型后，表示更加结构化，表达区分度更清晰；

• 模型在稳定性与鲁棒性方面表现更优。

这说明，codebook 的价值并不仅仅体现在指标提升上，而是在于：

更重要的是，离散原型带来了一个连续 embedding 难以具备的优势 —— 隐私保护与云端协同能力。

在连续表示方案下，往往需要传输完整的用户 embedding，甚至原始历史文本。而在 CURP 中，用户历史被压缩为少量离散原型索引，这些索引本身是不可逆的，无法还原原始文本内容。

这意味着：

•  用户端可以本地编码与量化

• 只需将原型索引上传至云端

• 云端 LLM 根据索引进行个性化生成

从系统层面看，这种设计天然支持云边协同架构，同时降低隐私泄露风险。

因此，消融实验告诉我们的不仅是：

 ①原型设计分析：更大就更好吗？

② 可解释性分析：原型真的有语义吗？

也就是说，不同子空间自动学到了层次化语义结构。

换句话说：

③历史数量分析：更多历史真的更好吗？

我们还测试了不同历史数量对性能的影响。

对 ICL 和 LoRA 来说：

原因很简单：

我们并不是直接拼接历史，而是先压缩为结构化原型表示。

这说明：

在个性化生成这件事上，表示方式，或许比模型规模更重要。

复旦大学数据智能与社会计算实验室