CAR是什么

CAR（Certainty-based Adaptive Reasoning）是字节跳动联合复旦大学推出的自适应推理框架，能提升大型语言模型（LLM）和多模态大型语言模型（MLLM）在不同任务中的推理效率与准确性。框架基于动态地在短答案和长形式推理之间切换，根据模型对答案的置信度（通过困惑度PPL衡量）决定是否需要进行详细推理。当模型对短答案的置信度较低时，CAR会触发长形式推理提高答案的准确性，当置信度较高时，直接输出短答案，节省计算资源和时间。CAR在视觉问答（VQA）和关键信息提取（KIE）等任务中表现突出，在数学等复杂推理任务中展现出良好的性能。

CAR的主要功能

• 动态推理切换：CAR能智能地在短答案和长形式推理之间进行切换。对于简单问题，直接输出短答案提高效率；对于复杂问题，触发长形式推理确保准确性。
• 提升推理效率：CAR显著减少模型生成的token数量，降低计算成本和推理时间，提高模型在实际应用中的效率。
• 提高推理准确性：在需要详细推理的情况下，激活长形式推理，提高模型在复杂任务中的表现，确保推理结果的准确性。
• 适应多种任务：CAR适用视觉问答（VQA）和关键信息提取（KIE）等任务，在数学推理、常识推理等复杂任务中发挥作用，具有广泛的适用性。

CAR的技术原理

• 模型训练：用包含短答案和长形式推理答案的训练数据对LLM或MLLM进行训练。训练时，模型需要学习如何根据不同的提示生成相应的短答案或长形式推理答案。优化目标是交叉熵损失，用最小化预测token的概率分布与真实token的分布之间的差异训练模型。
• 获取短答案的PPL：在训练数据上进行短答案推理，计算每个短答案的困惑度（PPL）。PPL是衡量模型对答案置信度的指标，PPL越低，表示模型对答案的置信度越高。
• 高斯分布建模：假设正确和错误短答案的PPL分数分别服从高斯分布。基于训练数据估计分布的参数，分别计算正确和错误答案的PPL均值和方差，得到两个高斯分布模型。
• 推理过程：对于新的输入，首先生成短答案计算PPL值。根据高斯分布模型计算该PPL值下答案正确的概率。

CAR的项目地址

• arXiv技术论文：https://arxiv.org/pdf/2505.15154

CAR的应用场景

• 视觉问答（VQA）：CAR在简单问题上直接输出短答案，提高效率；在复杂问题上触发长形式推理，确保准确。
• 关键信息提取（KIE）：根据置信度动态选择推理方式，减少token使用量，保持高准确率。
• 数学推理：在简单数学问题上直接输出答案，在复杂问题上进行详细推理，提升准确性和效率。
• 常识推理：针对简单常识问题直接给出答案，复杂问题则进行长形式推理，减少token消耗。
• 多模态任务：结合文本和图像信息，动态选择推理方式，提升多模态任务的准确性和效率。