小型推理模型的崛起：紧凑型人工智能能否匹敌GPT级推理能力？ 译文

小型推理模型的崛起：紧凑型人工智能能否匹敌GPT级推理能力？译文

近年来，人工智能领域一直沉迷于大型语言模型（LLMs）的成功。这些模型最初设计用于自然语言处理，如今已演变为强大的推理工具，能够通过类人类的逐步思考过程解决复杂问题。然而，尽管LLMs具备卓越的推理能力，它们仍存在显著缺陷，包括高昂的计算成本和缓慢的部署速度，这使得它们在移动设备或边缘计算等资源受限的实际场景中难以应用。因此，业界对开发更小、更高效模型的兴趣日益增长-这些模型能以更低的成本和资源需求提供相似的推理能力。本文探讨了这些小型推理模型的崛起、潜力、挑战以及对人工智能未来的影响。

视角的转变

在人工智能近期的历史中，该领域长期遵循“规模法则”，即模型性能会随着数据量、计算能力和模型规模的扩大而可预测地提升。尽管这种方法催生了强大的模型，但也带来了显著的权衡，包括高昂的基础设施成本、环境影响和延迟问题。并非所有应用都需要具备千亿参数规模的大型模型的全部功能。在许多实际场景中（如设备端助手、医疗保健和教育），小型模型若能有效推理，同样可以取得类似的效果。

理解人工智能中的推理能力

人工智能中的推理能力指模型遵循逻辑链条、理解因果关系、推导隐含信息、规划步骤流程以及识别矛盾的能力。对于语言模型而言，这通常意味着不仅要检索信息，还要通过结构化的逐步方法对信息进行操纵和推断。这种层级的推理能力通常通过微调LLMs来实现，使其在得出答案前执行多步推理。尽管有效，但这些方法需要大量计算资源，且部署速度慢、成本高，引发了关于其可访问性和环境影响的担忧。

理解小型推理模型

小型推理模型旨在以更高的计算效率、内存利用率和更低的延迟复现大型模型的推理能力。这些模型通常采用一种名为知识蒸馏的技术，即让较小的模型（“学生”）从更大的预训练模型（“教师”）中学习。蒸馏过程涉及使用大型模型生成的数据训练小型模型，目标是迁移推理能力。随后，“学生”模型会通过微调进一步提升性能。在某些情况下，应用具有特定领域奖励函数的强化学习，可以进一步增强模型在特定任务中的推理能力。

小型推理模型的崛起与技术进步

小型推理模型发展的一个里程碑是DeepSeek-R1的发布。尽管该模型仅在一个规模相对较小、使用旧款GPU的集群上完成训练，但其在MMLU和GSM-8K等基准测试中的表现已与OpenAI的o1等大型模型相当。这一成就促使业界重新审视传统的“规模至上”假设-即更大的模型必然更优。

DeepSeek-R1的成功源于其创新的训练流程。该模型在早期阶段未依赖监督微调，而是结合了大规模强化学习。这一创新催生了DeepSeek-R1-Zero，一个在推理能力上与大型模型相媲美的模型。通过冷启动数据等改进，该模型在数学和代码等领域的连贯性和任务执行能力得到显著提升。

此外，蒸馏技术已被证明在从大型模型开发更小、更高效的模型方面至关重要。例如，DeepSeek已发布参数规模从15亿到700亿不等的蒸馏版本模型。研究人员通过蒸馏训练出更小规模的模型DeepSeek-R1-Distill-Qwen-32B，其在多项基准测试中均超越了OpenAI的o1-mini。这些模型现可通过标准硬件部署，成为更广泛应用的可行选择。

小型模型能否匹敌GPT级推理能力？

为了评估小型推理模型（SRMs）是否能匹配GPT等大型模型（LRMs）的推理能力，需考察它们在标准基准测试中的表现。例如，DeepSeek-R1在MMLU测试中得分约为0.844，与o1等大型模型相当。在专注于小学数学的GSM-8K数据集上，DeepSeek-R1的蒸馏模型表现达到顶尖水平，超越了o1和o1-mini。

在编程任务中（如LiveCodeBench和CodeForces），DeepSeek-R1的蒸馏模型表现与o1-mini和GPT-4o相当，显示出强大的代码推理能力。然而，在需要更广泛语言理解或长上下文窗口的任务中，大型模型仍占据优势，因为小型模型通常更专注于特定任务。

尽管表现出色，小型模型在处理扩展推理任务（长时推理任务）或面对分布外数据时仍存在短板。例如，在LLM国际象棋模拟中，DeepSeek-R1的失误率高于大型模型，表明其在长时间保持专注和准确性方面存在局限。