标题：Deepseek大模型推理算法其实很简单

性能顶级的Deepseek大模型开源后，人们轻松地将其部署使用。在配置一般的联想PC上，安装7B参数版本的Deepseek R1已成功。最强的671B版本需要更高配置，但也完全可行。

大模型开发包括训练和推理两部分，推理是较易的部分。有了权重文件，大模型推理变得简单。即使对机器学习不太熟悉的人，也能理解其运行机制。

大模型的推理是从用户输入的“prompt”开始，通过“自回归”生成文本。用户输入一段话后，大模型经过一段时间的计算，输出反馈。推理过程涉及token和embedding。每个token通过embedding变成一个向量，这过程决定了大模型的“大”。

Deepseek R1的推理代码只有1500行，简洁明了。通过Python编写，易于理解。而C++版本的代码则更为复杂，但基本操作相似。

大模型的计算分层进行，每个layer包括Norm、Self-Attention和Feed-Forward等操作。这些操作最终生成logits概率向量，决定下一个token的选择。整个推理过程主要是矩阵运算，不复杂。

最后，联网搜索和深度思考功能提高了大模型的准确性。联网搜索提供更多信息，深度思考则展示了大模型的逻辑推理能力。