DeepSeek-R1-Distill-Llama-70B模型介绍

• 2025年2月7日 am8:51 • 阿里云人工智能平台PAI（原机器学习平台） • 阅读 2

DeepSeek-R1-Distill-Llama-70B 是一个通过知识蒸馏技术从小型化模型中提取推理能力的高性能语言模型。它是基于 DeepSeek-R1 的推理能力，通过蒸馏技术将推理模式迁移到较小的 Llama 模型上，从而在保持高效性能的同时降低了计算成本。

模型支持多种部署方式：标准部署、vLLM加速部署和BladeLLM加速部署。参考：5分钟使用EAS一键部署LLM大语言模型应用