火山引擎:全尺寸DeepSeek模型登陆火山引擎
鞭牛士 2月4日消息,火山引擎官微宣布,将支持 V3/R1 等不同尺寸的 DeepSeek 开源模型。
据介绍,可以通过两种方式进行模型使用:
一是在火山引擎机器学习平台 veMLP 中部署,目前 veMLP 已经支持全尺寸 DeepSeek 模型, 并仔细对 SGLang 和 vLLM 做过性能调优和效果评测,火山引擎自研 PD 分离+EP 并行的推理引擎也即将推出,全面开放。适用于自己进行模型定制、部署、推理的企业。
二是在火山方舟中调用模型,适用于期望通过 API 快速集成预训练模型的企业,目前已经支持4个模型版本,并提供了全网最高的限流。
![](/images/app_dwonload_qrcode.png)