×
加载中...
火山引擎:全尺寸DeepSeek模型登陆火山引擎
鞭牛士 2025-02-04 17:05

鞭牛士 2月4日消息,火山引擎官微宣布,将支持 V3/R1 等不同尺寸的 DeepSeek 开源模型。

据介绍,可以通过两种方式进行模型使用:

一是在火山引擎机器学习平台 veMLP 中部署,目前 veMLP 已经支持全尺寸 DeepSeek 模型, 并仔细对 SGLang 和 vLLM 做过性能调优和效果评测,火山引擎自研 PD 分离+EP 并行的推理引擎也即将推出,全面开放。适用于自己进行模型定制、部署、推理的企业。

二是在火山方舟中调用模型,适用于期望通过 API 快速集成预训练模型的企业,目前已经支持4个模型版本,并提供了全网最高的限流。

图片


扫码下载app 最新资讯实时掌握