×
加载中...
联想等多家领先企业共议大模型和端侧算力,加速AI从云落地到端
鞭牛士 2024-04-22 18:56

鞭牛士 4月22日消息,联想科技创新科技大会近日在上海成功举办。同期,Al终端产业生态创新论坛隆重举行。论坛围绕“新机遇 新生态”主题,业内30余位AI领域专家、科技领袖和近300位嘉宾参加此次论坛。


此外,论坛举办了“构建开放的AI应用生态”、“创新本地异构AI算力和个人智能体”、“探索AI终端创新与互联融合体验”主题展开三场高端对话。在“创新本地异构AI算力和个人智能体”高端对话环节,来自英特尔、AMD、高通、百川智能、阿里巴巴、联想等行业领军企业代表,针对异构AI算力、大模型和混合智能展开深入探讨,共话AI终端产业趋势与未来。


“要训练好一个大模型,就是让他从小学生开始读、到中学生、大学生再到博士。”百川智能联合创始人、联席总裁洪涛介绍说:“大模型是在‘造人’,随着专业知识和模型能力的提升,大众就可以更轻松普惠地获取世界知识和专业服务。”


与上述从小到大、逐渐生长的模型路径相对应,另一种是轻量级模型的路径是从通用场景到垂直场景。阿里巴巴大模型业务负责人徐栋指出,模型小有很多好处,其推理性能强,可调试性高,能够与不同的行业和场景做结合,且成本低于超大参数的模型。“我们的模型参数考虑得非常全面,可以适配所有生态、所有开发者。”


在论坛上,联想集团副总裁、联想研究院人工智能实验室负责人范建平介绍了联想在混合智能领域的技术成果。他表示,AI技术的爆发式发展,已经开启混合智能(Hybrid AI)和智能体(Agent)两大AI新范式,联想分别打造了混合智能解决方案和个人智能体系统架构,加速AI从云端向终端落地。其中,联想混合智能指的是云端公有大模型、企业私有大模型和端侧个人大模型的混合应用。


联想集团首席研究员、人工智能实验室大模型研发负责人师忠超补充介绍说:“我们在GGUF的基础上发展了自己的一套轻量化的推理引擎,助力大模型“瘦身’,并与合作伙伴一起完成了大模型端侧部署的验证。希望有更多伙伴一起合作优化端侧推理引擎,让我们端侧的 AI 变得越来越好。”

扫码下载app 最新资讯实时掌握