快科技2月5日音书,DeepSeek开源大模子的推出,不错说绝对颠覆了AI行业的发展开云kaiyun官方网站,各大平台齐在积极适配支握,比如国产GPU,除了摩尔线程、华为昇腾,壁仞也第一时候加入了这一滑列。
壁仞科技自大,凭借自主研发的壁砺系列GPU居品出色的兼容性能,只用数个小时,就完成对DeepSeek R1全系列蒸馏模子的支握,涵盖从1.5B到70B各品级参数版块,包括LLaMA蒸馏模子和千问蒸馏模子。
壁仞科技成为少数已毕国外、国内多模子同步高效适配的芯片平台之一,讲明了国产芯片对复杂AI讹诈任务的把握才能。
据先容,DeepSeek提供了一种高效的模子蒸馏技能,大概将大畛域模子的才能迁徙至更小、更高效的版块,况兼通过MLA、DeepSeek MoE两大中枢技能,权臣裁减显存占用,优化模子性能。
壁仞科技壁砺系列GPU居品在短时候内获胜支握DeepSeek全系列蒸馏模子,阐明其在AI推理任务中具备弘大的兼容性和易用性。

同期,壁仞科技已规划上海智能算力、中兴通信、科华数据、无问芯穹、开源中国(Gitee AI)、UCloud、一蓦科技等计策伙伴,基于壁砺系列训推居品106M、106B、106E、110E,全面开展包括R1在内的DeepSeek全系列模子的适配与上线,重生不同畛域参数目模子的部署需求——
轻量级模子(1.5B-8B):
适配智能末端与角落蓄意树立,已毕低延时及时推理。
中大畛域模子(14B-32B):
工作于大畛域企业级讹诈和高并发任务,重生数据安全与定制化需求。
大畛域模子(70B):
依托云霄超算集群,撑握前沿AI规划与复杂任务管制。

即日起,壁仞AI算力平台细腻上线DeepSeek R1蒸馏模子推理工作,人人拓荒者可云霄体验1.5B、7B、8B、14B、32B、70B全系列模子工作。
体验地址为:
https://sgc.birentech.com:1443/
该工作具备两大中枢上风:
一是零部署资本,可免去硬件采购与环境搭建,已毕“开箱即用”的云霄推理体验。
二是多场景掩盖,针对LLM等不同任务预置优化建树有规划。

【本文升天】如需转载请务必注明出处:快科技
背负裁剪:上方文Q
著述本色举报 ]article_adlist--> 声明:新浪网独家稿件,未经授权辞让转载。 -->