摩尔线程和滴普科技完成大模型训练与推理适配

来源:摩尔线程 #摩尔线程#
4580

近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与滴普企业大模型Deepexi已完成训练及推理适配。基于摩尔线程夸娥千卡智算集群,滴普科技成功完成了700亿参数LLaMA2大语言模型的预训练测试,训练时长共计77小时,全程无故障连续运行,集群训练稳定性达到100%,训练效率和兼容性均达到预期。

滴普科技作为数据智能服务商,以数据智能技术为基础,为客户提供数据智能基础设施、企业大模型产品,以及数据智能创新服务。基于已深度服务的头部客户所积累的深厚数据能力,滴普科技构建的Deepexi企业大模型,在语义、视觉、语音、跨模态等方面的能力均表现优越,能够运用模型工具链为企业提供高质量的数据准备、模型训练、调优、部署及推理服务,快速构建企业不同领域模型以及智能体应用,帮助企业实现从数据驱动到智能驱动的升级。

此次,摩尔线程与滴普科技的合作,借助夸娥千卡智算集群全栈方案的模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力,为构建国产化数智赋能底座奠定坚实基础。同时,夸娥千卡智算集群作为业内首个跑通、跑完国产大模型的千卡集群,以全功能GPU为底座,提供软硬一体化的全栈解决方案。基于此次合作,双方能够为各行各业提供全国产大模型解决方案,广泛应用于训练、微调和实时推理等场景。 

目前,滴普科技已与中国海诚、中核装备院、百丽时尚等企业开展产业落地实践,成为产业大模型落地的领先企业。未来,摩尔线程与滴普科技将继续发挥双方在技术、场景和软硬件协同方面的优势,在能源、金融、先进制造等领域,以及与央企、国企的合作中,共同探索全国产化解决方案的落地机会,推动人工智能在更多产业领域的应用,助力企业实现智能升级,赋能行业高质量发展。

责编: 爱集微
来源:摩尔线程 #摩尔线程#
THE END
关闭
加载

PDF 加载中...