找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 434|回复: 0

首个以国产GPU为底座!摩尔线程全国产千卡智算中心正式落地

[复制链接]

314

主题

5

回帖

1058

积分

超级版主

积分
1058
发表于 2023-12-22 14:25:13 | 显示全部楼层 |阅读模式

快科技12月19日消息,今天,摩尔线程官方发布通告称,摩尔线程首个全国产千卡千亿模型训练平台,摩尔线程KUAE智算中心揭幕仪式成功举办。

此举也代表着,国内首个以国产全功能GPU为底座的大规模算力集群正式落地。

摩尔线程CEO张建中表示,摩尔线程构建了从芯片到显卡到集群的智算产品线,依托全功能GPU的多元计算优势,可以满足不断增长的大模型训练和推理需求。

据介绍,摩尔线程KUAE智算中心解决方案以全功能GPU为底座,旨在以一体化交付的方式解决大规模GPU算力的建设和运营管理问题。

该方案可实现开箱即用,大大降低传统算力建设、应用开发和运维运营平台搭建的时间成本,实现快速投放市场开展商业化运营。

目前,摩尔线程支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言等各类主流大模型的训练和微调。

基于摩尔线程KUAE千卡集群,70B到130B参数的大模型训练,线性加速比均可达到91%,算力利用率基本保持不变。

以2000亿训练数据量为例,智源研究院700亿参数Aquila2可在33天完成训练;1300亿参数规模的模型可在56天完成训练。




“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤


您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|齐鲁商务港

GMT+8, 2024-6-14 04:21 , Processed in 0.101859 second(s), 21 queries .

Powered by Discuz! X3.5

快速回复 返回顶部 返回列表