真灼4月14日消息,腾讯控股(00700.HK)于4月14日正式发布了新一代高性能计算集群HCC,用于大模型训练。该集群采用腾讯云星星海自研服务器,搭载英伟达最新代次H800 GPU,并采用业界最高的3.2T超高互联带宽,大幅提升大模型训练、自动驾驶、科学计算等方面的性能。
新一代集群整体性能比过去提高了3倍,成为国内最强大模型计算集群。去年10月,腾讯训练框架AngelPTM完成了首个万亿参数大模型训练。如今,基于新一代集群,训练时间将进一步缩短至4天。
星星海自研服务器采用6U超高密度设计,相较行业可支持的上架密度提高30%。同时,通过CPU和GPU节点的一体化设计,将单点算力性能提升至更高水平。此外,搭载英伟达旗下最先进的H800 GPU,算力超过旗舰芯片A100三倍。
腾讯发布的自研星脉网络提供3.2T通信带宽,为业内最高数据。相较前代网络,整体算力提升20%,能够支持更大规模的大模型训练及推理。存储方面,腾讯云自研的文件存储、对象存储架构具备TB级吞吐能力和千万级IOPS,满足大模型训练的大数据量存储要求。
新一代集群还集成了腾讯云自研的TACO训练加速引擎,大幅节约训练调优和算力成本。腾讯自研的紫霄芯片已经量产,用于AI推理,提供高达3倍的计算加速性能和超过45%的整体成本节省。
腾讯表示,将投入大量资源建立自己的基础模型,并将其整合进公司的所有业务中。新一代集群有望提升腾讯旗下产品的用户体验。未来,每个用户都可能拥有人工智能助理,有望将生成式AI纳入微信和QQ。
截至发稿15:09分,腾讯控股(00700.HK)涨0.11%,报363.60港元,成交额36.05亿港元,总市值3.48万亿港元。