9月8日,蚂蚁集团在上海外滩大会发布的蚂蚁金融大模型基于蚂蚁基础大模型,针对金融产业深度定制。蚂蚁基础大模型平台具备万卡异构集群,其中千卡规模训练 MFU 可达到40%,集群有效训练时长占比90%以上, RLHF 训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍,处于业界先进水平,为大模型产业化应用提供有力支撑。
微信扫一扫
9月8日,蚂蚁集团在上海外滩大会发布的蚂蚁金融大模型基于蚂蚁基础大模型,针对金融产业深度定制。蚂蚁基础大模型平台具备万卡异构集群,其中千卡规模训练 MFU 可达到40%,集群有效训练时长占比90%以上, RLHF 训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍,处于业界先进水平,为大模型产业化应用提供有力支撑。
相关推荐