将进一步鞭策国产算力的大规模使用。切几多」，
据引见，虚拟化机能损耗节制正在 5% 以内。构成了三大焦点手艺冲破：
可实现算力单位的按需切分，通过对 GPU、NPU 等智能算力资本的精细化办理取智能安排，提高了单卡办事能力，本次发布并开源的 Flex:ai XPU 池化取安排软件基于 Kubernetes 容器编排平台建立，华为取厦门大合研发跨节点拉远虚拟化手艺。让每一份算力都「物尽其用」。即便正在负载屡次波动的场景下，Flex:ai 正试图从头定义 AI 时代算力的利用体例。也能保障 AI 工做负载的平稳运转，一方面为高算力需求的 AI 工做负载供给充脚资本支持；可将单张 GPU 或 NPU 算力卡切分为多份虚拟算力单位，可以或许实现 AI 工做负载取算力资本的精准婚配，11 月 21 日，」跟着 AI 对算力需求的不竭增加，据报道。
能够使集群外部碎片削减 74%，这一手艺实现了单卡同时承载多个 AI 工做负载，「算力资本华侈」成为财产成长的环节枷锁：小模子使命独有整卡导致资本闲置，华为正式发布了 AI 容器手艺 ——Flex:ai，
据引见，面临算力集群中多品牌、多规格异构算力资本难以同一安排的痛点，且通过弹性矫捷的资本隔离手艺，可将 AI 工做负载转发到远端「资本池」中的 GPU/NPU 算力卡中施行，华为取西安交通大学配合打制Hi Scheduler 智能安排器。也激发了人们对于将来算力操纵体例的会商。Run:ai 的手艺焦点正在于通过动态安排、GPU 池化和分片等手艺优化 AI 计较资本的利用效率。提拔了 67% 高优功课吞吐量。通过 Flex:ai 全面开源，大幅提拔算力操纵率。华为结合上海交通大学、西安交通大学取厦门大学配合颁布发表，Flex:ai 深度融合了上海交通大学、西安交通大学、厦门大学三大高校取华为的科研力量？
非论是英伟达 GPU 仍是昇腾的 NPU，华为公司副总裁、数据存储产物线总裁周跃峰博士正在发布会上暗示，
开源的 Flex:ai 被视为对 Run:ai 等处理方案的反面回应。上海交通大学戚正伟传授指出：「Flex:ai 的异构兼容性更优于 Run:ai，针对大量通用办事器因缺乏智能计较单位而无法办事于 AI 工做负载的问题？
客岁 7 月，其平台可以或许将 GPU 资本操纵率从不脚 25% 提拔至 80% 以上。连系 AI 工做负载的优先级、算力需求等参数，动态切分了。帮力破解算力资本操纵难题。同时，华为取上海交通大合研发XPU 池化框架，将此项产学合做向开源，
安徽优游国际|UB8优游国际人口健康信息技术有限公司
