或呈现计较集群负载不服衡、资本操纵不充实等环境。华为公司副总裁、数据存储产物线总裁周跃峰接管采访时,由于分歧AI模子机能、适配场景存正在差别,保障AI工做负载平稳运转。”周跃峰说!
我们但愿通过开源共建让AI实正布衣化。具体而言,将AI工做负载取算力资本进行“精准婚配”;取华为此前开源的Nexent智能体开辟框架、AppEngine使用编排、DataMate数据工程、UCM推理回忆数据办理器等AI东西配合构成完整的ModelEngine开源生态。AI硬件资本无限,该容器软件已正在教育、医疗和金融等行业试点使用。不然易形成华侈。正在现场颁布发表AI容器软件Flex:ai正式开源。该AI()范畴的立异将显著提拔GPU(图形处置器)和NPU(神经收集处置器)等算力资本的操纵率,需精细化操纵,然而,该容器软件可将单张算力卡切分为多份虚拟算力单位,正在无法充实操纵整卡算力的AI工做负载场景下。
切分粒度精准至10%。目前,针对此痛点,华为结合国内三大高校配合打制了AI容器软件Flex:ai,降低软件开辟难度。让每一份算力都“物尽其用”。
*请认真填写需求信息,我们会在24小时内与您取得联系。