直击巴展:电信携手华为发布基于昇腾的“星河 AI 统一推理框架”
【慧聪通信网】2023 年 2 月 28 日,世界移动通信大会 (MWC 2023) 期间,中国电信 & 华为 2023 云网核心能力创新成果全球发布会上,中国电信携手华为发布星河 AI 统一推理框架。
星河 AI 统一推理框架,专注 AI 算法开发和性能提升,实现底层异构算力协同,带来效率和性能大幅提升。
随着人工智能产业不断发展壮大,多样化算力需求场景不断涌现,AI 在行业逐步渗透,AI 处理器层出不穷,包括擅长图形运算的 GPU、专注于更高效人工智能神经网络处理的 NPU 等。实际业务应用过程中,底层的 AI 异构计算平台多,API 接口不统一,呈现烟囱式的应用开发,导致 AI 应用开发门槛高、代码维护成本高。
中国电信科技创新部副总经理罗锐
“通过星河 AI 统一推理框架,根据不同硬件底层接口,向上将推理业务流抽象封装出业务功能模块接口,开发者只需要关注业务逻辑,无需关注底层硬件接口。”中国电信科技创新部副总经理罗锐在发布会上这样说到。
中国电信数字智能科技分公司 AI 研发中心高性能计算技术总监朱庆军
从底层技术实现维度,中国电信数字智能科技分公司 AI 研发中心高性能计算技术总监朱庆军给出专业的答复:“星河 AI 统一推理框架致力于提升 AI 开发效率及性能提升,上层基于电信 AI 业务场景开发的技术沉淀,下层依托昇腾推理开发使能套件,快速实现 AI 应用开发,支持云边协同,业务部署达成小时级一键部署“。当前基于该平台已完成 90% 以上自研 CV 应用的开发,超过 1000+AI 算法完成适配迁移,助力 500 多个产业数字化项目落地。
在 AI 开发过程中,通过软硬件协同优化提升整体业务流性能。主要包括基于昇腾的视图解析硬件加速方案、模型算子加速库等,结合电信在业务流的优化处理方案,端到端提升 AI 应用性能。其中,CV 类业务流性能提升约 1.4~2 倍,单纯视频解码场景性能提升 2~3 倍,图片解码场景性能提升 1.5~2 倍。
在实际应用中,通过星河 AI 统一推理框架,上层 AI 应用一处开发,云边多硬件平台部署,通过统一业务层接口,快速汇聚 AI 生态,推动多场景方案落地。
为应对 AI 长尾场景,中国电信联合华为及业界伙伴,依托星河 AI 统一推理框架,发挥中国电信算网资源优势,协同昇腾 AI 生态成果,快速孵化更多场景方案,吸引更多伙伴入驻,构筑面向未来自演进的电信 AI 生态。当前已有 100 + 个生态伙伴,5000 + 算法,联合孵化出智慧城市、社会治理、明厨亮灶等 10 + 场景化综合信息解决方案,支撑 500 多个产业数字化项目落地。
面向未来,依托星河 AI 统一推理框架,中国电信携手华为及业界伙伴,将持续丰富 AI 生态体系,不断升级星河 AI 能力,共同为千行百业提供融云、安全、AI 等的数字化产品和服务。