广东发布首个AI大模型中间件团体标准
【慧聪通信网】近日，广东省电子信息行业协会于2024年8月29日发布国内首个AI大模型中间件团体标准 ——《大模型应用中间件通用技术要求》（以下简称“团体标准”）。该团体标准由南方电网电力科技股份有限公司和广州运通链达金服科技有限公司联合发起，具体执笔编写者有邹均、张晓晔、陈皓、罗钜文、牟松、梁添才、杨峰、相里朋等人。
当前，基于大模型的生成式人工智能技术发展迅猛。中国信息通信研究院于2024年7月发布了《全球数字经济白皮书》(以下简称“白皮书”)。根据该白皮书，截至目前，全球人工智能大模型有1328个。其中美国占比44%，中国占比36%。根据各地网信办发布的公告，截至2024年7月30日，全国范围内已有197个生成式人工智能服务通过网信办备案。
但目前业界上与大模型相关标准还非常鲜见。据了解，目前全国团体标准信息平台上，已经发布的与大模型相关的团体标准只有六个，这个与大模型数量相比不成比例。标准的缺失对大模型技术应用落地和行业发展带来很大的挑战。
2024年6月，国家工业和信息化部、中央网络安全和信息化委员会办公室、国家发展和改革委员会、国家标准化管理委员会公布关于印发《国家人工智能产业综合标准化体系建设指南（2024版）》（以下简称“指南”）的通知。该通知要求各地工业和信息化主管部门、网信办、发展改革委、市场监管局（厅、委），有关行业协会、标准化技术组织、标准化专业机构加强人工智能标准化工作系统谋划，加快构建满足人工智能产业高质量发展和“人工智能+”高水平赋能需求的标准体系，夯实标准对推动技术进步、促进企业发展、引领产业升级、保障产业安全的支撑作用，更好推进人工智能赋能新型工业化。
邹博士指出：“《大模型应用中间件通用技术要求》规定了大模型应用中间件产品的通用技术要求，包括以下几个方面内容：功能要求、架构设计、接口标准、性能要求和安全性要求。本标准适用于企业构建垂类大模型应用，包括微调训练垂类模型，开发大模型驱动的AI应用，集成大模型与企业内、外部信息系统，赋能企业数字化转型。”
邹博士说：“自2017年以来，基于Transformer架构的预训练大模型在自然语言处理、图像、视觉等多个AI领域取得了比传统AI技术更先进的水平。特别是在一些下游任务中大模型展现出强大的泛化能力，尤其是在一些大型参数模型中甚至涌现出强大的学习能力、理解能力和推理能力。在这个背景下，主流人工智能技术也从传统的判别式AI向生成式AI技术转变，并朝着通用人工智能方向发展。当前，市场上已经出现几百家通用大模型。这些大模型功能和性能各异，有些是厂商开发商用大模型，有些是开源社区开发的大模型。另一方面，企业也开始探索在预训练通用大模型基础上建立和业务相关的垂类大模型，落地行业大模型应用。但企业在落地大模型应用的过程中，面临高昂的技术门槛和成本门槛、缺少技术标准可供参考的挑战。“
邹博士接着解释： ”大模型应用中间件是介于通用大模型和大模型应用之间的软件系统。它的作用是隔离底层通用多模态大模型的技术复杂性，面向应用层提供包括集成整合开源或商用多模态大模型、基于大模型的智能体规划、工作流引擎、提示工程、反思评估、数据处理、垂类模型训练及微调、安全审计、大模型运维监控、性能评测等功能服务。大模型应用中间件可以有效降低企业应用大模型的技术和成本门槛，提升垂类大模型开发效率，支持大模型的私有化部署，保护企业数据安全和数据资产。“
在谈到该团体标准与四部委发布的指南关系时，邹均强调该团体标准是响应四部委号召，从团体标准建设开始，逐步完善大模型中间件的标准体系建设。团体标准的内容部分涵盖了指南里人工智能标准体系框架中关于“参考架构“、“系统软件”、“大模型”和“智能体”等重点方向的内容。
最后，邹博士也谈到编制该团体标准的目的，是“旨在制定大模型应用中间件标准，促进各类开源和商业的多模态大模型的开放和互联，为企业集成大模型与企业内外的信息系统、更好的将大模型的能力与企业业务结合提供便利。”
据了解，邹均博士曾经担任IBM大中华全球咨询服务的首席架构师，对中间件帮助企业落地应用有深刻的理解和丰富的经验。邹博士于2018年和国企上市公司广电运通集团共同创立广州运通链达金服科技有限公司，赋能企业数字化转型。 针对企业普遍面临的大模型应用落地技术门槛高、成本门槛高的问题，运通链达于2023年8月发布了业内第一个大模型中间件InterGPT。 InterGPT旨在帮助企业训练垂类模型，降低企业大模型应用开发成本，提升效率，同时促进大模型的互联互通。2024年初，运通链达携手南网科技积极推动此次标准的起草工作。凭借着丰富的经验和深入的技术理解，运通链达和南网科技等机构和企业为标准的制定贡献了宝贵的智慧和力量。
这一团体标准的发布，将为大模型的应用提供更加规范、高效的技术指导。它也是大模型标准领域的重大突破。大模型应用中间件作为连接大模型与实际应用的关键环节，其通用技术要求的明确对于推动整个行业的发展具有至关重要的意义。将有助于提高大模型应用的质量和稳定性，促进大模型技术在各个领域的广泛应用。
