核心口径:MaaS框架是对象关系和责任关系的组织方式,不是模型API、容器集群或单一网关的替代名称。评审时既要画请求如何流转,也要说明每个对象由谁管理、留下什么证据。
很多MaaS项目在接口打通后才发现,真正难回答的问题不是“模型能不能调用”,而是“这次请求经过了哪些对象,哪个团队对结果负责”。应用调用AI网关,网关路由到推理服务,推理服务读取模型和运行资源,日志又进入观测系统;任何一环出现异常,都可能被不同团队解释成别人的问题。
MaaS平台是什么,主要回答平台可以解决哪些服务化问题;MaaS框架是什么,则进一步回答对象怎么连接、请求怎么走、控制面怎么管、数据在哪里停留,以及模型团队、AI平台团队、容器平台团队、应用团队和安全审计角色如何分工。本文不重复平台概念介绍,而是从对象、关系、路径、责任和POC证据拆解框架。
MaaS框架与MaaS平台概念为什么要分开看
平台是可以被采购、部署和运营的一组能力或产品形态;框架是对这些能力、对象和责任的组织方式。同一个企业可以使用不同产品组合构成MaaS框架,也可以在早期用现有容器平台、网关、模型仓库和流程工具拼出最小服务链路。
把两者混为一谈,会产生三类误判:
- 把模型API当成完整MaaS,以为接口可用就等于模型资产、权限、推理和审计都已治理。
- 把容器平台当成MaaS框架,以为集群、项目和命名空间已经覆盖模型版本、推理服务和业务结果。
- 把AI网关当成全部框架,以为统一入口能够替代模型管理、服务承载、资源治理和运行观测。
框架评审应先列出对象,再标注每个对象的输入、输出、依赖、控制动作和责任人。产品名称可以在后续映射,不能反过来决定责任边界。这样做也能避免把尚未核验的产品能力写成确定交付项。
框架至少包含哪些对象,彼此如何关联
一个适合企业POC讨论的MaaS框架,至少要描述以下对象。它们不是固定的产品模块,而是评审时不可缺少的判断对象。
| 对象 | 主要作用 | 需要追踪的关系 | 典型责任角色 |
| 应用 | 发起请求并消费模型结果 | 应用身份、业务场景、结果验收 | 应用团队 |
| AI网关 | 统一入口、认证、路由或策略 | 凭据、模型路由、限流、审计 | AI平台团队 |
| 推理服务 | 把模型作为持续服务提供 | 模型版本、运行时、实例、资源 | AI平台团队 |
| 模型资产 | 提供权重、配置、版本和元数据 | 来源、存储、服务引用、可见性 | 模型团队 |
| 数据与知识 | 影响输入、上下文和输出 | 数据源、检索、权限、脱敏 | 应用与数据团队 |
| 容器承载 | 提供集群、项目、网络、存储和设备 | 命名空间、配额、RBAC、节点 | 容器平台团队 |
| 运营观测 | 记录请求、服务、资源和事件 | 指标、日志、变更、告警、责任 | 平台与安全团队 |
对象之间的关联比对象数量更重要。应用需要知道调用哪个入口,入口需要知道路由到哪个服务,服务需要引用哪个模型和运行环境,运行环境需要受到哪些资源与权限约束,观测系统需要把请求、服务、模型和变更串成可检索记录。缺少其中任一关系,框架图可能看起来完整,故障定位却仍然依赖人工猜测。
在能力映射时,Alauda AI的Model Management、Model Repository、Model Storage、Inference Service、AI gateway和Monitoring & Ops可以作为候选主题;Container Platform则适合映射集群、项目、命名空间、网络、存储、设备、配额和RBAC等承载边界。具体产品落位、字段和支持范围仍需专项核验。
一次模型请求经过哪些控制与数据路径
只画从应用到模型的单向箭头,不足以表达MaaS框架。至少要把数据路径、控制路径和反馈路径分开。
一次正常请求可以按以下顺序拆解:
- 应用发起。 应用使用自己的身份提交请求,携带业务参数、上下文或检索结果。
- 入口识别。 AI网关校验凭据、识别应用和项目,根据策略决定是否允许继续。
- 路由选择。 网关将请求送到指定模型、版本或推理服务,必要时执行限流、超时和降级策略。
- 服务处理。 推理服务加载模型和运行时,使用分配的CPU、GPU、显存、网络和存储完成处理。
- 结果返回。 响应经过入口返回应用,过程中可能记录状态码、延迟、Token或错误信息。
- 观测反馈。 日志、指标、告警和变更记录进入运营视图,供平台、应用和安全团队复盘。
数据路径回答“业务内容和模型结果经过哪里”;控制路径回答“谁能创建服务、修改路由、调整配额和查看日志”;反馈路径回答“异常如何被发现、定位和恢复”。三条路径不要画成同一条线,否则审计人员很难判断一个组件到底是在传输数据、执行控制,还是提供证据。
如果需要从统一入口继续理解模型路由、鉴权和审计,可参考 大模型AI网关的入口治理。如果重点是网关在不同方案中的边界,可结合 AI网关方案对比。这些链接作为规划期阅读路径,正式发布前需核验HTTP 200。
四层责任边界如何避免平台互相甩锅
为了便于项目讨论,可以把MaaS框架的责任暂时分成接入层、服务层、承载层和治理层。四层不是固定产品分层,而是把不同动作和证据分开,避免“平台负责”成为没有具体含义的总称。
| 责任层 | 核心问题 | 需要交付的证据 | 常见越界 |
| 接入层 | 谁可以调用什么服务 | 身份、凭据、路由、限流与拒绝记录 | 把入口可用当成模型已治理 |
| 服务层 | 模型如何被发布和运行 | 模型版本、镜像、状态、配置与回退目标 | 把接口返回当成服务稳定 |
| 承载层 | 资源和运行环境如何隔离 | 集群、项目、命名空间、配额、网络和存储 | 把集群能力写成AI业务能力 |
| 治理层 | 变化和异常如何被追踪 | 审计事件、观测指标、审批、告警与复盘 | 只留日志,不留责任与动作 |
平台团队可以负责承载层和部分共性治理,AI平台团队可以负责服务与入口,应用团队负责业务调用和结果验收,安全审计角色负责身份、数据、日志和例外。具体分工应依据企业组织和项目范围确认,但每个关键对象最好明确一位主要责任人,并保留协作角色。
责任边界需要写到动作级别。例如“AI平台团队负责推理服务”还不够,还应说明谁批准服务创建,谁维护镜像,谁处理模型加载失败,谁可以修改外部访问,谁确认回滚成功。动作越具体,POC越容易验证,采购合同或项目验收也越不容易出现空白。
框架评审不能只画组件图,还要画证据链
组件图说明“有什么”,证据链说明“如何证明它按预期工作”。MaaS评审至少要为以下判断准备证据:
- 资产证据。 模型来源、版本、模型卡、存储位置和使用范围可以相互对应。
- 服务证据。 推理服务的创建、就绪、异常、资源和版本状态可以查询。
- 入口证据。 应用身份、凭据、路由、允许、拒绝、限流和超时记录可以关联。
- 资源证据。 项目、命名空间、配额、设备、节点和网络边界与服务对象对应。
- 运行证据。 请求、延迟、错误、资源使用、变更和告警能够放到同一时间线。
- 恢复证据。 路由回退、服务回滚、凭据撤销和故障处理结果都有记录。
证据链不等于把所有日志永久保存。要先定义事件范围、敏感字段、保留周期、查询角色和复核方式。用户输入、密钥和敏感内容不应为了方便排障而无边界进入公共日志。没有依据的字段、计费能力或完整审计承诺,应标记为待核验,而不是在框架图上画成已实现模块。
用POC验证对象关系和故障责任
MaaS框架POC应覆盖一条真实请求和一次受控变化,重点观察关系是否成立,而不是只展示界面。可以按以下顺序组织:
- 选择一个模型、一个推理服务和两个不同权限的应用,记录模型版本、服务状态、入口身份和承载资源。
- 发起一次正常请求和一次拒绝请求,核对应用、模型、版本、路由、状态码和审计事件是否能够关联。
- 修改一个受控对象,例如路由、服务版本或资源配额,观察变更是否被记录,应用是否获得预期结果。
- 模拟服务异常或资源不足,检查告警、责任人、降级或回退动作,以及恢复后证据是否完整。
- 将未能回答的问题写入待核验清单,包括具体字段、权限、日志、兼容性和运维动作,不用口头说明替代。
POC验收可以使用以下清单:
- 对象名称、版本和责任人是否清晰且可检索
- 请求能否从应用追踪到网关、推理服务、模型和资源
- 允许、拒绝、超时和异常是否都有不同证据
- 变更是否能关联操作者、时间、影响对象和回退目标
- 平台团队、AI团队、应用团队和安全团队是否对同一结果做出一致解释
- 具体产品能力、兼容矩阵、性能和运维支持是否已完成专项核验
框架评审的结果不应只有“通过”或“不通过”。更有用的结论是:对象关系已验证,哪些层可以进入下一阶段,哪些证据缺失,缺口由哪个角色补齐,以及缺口是否阻断采购或发布。
下一步建议
理解MaaS框架是什么,最有效的方法不是继续扩展概念名词,而是拿一条真实请求画出应用、凭据、网关、路由、推理服务、模型、资源和审计记录,再为每个对象补一位主要责任人。对象关系和责任边界清楚后,平台选型、产品映射和POC设计才有可复用的基础。
建议从 AI基础设施分类 继续整理相邻内容,并把对象清单、请求链路、责任矩阵、证据索引和故障回退记录带入评审。正式采购前,对未核验的产品字段、接口、性能、兼容和支持范围保持明确标记。
常见问题
MaaS框架和MaaS平台有什么区别?
MaaS平台通常指一组可部署、可使用或可采购的模型服务能力;MaaS框架则描述模型、推理服务、入口、应用、数据、承载和运营对象如何连接,以及这些对象由谁负责。一个平台可以覆盖框架中的多个对象,也可能只覆盖其中一部分,企业也可以用多个产品和既有流程组成自己的框架。
评审时应先画对象、请求路径和责任关系,再映射候选产品能力,这比直接按产品菜单划分范围更容易发现空白。尤其要分别验证接口是否可用、服务能否运营、资源是否有边界、审计能否复核,以及异常时由谁恢复。只有这些关系获得实物证据,平台采购范围才可以被判断为覆盖了目标框架。
AI网关是否就是MaaS框架的全部?
不是。AI网关主要处理统一入口、认证、路由、限流、超时、审计或观测等请求治理问题,具体范围仍要按实际配置和产品证据核验。完整MaaS框架还要管理模型资产、推理服务、运行资源、数据与知识、应用验收和故障恢复,这些对象不能由网关名称自动覆盖。
只有网关而没有可追踪的模型版本和服务对象,应用仍可能无法解释结果变化;只有模型服务而没有统一入口,权限、凭据和调用记录又可能分散。项目应明确网关处理哪些动作、记录哪些字段、哪些敏感数据不得进入日志,以及路由错误由谁停止和回退,再用允许、拒绝、超时和异常请求把这些责任写入POC验收。
容器平台应不应该承担模型治理责任?
容器平台可以承担集群、项目、命名空间、网络、存储、设备、资源配额和RBAC等运行承载责任,但不应自动承担模型来源、模型质量、Prompt变化、业务结果或完整AI审计责任。承载层能说明工作负载在哪里运行、使用什么资源和权限,却不能单独证明模型适用或输出符合业务要求。
模型团队应负责资产来源与验证,AI平台团队负责推理服务和入口,应用团队负责业务请求与结果验收,安全团队负责数据、身份和审计制度。实际项目可以因组织规模合并角色,但仍要明确每个对象的操作人、批准人和证据。若把所有责任笼统写成容器平台负责,故障定位、范围验收和采购边界都会失去可复核依据。
原创声明:本文为 Alauda 原创技术内容,非商业转载须注明出处:https://www.alauda.cn/blog/1658/。
文中图示和文章内容未经许可不得用于商业转载、培训课件、营销材料或二次分发。