类似ComfyUI和Midjourney这样的文生图图生图应用的API与服务架构该怎么设计

开发｜界面｜引擎｜交付｜副驾——重写全栈法则：AI 原生的倍速造应用流

来自全栈程序员 nine 的探索与实践，持续迭代中。

欢迎评论私信交流。

1. API 设计模式 1.1 ComfyUI 的 API 架构

ComfyUI 作为开源文生图工具的代表，其 API 架构设计为我们理解此类应用提供了很好的参考模型。ComfyUI 的核心 API 架构采用了灵活的端点设计，主要包含五个关键端点：

/ws：WebSocket 端点，用于实时状态更新和执行消息传递/prompt：负责将工作流排队执行，返回 prompt_id 或错误信息/history/{prompt_id}：获取特定提示的结果，返回队列或输出信息/view：根据文件名、子文件夹和类型（输入、输出或临时）返回图像/upload/{image_type}：处理图像和蒙版上传，支持工作流中使用图像输入

这种设计使得前端可以灵活地与后端通信，既能处理即时请求，也能管理长时间运行的任务。与 Midjourney 等商业系统相比，ComfyUI 的 API 设计更加开放和可定制，允许开发者根据需要调整和扩展功能。

WebSocket 实时通信是文生图应用的关键技术，尤其适用于这类需要长时间处理的任务。通过 WebSocket 连接，服务器可以主动向客户端推送图像生成的进度和状态更新，使用户能够实时看到创作过程。这种设计相比传统的轮询方式更加高效，减少了不必要的网络请求，提高了用户体验。

命令执行流程通常遵循以下模式：客户端发送包含完整工作流定义的请求，服务器分配唯一 ID 并将任务加入队列，然后通过 WebSocket 连接向客户端报告处理进度，最终将结果通过 API 端点提供给客户端。这种状态管理机制确保了即使在高负载情况下，系统也能有序地处理大量并行请求。

#mermaid-svg-5tKRECJW9ScaBLKY {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-5tKRECJW9ScaBLKY .error-icon{fill:#552222;}#mermaid-svg-5tKRECJW9ScaBLKY .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-5tKRECJW9ScaBLKY .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-5tKRECJW9ScaBLKY .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-5tKRECJW9ScaBLKY .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-5tKRECJW9ScaBLKY .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-5tKRECJW9ScaBLKY .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-5tKRECJW9ScaBLKY .marker{fill:#333333;stroke:#333333;}#mermaid-svg-5tKRECJW9ScaBLKY .marker.cross{stroke:#333333;}#mermaid-svg-5tKRECJW9ScaBLKY svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-5tKRECJW9ScaBLKY .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-5tKRECJW9ScaBLKY .cluster-label text{fill:#333;}#mermaid-svg-5tKRECJW9ScaBLKY .cluster-label span{color:#333;}#mermaid-svg-5tKRECJW9ScaBLKY .label text,#mermaid-svg-5tKRECJW9ScaBLKY span{fill:#333;color:#333;}#mermaid-svg-5tKRECJW9ScaBLKY .node rect,#mermaid-svg-5tKRECJW9ScaBLKY .node circle,#mermaid-svg-5tKRECJW9ScaBLKY .node ellipse,#mermaid-svg-5tKRECJW9ScaBLKY .node polygon,#mermaid-svg-5tKRECJW9ScaBLKY .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-5tKRECJW9ScaBLKY .node .label{text-align:center;}#mermaid-svg-5tKRECJW9ScaBLKY .node.clickable{cursor:pointer;}#mermaid-svg-5tKRECJW9ScaBLKY .arrowheadPath{fill:#333333;}#mermaid-svg-5tKRECJW9ScaBLKY .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-5tKRECJW9ScaBLKY .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-5tKRECJW9ScaBLKY .edgeLabel{background-color:#e8e8e8;text-align:center;}#mermaid-svg-5tKRECJW9ScaBLKY .edgeLabel rect{opacity:0.5;background-color:#e8e8e8;fill:#e8e8e8;}#mermaid-svg-5tKRECJW9ScaBLKY .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-5tKRECJW9ScaBLKY .cluster text{fill:#333;}#mermaid-svg-5tKRECJW9ScaBLKY .cluster span{color:#333;}#mermaid-svg-5tKRECJW9ScaBLKY div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-5tKRECJW9ScaBLKY :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;}#mermaid-svg-5tKRECJW9ScaBLKY .endpoint>*{fill:#bbf!important;stroke:#333!important;stroke-width:2px!important;}#mermaid-svg-5tKRECJW9ScaBLKY .endpoint span{fill:#bbf!important;stroke:#333!important;stroke-width:2px!important;}#mermaid-svg-5tKRECJW9ScaBLKY .client>*{fill:#f9f!important;stroke:#333!important;stroke-width:2px!important;}#mermaid-svg-5tKRECJW9ScaBLKY .client span{fill:#f9f!important;stroke:#333!important;stroke-width:2px!important;}#mermaid-svg-5tKRECJW9ScaBLKY .server>*{fill:#dfd!important;stroke:#333!important;stroke-width:2px!important;}#mermaid-svg-5tKRECJW9ScaBLKY .server span{fill:#dfd!important;stroke:#333!important;stroke-width:2px!important;} 服务器端处理流程 WebSocket连接 发送工作流 返回prompt_id 查询结果 返回输出 请求图像 返回图像 上传输入图像 任务队列 图像生成处理 图像存储 客户端 ws 端点实时状态更新 prompt 端点任务排队 history/prompt_id获取处理结果 view 端点查看图像 upload/image_type处理图像上传 1.2 请求-响应模型

文生图应用的 API 设计面临一个根本性挑战：图像生成是计算密集型任务，可能需要数秒至数分钟才能完成。这决定了其 API 设计必须处理长时间运行的任务。

同步 API 设计在简单应用中较为常见，如一些简化的文生图 API（如 sitiusAI/text2image-free）采用直接返回生成图像 URL 的方式。这种设计简单直观，但不适合复杂或高负载场景，因为它会占用服务器资源直至任务完成，影响系统扩展性。

// 同步API示例 (sitiusAI/text2image-free) { "prompt": "cute dog", "negative": "bad anatomy", "model": "runwayml/stable-diffusion-v1-5" } // 直接返回图像URL

异步 API 设计是主流文生图服务的标准选择。在这种模式下，API 请求立即返回一个任务 ID，客户端可以使用此 ID 查询任务状态或结果。Midjourney、Stable Diffusion WebUI 和 ComfyUI 都采用这种方式。异步设计解耦了请求处理和实际计算，允许服务器更有效地管理资源，提高系统吞吐量。

长时间任务处理是文生图 API 的核心考量。成熟的系统通常采用以下机制：

任务队列系统（如 Redis、RabbitMQ 等）管理待处理任务基于 WebSocket 的实时进度通知任务状态持久化，支持断线重连后继续接收更新结果缓存，避免重复计算

错误处理与恢复策略同样重要。健壮的文生图 API 需要考虑多种故障场景：

模型加载失败GPU 内存不足生成过程崩溃网络连接中断

优秀的系统如 Midjourney 实现了复杂的错误恢复机制，包括自动重试、降级处理（如降低批次大小或精度）以及详细的错误报告。这些机制确保了即使在不理想条件下，系统仍能提供可靠的服务。

#mermaid-svg-a4TMsyx8fV5a0Nev {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-a4TMsyx8fV5a0Nev .error-icon{fill:#552222;}#mermaid-svg-a4TMsyx8fV5a0Nev .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-a4TMsyx8fV5a0Nev .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-a4TMsyx8fV5a0Nev .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-a4TMsyx8fV5a0Nev .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-a4TMsyx8fV5a0Nev .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-a4TMsyx8fV5a0Nev .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-a4TMsyx8fV5a0Nev .marker{fill:#333333;stroke:#333333;}#mermaid-svg-a4TMsyx8fV5a0Nev .marker.cross{stroke:#333333;}#mermaid-svg-a4TMsyx8fV5a0Nev svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-a4TMsyx8fV5a0Nev .actor{stroke:hsl(259.6261682243, 59.7765363128%, 87.9019607843%);fill:#ECECFF;}#mermaid-svg-a4TMsyx8fV5a0Nev text.actor>tspan{fill:black;stroke:none;}#mermaid-svg-a4TMsyx8fV5a0Nev .actor-line{stroke:grey;}#mermaid-svg-a4TMsyx8fV5a0Nev .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333;}#mermaid-svg-a4TMsyx8fV5a0Nev .messageLine1{stroke-width:1.5;stroke-dasharray:2,2;stroke:#333;}#mermaid-svg-a4TMsyx8fV5a0Nev #arrowhead path{fill:#333;stroke:#333;}#mermaid-svg-a4TMsyx8fV5a0Nev .sequenceNumber{fill:white;}#mermaid-svg-a4TMsyx8fV5a0Nev #sequencenumber{fill:#333;}#mermaid-svg-a4TMsyx8fV5a0Nev #crosshead path{fill:#333;stroke:#333;}#mermaid-svg-a4TMsyx8fV5a0Nev .messageText{fill:#333;stroke:#333;}#mermaid-svg-a4TMsyx8fV5a0Nev .labelBox{stroke:hsl(259.6261682243, 59.7765363128%, 87.9019607843%);fill:#ECECFF;}#mermaid-svg-a4TMsyx8fV5a0Nev .labelText,#mermaid-svg-a4TMsyx8fV5a0Nev .labelText>tspan{fill:black;stroke:none;}#mermaid-svg-a4TMsyx8fV5a0Nev .loopText,#mermaid-svg-a4TMsyx8fV5a0Nev .loopText>tspan{fill:black;stroke:none;}#mermaid-svg-a4TMsyx8fV5a0Nev .loopLine{stroke-width:2px;stroke-dasharray:2,2;stroke:hsl(259.6261682243, 59.7765363128%, 87.9019607843%);fill:hsl(259.6261682243, 59.7765363128%, 87.9019607843%);}#mermaid-svg-a4TMsyx8fV5a0Nev .note{stroke:#aaaa33;fill:#fff5ad;}#mermaid-svg-a4TMsyx8fV5a0Nev .noteText,#mermaid-svg-a4TMsyx8fV5a0Nev .noteText>tspan{fill:black;stroke:none;}#mermaid-svg-a4TMsyx8fV5a0Nev .activation0{fill:#f4f4f4;stroke:#666;}#mermaid-svg-a4TMsyx8fV5a0Nev .activation1{fill:#f4f4f4;stroke:#666;}#mermaid-svg-a4TMsyx8fV5a0Nev .activation2{fill:#f4f4f4;stroke:#666;}#mermaid-svg-a4TMsyx8fV5a0Nev .actorPopupMenu{position:absolute;}#mermaid-svg-a4TMsyx8fV5a0Nev .actorPopupMenuPanel{position:absolute;fill:#ECECFF;box-shadow:0px 8px 16px 0px rgba(0,0,0,0.2);filter:drop-shadow(3px 5px 2px rgb(0 0 0 / 0.4));}#mermaid-svg-a4TMsyx8fV5a0Nev .actor-man line{stroke:hsl(259.6261682243, 59.7765363128%, 87.9019607843%);fill:#ECECFF;}#mermaid-svg-a4TMsyx8fV5a0Nev .actor-man circle,#mermaid-svg-a4TMsyx8fV5a0Nev line{stroke:hsl(259.6261682243, 59.7765363128%, 87.9019607843%);fill:#ECECFF;stroke-width:2px;}#mermaid-svg-a4TMsyx8fV5a0Nev :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} 客户端 同步API服务 任务队列 工作节点 异步API服务 同步API模式 发送图像生成请求 处理请求(阻塞) 图像生成过程 (数秒至数分钟) 返回生成结果 响应(包含图像URL) 客户端等待整个处理过程 异步API模式 发送图像生成请求 立即返回任务ID 将任务加入队列 查询状态(使用任务ID) 返回"处理中"状态 分配任务 图像生成过程 完成处理 再次查询状态 返回"已完成"及结果URL 客户端可以执行其他操作 WebSocket实时更新(异步API增强) 建立WebSocket连接 发送图像生成请求 返回任务ID 将任务加入队列 分配任务 进度更新 WebSocket推送进度(10%) 显示实时预览 进度更新 WebSocket推送进度(50%) 更新预览 loop [处理过程中] 完成处理 WebSocket推送完成通知 客户端 同步API服务 任务队列 工作节点 异步API服务 1.3 接口抽象与扩展性

文生图应用的接口抽象与扩展性设计是决定系统生命力的关键因素，这也是开源系统如 ComfyUI 和商业系统如 Midjourney 之间的主要区别之一。

插件系统与自定义节点实现是灵活 API 设计的代表。ComfyUI 的节点化架构允许开发者轻松创建新的处理节点，并将其无缝集成到现有工作流中。这种设计使得系统能够快速适应新技术（如 ControlNet、LoRA 等）而无需修改核心代码。典型的节点抽象包括：

输入/输出接口标准化节点元数据描述（如类别、参数类型）节点间数据流定义预览与调试钩子

API 版本控制与兼容性维护是长期运营的文生图服务必须考虑的问题。随着底层模型和算法的持续演进，API 接口不可避免地需要更新。成熟的系统如 Midjourney 采用了以下策略：

语义化版本控制向后兼容性保证版本迁移期与废弃流程多版本并行支持

第三方集成接口设计使文生图服务能够无缝嵌入到更大的生态系统中。以 Midjourney 为例，它通过 Discord 平台提供服务，这一选择大大简化了用户身份验证、消息传递和图像分享等功能的实现。同时，许多服务也提供专用 API 供第三方应用集成，通常包括：

认证与授权机制（OAuth、API 密钥等）速率限制与配额管理Webhook 用于异步通知SDK 与客户端库 2. 分布式服务架构 2.1 任务排队系统

任务排队系统是大规模文生图服务的核心组件，直接影响用户体验和系统效率。

任务优先级管理与调度算法决定了哪些任务先被处理。商业服务如 Midjourney 通常实现了多层优先级策略：

基于订阅层级的优先级（付费用户优先于免费用户）任务复杂度分级（简单任务优先于复杂任务）公平使用策略（防止单个用户独占资源）动态优先级调整（长时间等待的任务优先级逐渐提升）

这些策略通常通过定制的任务调度器实现，结合启发式算法优化全局资源利用率。

队列设计与负载均衡策略确保系统在高并发情况下仍能高效运行。成熟的文生图服务通常采用多级队列架构：

前端队列接收并验证所有请求分类队列根据任务类型（如文生图、图生图、放大等）分流资源匹配队列将任务分配给适合的计算资源重试队列处理失败任务

负载均衡不仅考虑服务器数量，还需考虑 GPU 利用率、内存占用和网络带宽等多维度资源状况。

多租户隔离与资源分配是支持大规模商业服务的关键技术。以 Midjourney 为例，其服务架构需要同时处理成千上万的用户请求，同时保证资源公平分配和服务质量。常见的多租户策略包括：

资源池隔离（不同付费等级的用户使用不同资源池）配额系统（限制单位时间内的资源使用量）弹性资源分配（根据实时负载动态调整资源）性能保证（确保任务响应时间在可接受范围内） #mermaid-svg-fmiXv3VU1mETSPJC {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-fmiXv3VU1mETSPJC .error-icon{fill:#552222;}#mermaid-svg-fmiXv3VU1mETSPJC .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-fmiXv3VU1mETSPJC .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-fmiXv3VU1mETSPJC .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-fmiXv3VU1mETSPJC .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-fmiXv3VU1mETSPJC .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-fmiXv3VU1mETSPJC .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-fmiXv3VU1mETSPJC .marker{fill:#333333;stroke:#333333;}#mermaid-svg-fmiXv3VU1mETSPJC .marker.cross{stroke:#333333;}#mermaid-svg-fmiXv3VU1mETSPJC svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-fmiXv3VU1mETSPJC .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-fmiXv3VU1mETSPJC .cluster-label text{fill:#333;}#mermaid-svg-fmiXv3VU1mETSPJC .cluster-label span{color:#333;}#mermaid-svg-fmiXv3VU1mETSPJC .label text,#mermaid-svg-fmiXv3VU1mETSPJC span{fill:#333;color:#333;}#mermaid-svg-fmiXv3VU1mETSPJC .node rect,#mermaid-svg-fmiXv3VU1mETSPJC .node circle,#mermaid-svg-fmiXv3VU1mETSPJC .node ellipse,#mermaid-svg-fmiXv3VU1mETSPJC .node polygon,#mermaid-svg-fmiXv3VU1mETSPJC .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-fmiXv3VU1mETSPJC .node .label{text-align:center;}#mermaid-svg-fmiXv3VU1mETSPJC .node.clickable{cursor:pointer;}#mermaid-svg-fmiXv3VU1mETSPJC .arrowheadPath{fill:#333333;}#mermaid-svg-fmiXv3VU1mETSPJC .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-fmiXv3VU1mETSPJC .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-fmiXv3VU1mETSPJC .edgeLabel{background-color:#e8e8e8;text-align:center;}#mermaid-svg-fmiXv3VU1mETSPJC .edgeLabel rect{opacity:0.5;background-color:#e8e8e8;fill:#e8e8e8;}#mermaid-svg-fmiXv3VU1mETSPJC .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-fmiXv3VU1mETSPJC .cluster text{fill:#333;}#mermaid-svg-fmiXv3VU1mETSPJC .cluster span{color:#333;}#mermaid-svg-fmiXv3VU1mETSPJC div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-fmiXv3VU1mETSPJC :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;}#mermaid-svg-fmiXv3VU1mETSPJC .premium>*{fill:#f9d!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-fmiXv3VU1mETSPJC .premium span{fill:#f9d!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-fmiXv3VU1mETSPJC .standard>*{fill:#adf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-fmiXv3VU1mETSPJC .standard span{fill:#adf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-fmiXv3VU1mETSPJC .free>*{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-fmiXv3VU1mETSPJC .free span{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-fmiXv3VU1mETSPJC .system>*{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-fmiXv3VU1mETSPJC .system span{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;} 监控与反馈 资源池 多级优先队列 API网关与任务分类 用户请求入口 高优先级队列 中优先级队列 低优先级队列 优先级路由 优先级路由 优先级路由 优先级路由 优先级路由 资源匹配 资源匹配 资源匹配 系统监控 用户反馈 高性能资源池 标准资源池 共享资源池 任务调度器 所有任务 快速任务 标准任务 快速任务 标准任务 API网关 速率限制器 任务分类器 付费用户请求 标准用户请求 免费用户请求 2.2 微服务拆分

随着文生图应用功能的不断丰富，微服务架构成为处理系统复杂性的必然选择。

服务边界划分与通信设计是架构的首要考量。典型的文生图系统可能包含以下服务：

用户认证与授权服务任务调度与队列管理服务模型服务（负责模型加载与推理）存储服务（管理生成的图像与中间结果）计费与配额服务监控与日志服务

这些服务之间通过定义良好的 API 进行通信，常见的通信模式包括请求-响应（如 RESTful API、gRPC）和发布-订阅（如 Kafka、RabbitMQ）。

状态管理与数据一致性是分布式系统的永恒挑战。文生图系统需要管理各种状态：用户会话、生成任务进度、计算资源状态等。为了确保数据一致性，常见的策略包括：

分布式事务事件溯源CQRS（命令查询责任分离）最终一致性模型

服务发现与健康检查机制确保系统能够自动适应服务实例的变化。成熟的文生图服务通常采用如 Kubernetes、Consul 或 Etcd 等技术实现服务注册与发现，结合健康检查确保只有正常运行的服务实例才会接收流量。

#mermaid-svg-iB3q33K3imb9rZxE {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-iB3q33K3imb9rZxE .error-icon{fill:#552222;}#mermaid-svg-iB3q33K3imb9rZxE .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-iB3q33K3imb9rZxE .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-iB3q33K3imb9rZxE .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-iB3q33K3imb9rZxE .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-iB3q33K3imb9rZxE .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-iB3q33K3imb9rZxE .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-iB3q33K3imb9rZxE .marker{fill:#333333;stroke:#333333;}#mermaid-svg-iB3q33K3imb9rZxE .marker.cross{stroke:#333333;}#mermaid-svg-iB3q33K3imb9rZxE svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-iB3q33K3imb9rZxE .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-iB3q33K3imb9rZxE .cluster-label text{fill:#333;}#mermaid-svg-iB3q33K3imb9rZxE .cluster-label span{color:#333;}#mermaid-svg-iB3q33K3imb9rZxE .label text,#mermaid-svg-iB3q33K3imb9rZxE span{fill:#333;color:#333;}#mermaid-svg-iB3q33K3imb9rZxE .node rect,#mermaid-svg-iB3q33K3imb9rZxE .node circle,#mermaid-svg-iB3q33K3imb9rZxE .node ellipse,#mermaid-svg-iB3q33K3imb9rZxE .node polygon,#mermaid-svg-iB3q33K3imb9rZxE .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-iB3q33K3imb9rZxE .node .label{text-align:center;}#mermaid-svg-iB3q33K3imb9rZxE .node.clickable{cursor:pointer;}#mermaid-svg-iB3q33K3imb9rZxE .arrowheadPath{fill:#333333;}#mermaid-svg-iB3q33K3imb9rZxE .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-iB3q33K3imb9rZxE .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-iB3q33K3imb9rZxE .edgeLabel{background-color:#e8e8e8;text-align:center;}#mermaid-svg-iB3q33K3imb9rZxE .edgeLabel rect{opacity:0.5;background-color:#e8e8e8;fill:#e8e8e8;}#mermaid-svg-iB3q33K3imb9rZxE .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-iB3q33K3imb9rZxE .cluster text{fill:#333;}#mermaid-svg-iB3q33K3imb9rZxE .cluster span{color:#333;}#mermaid-svg-iB3q33K3imb9rZxE div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-iB3q33K3imb9rZxE :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;}#mermaid-svg-iB3q33K3imb9rZxE .client>*{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .client span{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .gateway>*{fill:#ff9!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .gateway span{fill:#ff9!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .security>*{fill:#f66!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .security span{fill:#f66!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .core>*{fill:#6af!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .core span{fill:#6af!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .support>*{fill:#6f6!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .support span{fill:#6f6!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .data>*{fill:#aaa!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-iB3q33K3imb9rZxE .data span{fill:#aaa!important;stroke:#333!important;stroke-width:1px!important;} 数据层 辅助服务 核心服务群 身份与安全 API网关层 客户端层 收集指标 收集指标 收集指标 Redis缓存 MongoDB 对象存储 消息总线Kafka/RabbitMQ 计费服务 分析服务 监控服务 任务管理服务 模型服务 存储服务 通知服务 认证授权服务 速率限制服务 API网关 负载均衡器 Web应用 移动应用 第三方集成 2.3 高可用性设计

文生图服务通常被用户视为创意工具，其可用性直接影响用户工作流程。高可用性设计确保服务能够持续可靠地运行。

故障检测与恢复机制是高可用性的基础。文生图系统面临的主要故障类型包括：

硬件故障（GPU 故障、网络中断等）软件错误（内存泄漏、死锁等）资源耗尽（GPU 内存不足、磁盘空间用尽等）外部依赖故障（数据库宕机、第三方 API 不可用等）

成熟系统通过故障隔离（如舱壁模式）、自动重启和资源重分配等机制最小化故障影响。

服务降级与熔断策略允许系统在部分功能不可用时仍能提供核心服务。例如，当高精度模型不可用时，自动切换到低精度模型；当实时进度更新功能过载时，降低更新频率。这些策略通常通过熔断器模式实现，在检测到异常时自动触发降级流程。

冗余设计与灾备方案是应对大规模故障的最后防线。文生图服务通常采用多区域部署，实现地理冗余；关键数据如用户历史生成结果会被多次备份；核心服务如认证系统会部署多个冗余实例。灾备方案还包括定期演练和完整的恢复流程文档，确保在灾难事件发生时能够快速恢复服务。

#mermaid-svg-M9CfomJHmrw32L7P {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-M9CfomJHmrw32L7P .error-icon{fill:#552222;}#mermaid-svg-M9CfomJHmrw32L7P .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-M9CfomJHmrw32L7P .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-M9CfomJHmrw32L7P .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-M9CfomJHmrw32L7P .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-M9CfomJHmrw32L7P .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-M9CfomJHmrw32L7P .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-M9CfomJHmrw32L7P .marker{fill:#333333;stroke:#333333;}#mermaid-svg-M9CfomJHmrw32L7P .marker.cross{stroke:#333333;}#mermaid-svg-M9CfomJHmrw32L7P svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-M9CfomJHmrw32L7P .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-M9CfomJHmrw32L7P .cluster-label text{fill:#333;}#mermaid-svg-M9CfomJHmrw32L7P .cluster-label span{color:#333;}#mermaid-svg-M9CfomJHmrw32L7P .label text,#mermaid-svg-M9CfomJHmrw32L7P span{fill:#333;color:#333;}#mermaid-svg-M9CfomJHmrw32L7P .node rect,#mermaid-svg-M9CfomJHmrw32L7P .node circle,#mermaid-svg-M9CfomJHmrw32L7P .node ellipse,#mermaid-svg-M9CfomJHmrw32L7P .node polygon,#mermaid-svg-M9CfomJHmrw32L7P .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-M9CfomJHmrw32L7P .node .label{text-align:center;}#mermaid-svg-M9CfomJHmrw32L7P .node.clickable{cursor:pointer;}#mermaid-svg-M9CfomJHmrw32L7P .arrowheadPath{fill:#333333;}#mermaid-svg-M9CfomJHmrw32L7P .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-M9CfomJHmrw32L7P .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-M9CfomJHmrw32L7P .edgeLabel{background-color:#e8e8e8;text-align:center;}#mermaid-svg-M9CfomJHmrw32L7P .edgeLabel rect{opacity:0.5;background-color:#e8e8e8;fill:#e8e8e8;}#mermaid-svg-M9CfomJHmrw32L7P .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-M9CfomJHmrw32L7P .cluster text{fill:#333;}#mermaid-svg-M9CfomJHmrw32L7P .cluster span{color:#333;}#mermaid-svg-M9CfomJHmrw32L7P div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-M9CfomJHmrw32L7P :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;}#mermaid-svg-M9CfomJHmrw32L7P .primary>*{fill:#bbf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .primary span{fill:#bbf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .secondary>*{fill:#ddf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .secondary span{fill:#ddf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .disaster>*{fill:#fdd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .disaster span{fill:#fdd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .monitor>*{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .monitor span{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .user>*{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .user span{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .db>*{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-M9CfomJHmrw32L7P .db span{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;} 常见故障场景响应 降级策略 故障检测与处理 多区域部署 区域A (主要区域) 区域B (热备区域) 区域C (灾备区域) 故障转移 同步复制 异步复制 复制 自动重启 自动扩容 资源再分配 重分配任务到备用GPU 启动备用链路 回退到稳定版本 紧急清理临时数据 GPU失效 网络中断 模型崩溃 存储耗尽 熔断器 降级回退 限流阀 监控系统 告警系统 自愈系统 API网关C 最小服务集 灾备数据库 API网关B 服务集群B1 服务集群B2 从数据库 从缓存 API网关A 服务集群A1 服务集群A2 主数据库 主缓存 用户 全球负载均衡 用户 3. 扩展性与性能优化 3.1 水平扩展架构

随着用户增长和功能扩展，文生图应用需要能够平滑地扩展处理能力。水平扩展是最可行的解决方案。

工作节点动态伸缩设计使系统能够根据实时负载自动调整资源配置。Midjourney 等商业服务通常采用云原生架构，利用自动扩缩容技术（如 Kubernetes HPA）根据队列长度、GPU 利用率等指标动态调整工作节点数量。还有一些先进策略如：

预测性扩容（根据历史数据预测负载高峰）快慢节点混合（轻量请求由廉价资源处理，复杂请求由高性能资源处理）热备节点（保持一定数量的空闲节点以应对突发流量）

跨区域部署与全球化策略对于全球用户的文生图服务至关重要。通过在不同地理位置部署资源，系统可以：

降低用户访问延迟提高服务可用性（隔离区域性故障）遵守数据本地化要求优化网络成本

全球化策略还需要考虑内容分发网络（CDN）整合、多语言支持和区域特定的合规性要求。

资源池化与弹性管理是高效利用计算资源的关键。现代文生图服务通常实现复杂的资源管理系统，将 GPU、CPU、内存和存储视为池化资源，根据任务需求动态分配。一些先进策略包括：

异构资源管理（同时管理不同规格的 GPU）资源亲和性（特定任务分配给特定硬件）动态分区（根据负载特征重新划分资源池）抢占式调度（低优先级任务在必要时被高优先级任务抢占） #mermaid-svg-sOUhCUV7CUE7hmY6 {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .error-icon{fill:#552222;}#mermaid-svg-sOUhCUV7CUE7hmY6 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-sOUhCUV7CUE7hmY6 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .marker.cross{stroke:#333333;}#mermaid-svg-sOUhCUV7CUE7hmY6 svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-sOUhCUV7CUE7hmY6 .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .cluster-label text{fill:#333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .cluster-label span{color:#333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .label text,#mermaid-svg-sOUhCUV7CUE7hmY6 span{fill:#333;color:#333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .node rect,#mermaid-svg-sOUhCUV7CUE7hmY6 .node circle,#mermaid-svg-sOUhCUV7CUE7hmY6 .node ellipse,#mermaid-svg-sOUhCUV7CUE7hmY6 .node polygon,#mermaid-svg-sOUhCUV7CUE7hmY6 .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-sOUhCUV7CUE7hmY6 .node .label{text-align:center;}#mermaid-svg-sOUhCUV7CUE7hmY6 .node.clickable{cursor:pointer;}#mermaid-svg-sOUhCUV7CUE7hmY6 .arrowheadPath{fill:#333333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-sOUhCUV7CUE7hmY6 .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edgeLabel{background-color:#e8e8e8;text-align:center;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edgeLabel rect{opacity:0.5;background-color:#e8e8e8;fill:#e8e8e8;}#mermaid-svg-sOUhCUV7CUE7hmY6 .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-sOUhCUV7CUE7hmY6 .cluster text{fill:#333;}#mermaid-svg-sOUhCUV7CUE7hmY6 .cluster span{color:#333;}#mermaid-svg-sOUhCUV7CUE7hmY6 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-sOUhCUV7CUE7hmY6 :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;}#mermaid-svg-sOUhCUV7CUE7hmY6 .user>*{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .user span{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edge>*{fill:#bbf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .edge span{fill:#bbf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .dc>*{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .dc span{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .pool>*{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .pool span{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .controller>*{fill:#faa!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-sOUhCUV7CUE7hmY6 .controller span{fill:#faa!important;stroke:#333!important;stroke-width:1px!important;} 弹性伸缩控制器 计算资源池 K8s弹性伸缩层 区域数据中心 边缘节点层 CDN网络 全球用户请求 北美集群 欧洲集群 亚太集群 指标收集器 负载预测器 扩缩控制器 高端GPU池 标准GPU池 CPU计算池 水平Pod自动伸缩 集群自动伸缩 工作Pod 水平Pod自动伸缩 集群自动伸缩 工作Pod 水平Pod自动伸缩 集群自动伸缩 工作Pod 北美数据中心 欧洲数据中心 亚太数据中心 北美边缘节点 欧洲边缘节点 亚太边缘节点 北美CDN 欧洲CDN 亚太CDN 北美用户 欧洲用户 亚太用户 3.2 缓存与存储优化

文生图应用需要处理大量数据，从模型参数到生成结果，高效的缓存与存储策略直接影响系统性能和成本。

模型缓存设计与失效策略对推理性能有重大影响。加载大型模型（如 Stable Diffusion XL）可能需要数秒至数十秒，频繁加载会导致资源浪费和用户等待时间延长。成熟系统通常采用多级缓存策略：

热缓存（最常用模型常驻 GPU 内存）温缓存（次常用模型保存在主内存，可快速加载）冷缓存（不常用模型存储在磁盘）

缓存失效策略需要平衡内存使用和加载时间，如 LRU（最近最少使用）、LFU（最不经常使用）或基于预测的策略。

生成结果存储与访问优化是用户体验的关键组成部分。用户期望能够快速访问历史生成结果，这要求系统有效管理大量图像数据。常见的优化策略包括：

分层存储（热数据存储在快速存储中，冷数据迁移至廉价存储）按需生成缩略图延迟擦除（用户删除的内容不立即物理删除）数据压缩与重复数据删除

CDN 集成与内容分发使系统能够更快地向全球用户提供生成结果。通过将静态内容（如生成的图像）分发到靠近用户的边缘节点，系统可以显著降低访问延迟。高级实现还可能包括：

智能路由（根据网络状况选择最佳路径）预加载策略（预测用户可能请求的内容）动态内容优化（根据用户设备调整图像分辨率）增量更新（只传输变化的部分）

通过这些缓存与存储优化，文生图系统能够在控制成本的同时提供流畅的用户体验，实现大规模服务的可持续运营。

#mermaid-svg-avGPDCaZEoNu2z7U {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-avGPDCaZEoNu2z7U .error-icon{fill:#552222;}#mermaid-svg-avGPDCaZEoNu2z7U .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-avGPDCaZEoNu2z7U .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-avGPDCaZEoNu2z7U .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-avGPDCaZEoNu2z7U .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-avGPDCaZEoNu2z7U .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-avGPDCaZEoNu2z7U .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-avGPDCaZEoNu2z7U .marker{fill:#333333;stroke:#333333;}#mermaid-svg-avGPDCaZEoNu2z7U .marker.cross{stroke:#333333;}#mermaid-svg-avGPDCaZEoNu2z7U svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-avGPDCaZEoNu2z7U .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-avGPDCaZEoNu2z7U .cluster-label text{fill:#333;}#mermaid-svg-avGPDCaZEoNu2z7U .cluster-label span{color:#333;}#mermaid-svg-avGPDCaZEoNu2z7U .label text,#mermaid-svg-avGPDCaZEoNu2z7U span{fill:#333;color:#333;}#mermaid-svg-avGPDCaZEoNu2z7U .node rect,#mermaid-svg-avGPDCaZEoNu2z7U .node circle,#mermaid-svg-avGPDCaZEoNu2z7U .node ellipse,#mermaid-svg-avGPDCaZEoNu2z7U .node polygon,#mermaid-svg-avGPDCaZEoNu2z7U .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-avGPDCaZEoNu2z7U .node .label{text-align:center;}#mermaid-svg-avGPDCaZEoNu2z7U .node.clickable{cursor:pointer;}#mermaid-svg-avGPDCaZEoNu2z7U .arrowheadPath{fill:#333333;}#mermaid-svg-avGPDCaZEoNu2z7U .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-avGPDCaZEoNu2z7U .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-avGPDCaZEoNu2z7U .edgeLabel{background-color:#e8e8e8;text-align:center;}#mermaid-svg-avGPDCaZEoNu2z7U .edgeLabel rect{opacity:0.5;background-color:#e8e8e8;fill:#e8e8e8;}#mermaid-svg-avGPDCaZEoNu2z7U .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-avGPDCaZEoNu2z7U .cluster text{fill:#333;}#mermaid-svg-avGPDCaZEoNu2z7U .cluster span{color:#333;}#mermaid-svg-avGPDCaZEoNu2z7U div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-avGPDCaZEoNu2z7U :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;}#mermaid-svg-avGPDCaZEoNu2z7U .user>*{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .user span{fill:#f9f!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .cdn>*{fill:#bbf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .cdn span{fill:#bbf!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .cache>*{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .cache span{fill:#dfd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .model>*{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .model span{fill:#ffd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .storage>*{fill:#edd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .storage span{fill:#edd!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .strategy>*{fill:#dff!important;stroke:#333!important;stroke-width:1px!important;}#mermaid-svg-avGPDCaZEoNu2z7U .strategy span{fill:#dff!important;stroke:#333!important;stroke-width:1px!important;} 压缩与优化 缓存管理策略 图像存储层 热数据 温数据 冷数据 模型缓存层 热缓存层 温缓存层 冷缓存层 不常用模型 次常用模型 常驻模型 应用层缓存 CDN层 用户侧 生成结果 WebP格式转换 自动缩略图 预取策略 延迟加载 最近最少使用 最不频繁使用 自适应替换 基于时间的过期 归档图像 高频访问图像 最近生成的图像 本地SSD 旧版模型 特殊模型 系统内存 专业模型 备用模型 GPU内存 核心基础模型 常用LoRA模型 API响应缓存 模型推理结果缓存 CDN边缘节点 用户 浏览器缓存