分布式系统控制面与数据面解析

发表于2025-12-04|更新于2026-06-10|LLM

|浏览量:

好的，这是一个非常核心的分布式系统设计概念。我们可以用一个生动的比喻来开始，然后深入技术细节。

核心比喻：空中交通管制系统

控制面 就像是空中的交通管制塔和调度员。
- 他们不直接开飞机（处理乘客和货物）。
- 他们的工作是：规划航线、指挥飞机起飞和降落、监控所有飞机的状态和位置、处理紧急情况、分配跑道和空域。他们做出决策，确保整个系统安全、有序地运行。
数据面 就像是飞机本身和跑道。
- 它们负责实际的运输工作：搭载乘客、装载货物、在指定的航线上飞行。
- 它们不决定去哪、怎么飞，而是忠实地执行控制塔发出的指令，专注于高效、安全地完成“运输”这个核心任务。

详细解释

1. 控制面

控制面是系统的大脑和神经系统，负责管理、协调和决策。它不直接处理用户的业务请求，而是确保数据面能够正确、高效地处理这些请求。

主要职责：

系统配置与管理：管理网络配置、服务发现、负载均衡策略、安全策略（如防火墙规则）等。
状态监控与收集：收集整个系统中所有组件（数据面节点）的健康状态、性能指标（如CPU、内存、流量）、日志和拓扑信息。
路由决策：决定数据包的转发路径。例如，在微服务网络中，控制面决定一个服务A的请求应该被发送到哪个服务B的实例上。
策略执行：定义和执行各种策略，例如访问控制、速率限制、重试策略、熔断策略。
容错与自愈：当监控到某个数据面节点故障时，控制面会将其从健康服务列表中剔除，并将流量路由到其他健康节点，实现系统的高可用性。

特点：

低频率、高价值：处理的事件频率相对较低（如节点上下线、配置变更），但每个决策都对整个系统有重大影响。
全局视图：拥有整个分布式系统的全局视角。
对延迟不敏感：通常不位于用户请求的关键路径上，短暂的延迟或抖动一般不会直接影响用户体验。

2. 数据面

数据面是系统的肌肉和血管，负责执行实际的数据处理和转发。它处理每一个用户请求，是业务流量的直接承载者。

主要职责：

数据包转发：根据控制面下发的规则（如路由表），对数据包进行接收、解析、修改、转发或丢弃。
负载均衡：在多个后端服务实例之间分发请求。
协议处理：处理HTTP、gRPC、TCP等具体协议的通信。
实施具体策略：执行控制面下发的具体策略，例如对某个API进行速率限制、对请求进行加密/解密、进行身份验证等。
高性能数据处理：专注于以最低的延迟和最高的吞吐量处理数据流。

特点：

高频率、高性能：处理每一个用户请求，对性能和延迟有极致要求。
局部视图：通常只关心与自己相关的任务，不感知整个系统的全局状态。
对延迟高度敏感：位于用户请求的关键路径上，其性能直接决定了用户体验。

实际例子

1. 软件定义网络

控制面：SDN控制器（如OpenDaylight, ONOS）。它通过南向接口（如OpenFlow）与所有网络交换机通信，收集网络状态，并计算和下发流表。
数据面：物理/虚拟网络交换机。它们根据控制器下发的流表，高速地匹配和转发数据包。

2. 服务网格

控制面：Istio的istiod或Linkerd的destination服务。它负责服务发现、配置证书、并向数据面Sidecar代理下发路由规则。
数据面：每个微服务旁部署的Sidecar代理（如Envoy）。它拦截所有进出微服务的流量，并根据控制面下发的规则执行路由、熔断、遥测、加密等操作。

3. 负载均衡器

控制面：负责健康检查后端服务器，并根据健康状态和负载均衡算法（如轮询、最小连接数）动态更新服务器池列表。
数据面：接收用户请求，并根据控制面提供的服务器列表，快速将请求转发到选定的后端服务器。

分离的好处

将控制面和数据面分离是现代分布式系统架构的一个关键设计原则，它带来了巨大的好处：

独立扩展：数据面可以根据流量压力进行水平扩展，而控制面可以根据管理的节点数量进行扩展，两者互不干扰。
技术栈解耦：可以为数据面选择追求极致性能的语言（如C++， Rust），为控制面选择追求开发效率的语言（如Go， Java）。
增强可靠性：控制面的短暂故障通常不会影响数据面的现有流量转发（数据面会沿用最后已知的良好状态），只会影响新的配置更新和状态变化。
集中化管理：通过一个统一的控制面来管理成百上千个数据面实例，极大地简化了运维复杂度。

总结

特性	控制面	数据面
角色	大脑、管理者	肌肉、工作者
职责	决策、管理、协调	执行、转发、处理
处理对象	元数据、配置、状态	用户数据、业务请求
性能要求	高一致性、可用性	低延迟、高吞吐
视图	全局视图	局部视图
频率	低频、事件驱动	高频、持续流

理解控制面和数据面的分离，是设计和理解现代云原生、微服务、SDN等复杂分布式系统的基石。

文章作者: xhj

文章链接: https://hzhzxfs.github.io/2025/12/04/%E5%88%86%E5%B8%83%E5%BC%8F%E7%B3%BB%E7%BB%9F%E6%8E%A7%E5%88%B6%E9%9D%A2%E4%B8%8E%E6%95%B0%E6%8D%AE%E9%9D%A2%E8%A7%A3%E6%9E%90/

版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 xhj的博客！

相关推荐

Ray框架中Actor概念及作用详解

好的，我们来详细讲解一下 Ray 框架中的 Actor 概念。 1. Actor 是什么？在 Ray 中，Actor 是一个有状态的“工作进程”。你可以把它理解为一个“活的”对象。普通 Python 类 vs. Ray Actor 一个普通的 Python 类 MyClass 在被实例化后（obj = MyClass()），obj 只是一个存在于当前进程内存中的对象。一个 Ray Actor 是通过 ray.remote(MyClass) 创建的。当你实例化它时（actor_handle = MyClass.remote()），Ray 会在集群中的某个节点上（可能是在远程机器上）启动一个独立的进程，并在该进程中创建一个 MyClass 的实例。你得到的 actor_handle 并不是对象本身，而是一个指向远程对象（即那个进程中的实例）的引用或句柄。核心特征：有状态Actor 的关键在于它可以在其整个生命周期内维护和修改内部状态（即它的实例变量，如 self.value）。所有对该 Actor 的方法调用都会在同一个进程中顺序执行，从而安全地修改和访问这个共享状态。...

推理加速模型量化数值类型LLM 的训练和推理要尽量使用 BF16，而不是 FP16/HF16/FP32。 FP32：单精度浮点数，用 8 bit 表示指数，23 bit 表示小数； FP16：半精度浮点数，用 5 bit 表示指数，10 bit 表示小数； BF16：对 FP32 单精度浮点数截断数据（小数部分），即用 8 bit 表示指数，7 bit 表示小数。这里的计算方式不太懂？ BF16 vs HF16： BF16 拥有 7 位精度，而 HF16 拥有 10 位精度。这表明在表示接近于 1 的小数值时，HF16 比 BF16 能提供更高的精度。然而，BF16 拥有与 FP32 相同的 8 位指数部分，因而能够表示与 FP32 几乎一样广泛的数值范围，这对于避免上溢和下溢非常重要。尽管 BF16 在尾数精度上不如 HF16，但在深度学习应用中，这种较宽的数值范围通常比尾数的额外几位精度更为重要。这是因为深度学习模型通常对权重的尾数精度不是非常敏感，而更依赖于能够处理范围广泛的梯度和权重值。总结：量化后速度并不能明显提高，但占用的显存显著减...

Qwen2.5-VL 性能测试环境设置1234567# vllmcd /workspace/vllmgit reset --hard 2918c1b49c88c29783c86f78d2c4221cb9622379# vllm-ascend: maincd /workspace/vllm-ascendpip install -r benchmarks/requirements-bench.txt Run: 1bash benchmarks/scripts/run-performance-benchmarks.sh Benchmark 结果Before (未移除任何 layer 之前): 12345678910111213141516171819202122232425============ Serving Benchmark Result ============Successful requests: 200 Failed requests: 0 Reque...

一、引言Guided Decoding，又叫 Structured Output，是大模型推理领域中非常重要的一个特性，主要用于引导大模型输出符合某种特定格式（如：SQL、Json）的结果，以便更好地将大模型落地到具体的应用场景中。在我的上一篇文章中，简要地介绍了 Guided Decoding 的原理，并详细分析了 vLLM 中相关代码的实现（V0），文章链接：vLLM 学习笔记｜Guided Decoding。自从 vLLM v0.8.x 之后，V1 Engine 将作为 vLLM 启动时的默认选项。关于 V1 Engine 的系统设计以及具体的优化点，我将会在之后逐步梳理并分享出来（如果有空的话）。而在本文中，我将针对 V1 Engine，分享 Structured Output 模块的整体设计与具体实现。二、V1 Engine 整体架构在介绍 Structured Output 模块的设计之前，让我们先来看下 vLLM V1 Engine 的整体架构。在 V1 中，vLLM 将不同类型的 CPU 密集型操作拆分到了两个相互独立的进程中，以便能够异步执行不同的 CPU...

Qwen2.5-VL12Layer:- Qwen 方法 = vLLM 算子 LayersQwen2_5_VisionTransformer: patch_embed = Qwen2_5_VisionPatchEmbed rotary_pos_emb = Qwen2_5_VisionRotaryEmbedding blocks = Qwen2_5_VisionBlock * layer_num merger = Qwen2_5_VisionPatchMerger Qwen2_5_VisionPatchEmbed: proj = nn.Conv3d Qwen2_5_VisionRotaryEmbedding: Qwen2_5_VisionBlock: norm1 = RMSNorm attn = Qwen2_5_VisionAttention norm2 = RMSNorm mlp = Qwen2_5_VisionMLP Qwen2_5_VisionAttention: ...

Qwen2.5-VL_RoPE计算流程详解

Qwen2.5-VisionTransformer 中 RoPE cos/sin 的计算流程整个流程从 forward(x, grid_thw) 开始，分为以下几个阶段：第一步：初始化时预计算 cos/sin 缓存qwen2_5_vl.py:608-612 123456self.rotary_pos_emb = get_rope( head_size=head_dim, max_position=8192, is_neox_style=True, rope_parameters={"partial_rotary_factor": 0.5},) get_rope 最终创建一个 RotaryEmbedding 对象，关键参数： rotary_dim = head_dim * 0.5 → 只使用一半的 head 维度做旋转在 _compute_cos_sin_cache 中(base.py:83-92)： 12345# inv_freq 形状: [rotary_dim // 2]inv_fr...