云原生NPM在容器编排和调度方面的实践有哪些

一、容器编排实践

1. NPM工具选择

在Kubernetes集群中，常用的NPM工具有Calico、Cilium、Weave等。选择时需考虑性能影响、可视化与监控、集成与兼容性、可扩展性等因素。

2. 部署NPM工具

以Calico为例，可通过kubectl命令或Kubernetes的YAML文件进行部署。

3. 配置网络策略

网络策略（NetworkPolicies）是Kubernetes中用于控制服务间通信的安全机制。通过配置网络策略，可以限制哪些Pod可以相互通信，从而增强网络安全性。

4. 监控网络性能

使用Calico等NPM工具提供的监控功能，可以实时查看网络流量、连接状态等关键指标，以便及时发现网络瓶颈或异常，并进行相应优化。

5. 集成日志与告警

将NPM工具与日志系统（如ELK Stack）和告警系统（如Prometheus Alertmanager）集成，在检测到网络问题时能及时发出告警，并通过日志分析定位问题原因。

6. 定期审计与优化

定期对网络性能进行审计，根据监控数据和分析结果对网络配置进行优化，这是保证网络性能稳定的关键。

二、调度实践

1. 角色划分与权限管理

如在基于KubeSphere的运管系统落地实践中，定义了不同类型的角色，职责明确，使得运维边界清晰，责任明确。

2. 资源管理与优化

计算资源池化，不再下发虚机，计算资源统一运管。例如在机器学习系统云原生化落地实践中，通过在离线统一调度和资源池合并池化，加速资源流传，满足训练推理不同的资源诉求。

3. 异构资源支持

利用DevicePlugin机制扩展系统硬件资源，像GPU、RDMA、高性能NIC等，使得K8s能更好地支持大数据和机器学习领域的应用。如字节机器学习系统通过K8s deviceplugin框架扩展实现GPU、Habana、RDMA等异构资源设备的感知上报和调度分配。

4. 调度策略优化

在在线推理场景中，调度器支持GPU资源多维度调度以及多种灵活的调度策略，将多个Pod调度到同一张GPU卡上，资源维度包括算力、显存、视频编解码，调度策略包括重显存模型和重算力模型的亲和性反亲和性、binpacking等。

5. 高可用保障

如字节内部大量使用了MPS来提高GPU设备的空间利用率，通过以Pod Sidecar的形式实现了MPS容器化，将MPS的部署粒度从整机所有卡降低到POD级别，以减小MPS故障影响面。

6. 监控与周边工具

基于DCGM工具和NVML库，从维度和粒度两个方面提高指标的覆盖程度。维度方面，将指标从单纯显存和算力监控，扩展到空间利用率、频率、温度、PCIE字节数等。粒度方面，将算力、显存、编解码等利用率指标从卡粒度，精细到服务和进程级别。并且实现了内部版nvidia

smi工具，解决容器内无法通过nvidia – smi看到GPU进程的痛点，在保证安全隔离性的前提下，帮助业务调试和诊断进程信息。

云原生NPM在容器编排和调度方面的实践涵盖了从工具选择、部署、配置到监控、优化等多个环节，同时在调度实践中也涉及角色划分、资源管理、异构资源支持、调度策略优化、高可用保障以及监控与周边工具等多方面内容。这些实践有助于提升容器编排和调度的效率和可靠性，为云原生应用的稳定运行提供保障。未来，随着技术的不断发展，可能会在有状态应用的Operator开发等方面有更多的探索和实践，以进一步提升云原生应用的管理和运维能力。