记录了 TiCI 上线过程中遇到的一些问题：

• 针对这些问题的技术性解法和运维性的解法
  涉及到某些内部知识的将不予公开。
• 对于问题严重程度应该如何判断
• 如何为了达成上线的既定目标，设计临时性的缓解措施

在 x86 上可以跑，但是在 arm linux 上就报这个错误。

1

/tiflash/tiflash: symbol lookup error: /tiflash/libtici_search_lib.so: undefined symbol: pthread_atfork

基于 tokio 1.46.0 版本

我觉得“良定义”的状态需要具备：

• 完备性
• 唯一性

通过 https://kernel.dk/io_uring.pdf 简单学习下 io_uring。

• 训练基础设施
  分布式训练、参数同步、checkpoint、通信优化
  DeepSpeed, Megatron-LM, FSDP, NCCL, ZeRO
• 推理基础设施（Serving）
  模型加载、KV Cache 管理、动态批处理、并发调度
  vLLM, TensorRT-LLM, TGI, Ray Serve
• 模型存储与加载
  权重分片、lazy loading、权重格式
  Safetensors, GGUF, Tensor Parallel
• 特征与索引Embedding/向量检索
  向量数据库、索引结构、量化 FAISS, Milvus, ScaNN, HNSW, IVF
• 资源编排与调度 GPU 调度、混部、弹性伸缩
  Kubernetes, Ray, RunPod, vGPU
• 数据管线与特征存储
  数据清洗、分片、版本控制
  Petastorm, Delta Lake, Feature Store
• Infra 优化方向
  I/O pipeline、KV cache 复用、张量压缩、显存分配
  CUDA、Paged Attention、Paged KV

在 rust 中，immutable 的数据结构的性质是非常好的。在大部分函数式语言中，都不允许存在 mutable 的数据。

如果要在不可变数据结构上进行修改，就需要 clone 一份出来。因此：

• 对于一些较大的结构，希望能够尽量复用
• 如果此时只有一份引用，则可以直接获取 mut 引用就地修改

所以有了 Persistent data structures 的概念：

• 每一次修改该结构，都会保留之前的版本
• 历史的版本可以被查询
• 如果历史版本的数据也支持修改，则称为 Full persistence，否则称为 Partial persistence

介绍 Linux 中的零拷贝技术。从 Fuse 学习 中独立出来。

For the past four months, I’ve been actively contributing to a new Rust-C++ project. Through this process, I’ve gained valuable insights and lessons. While I can’t disclose many project details, there are numerous technical challenges worth elaborating.

因为五一节打羽毛球把膝盖打出问题了，现在主要学习乒乓球了