数学
向量
矩阵
神经网络到底在算什么?
TP(Tensor Parallelism,张量并行)和 DP(Data Parallelism,数据并行)
KV Cache
PD(预处理/解码)分离架构
vllm