01
LLM Intro(一):从张量到神经网络训练
从数组、广播与矩阵乘法开始,逐步理解计算图、梯度下降和 PyTorch 训练循环。
LLM Intro 相关文章。
从数组、广播与矩阵乘法开始,逐步理解计算图、梯度下降和 PyTorch 训练循环。
把文本编码、下一 token 预测和解码策略连成完整流程,并解释 padding、温度与搜索。
从隐藏状态递推到情感分类,说明 RNN 的张量形状、padding、反向传播与门控机制。
从 QKV、因果遮罩和多头注意力出发,接上位置表示、残差、归一化与可运行的 decoder-only 网络。
完成模型与 tokenizer 加载、对话模板、批量输入和生成,再用可解释的指标评估输出。
用数据搬运解释 GPU 性能,再完成 Triton 向量加法,并推导按行融合 softmax 的计算方式。
从 SFT 数据与标签构造出发,推导 LoRA 的低秩更新、初始化和参数量,再连接到实际训练与保存。
解释量化的映射与误差,沿着粒度、激活离群值理解 AWQ,并区分 QLoRA 的存储精度与计算精度。
从文档切分、向量表示到混合检索与重排,搭起一条可追溯的 RAG 流程,并分别评估检索和生成。
从工具 schema 与消息协议开始,实现一个有终止条件的 Agent 循环,再解释反馈修正、记忆和状态图。
从图片张量和 patchify 解释视觉编码器、projector 与多模态位置,再连接训练、问答和坐标定位。