- 博客(4)
- 收藏
- 关注
RSS订阅原创 一键上手 Latex
记录我在本地用 latex 写毕业论文的一些经验关于 latex，大家应该首先接触到的是 overleaf 在线 latex 编译环境。这里记录了一些更全面的教程，包括本地 latex 的使用、本地安装与实用工具。
2023-11-14 19:17:14
37
2
原创 torch 实现 multihead attention
1. 从简单的开始: self attn的实现。2. multihead attention 3. 无 attn_mask 无 dropout 的简化版。4.浅贴一个文心一言的 multihead attn的输出代码。
2023-10-12 20:21:35
216
原创 torch 实现 softmax 回归
逻辑回归用于解决二分类问题，其泛化形式为 softmax 回归（解决多分类问题）。softmax 回归，其网络结构与线性回归基本一致；不同之处在于，output 层维度与分类别数保持一致，相应的损失函数采用交叉熵损失（回归问题采用 Mse 损失 等）。此外本文也用 torch 实现了 dropout 层。
2023-10-12 20:08:49
109
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人