- 博客(384)
- 资源 (1)
- 收藏
- 关注
RSS订阅
原创 【python|attention】注意力机制代码
every blog every motto: You can do more than you think.0. 前言梳理目前主流的注意力机制代码，目前以pytorch为例。说明： 特征图维度的组织形式为：（batch,channel,height,width）1. 正文1.1 SEBlock 2017考虑通道间的注意力之间的关系，在通道上加入注意力机制论文：https://arxiv.org/abs/1709.01507代码：https://github.com/hujie-frank
2021-06-27 09:31:35
30515
19
原创 【tf.keras.Model】构建模型小结（部分问题未解决）
every blog every motto: You can do more than you think.0. 前言对于构建深度学习网络模型，我们通常有三种方法，分别是：Sequential APIFunctional APISubclassing API说明： 推荐使用functional API.本文主要对有关子类API（tf.keras.Model）构建模型时“两种方法”进行比较分析。注： 为保持文章的完整性，本文仅就部分问题进行探讨，后续问题见下一篇博文。1. 正文
2020-10-27 22:11:58
2685
4
原创 【Tensorflow、Keras】关于Reshape层小结（部分问题未解决)
every blog every motto: We would rather reuse an active dwarf than a sleeping giant.0. 前言reshape层说起来不复杂，就是改变特征图的尺寸，但在实际过程中，却发现了有意思的问题，遂记之。暂未解决。1. 在模型中1.1 Keras的Reshape1.1.1 Keras正常情况代码部分from keras.layers import *input = Input((16, 16, 3))print
2020-06-22 21:09:13
6818
2
原创 【Transformer】Swin梳理
every blog every motto: You can do more than you think.https://blog.csdn.net/weixin_39190382?type=blogswin论文： https://arxiv.org/pdf/2103.14030v1.pdf时间： 2021.3.25作者： Ze Liu, Yutong Lin, Yue Cao, Han Hu, Yixuan Wei, Zheng Zhang, Stephen Lin, Baining Guo网
2024-04-18 09:37:37
182
原创 【机器学习之---数学】随机游走
随机游走定义如下：随机游走Snn≥0Snn≥0为随机过程SnS0x1XnSnS0x1...Xn其中，X1X2X1X2...是独立同分布(i.i.d)随机变量，与S0S_0S0无关。
2024-03-26 10:16:57
967
原创 【机器学习之---数学】马尔科夫链
马尔科夫链Xt−2Xt−1XtXt−1...Xt−2Xt−1XtXt−1...，那么Xt−1X_{t-1}Xt−1时刻的状态，只与Xt−1X_{t-1}Xt−1时刻的状态有关，与Xt−2X_{t-2}Xt−2时刻的状态无关。
2024-03-26 09:59:44
839
原创 【Transformer】transformer注解
transformer注解在过去的一年里，《Attention is all you need》中的transformer一直萦绕在很多人的脑海里。除了在翻译质量上产生重大改进之外，它还为许多其他NLP任务提供了一种新的架构。论文本身写得很清楚，但传统观点认为很难正确执行。在这篇文章中，我将以逐行实现的形式呈现论文的注释版本。我重新整理并删除了原论文中的一些章节，并在全文中添加了注释。这个文档本身就是一个工作笔记本，应该是一个完全可用的实现（可以在jupyter notebook中运行）。
2024-03-23 21:10:35
760
原创 【经典算法】有趣的算法之---粒子群算法梳理
粒子群算法粒子群算法（Particle Swarm Optimization，PSO）是一种用于解决优化问题的元启发式算法。它通过模拟鸟群或鱼群中的行为来进行优化搜索。在粒子群算法中，问题的潜在解被表示为一群粒子。每个粒子代表一个候选解，并根据其自身的经验和群体的信息进行移动和调整。粒子的位置表示候选解的特征向量，速度表示粒子在搜索空间中的移动方向和速度。粒子群算法广泛应用于各种优化问题，如函数优化、神经网络训练、组合优化等。它是一种简单且易于实现的优化算法，具有全局搜索能力和较好的收敛性。
2024-01-17 16:22:19
1881
原创 【经典算法】有趣的算法之---遗传算法梳理
遗传算法是一种基于自然选择和遗传机制的优化算法，因此它通常被用于求解各种最优化问题，例如函数优化、特征选择、图像处理等。将数学中的优化问题，首先通过“编码”将数字编程“0101”类似这种二进制形式（不绝对），然后对其进行变换（“变异”），根据提前指定的“目标函数”（适应度）对这组数学进行筛选，重复这个过程一定次数（“迭代进化”），最终找到最优解遗传算法（Genetic Algorithm，简称GA）受自然进化理论启发的一系列搜索算法，起源于对生物系统所进行的计算机模拟研究，是一种随机全局搜索优化。
2024-01-15 15:36:16
1090
原创 【经典算法】有趣的算法之---蚁群算法梳理
蚁群算法记录蚁群算法（Ant Clony Optimization， ACO）是一种群智能算法，它是由一群无智能或有轻微智能的个体（Agent）通过相互协作而表现出智能行为，从而为求解复杂问题提供了一个新的可能性。蚁群算法最早是由意大利学者Colorni A., Dorigo M. 等于1991年提出。经过20多年的发展，蚁群算法在理论以及应用研究上已经得到巨大的进步。蚂蚁在寻找食物的过程中往往是随机选择路径的，但它们能感知当前地面上的信息素浓度，并倾向于往信息素浓度高的方向行进。
2023-12-28 09:38:23
1656
原创 【RNNsearch】neural machine translation by jointly learning to align and translate阅读与思考
neural machine translation by jointly learning to align and translate阅读与思考作为transformer的前传，同时，作为在nlp中第一篇注意力机制相关文章，还是很有必要一读。本文的主要贡献是打破了此前翻译中encoder-decoder需将句子变换到一个固定的长度，采用自适应方法。arxiv第一版时间为2014年。
2023-12-22 16:11:54
728
原创 【c++|SDL】三、画图类抽象
之前将画图（显示图像）放在Game.cpp中,现在将其单独放在一个类中,包含加载图片，显示图片，显示动画三个方法public:// draw= 0)之前Game.cpp中的加载显示等相关操作需要删除，并进行修改Game.hclass Gamepublic:Game() {};~Game() {};
2023-11-30 13:57:54
84
原创 【c++|SDL】二、读取图片、显示图片、动画制作
读取图片，显示图片，动画SDL中有两种在屏幕上显示的方法SDL_Surface: 使用软件渲染处理SDL_Texture: 使用硬件加速渲染处理。
2023-11-28 11:22:48
298
原创 mkl-service + Intel(R) MKL: MKL_THREADING_LAYER=INTEL is incompatible with libgomp-7c85b1e2.so.1 lib
记录。
2023-11-22 15:35:44
179
原创 虚拟环境中使用的Python不是当前虚拟环境的，解决方法
在虚拟环境中使用的python和pip不是虚拟环境的pip安装不到当前的虚拟环境中…等解决方法。
2023-11-08 15:58:15
291
原创 AttributeError: module ‘lib‘ has no attribute ‘X509_V_FLAG_CB_ISSUER_CHECK‘
报错解决记录。
2023-11-07 17:27:24
369
原创 【c++|opencv】二、灰度变换和空间滤波---4.高斯滤波
/ 定义高斯滤波函数return -1;// Opencv 自带的滤波int a= 7;// 自定义高斯滤波waitKey(0);return 0;m <= k;n++){// 定义高斯滤波函数 void myfilter(int filter_size , Mat & img_input , Mat & img_output);return - 1;
2023-10-30 15:41:13
514
原创 【设计模式|下】行为型模式
【设计模式 | 上】【创建型】【设计模式 | 中】【行为型】【设计模式 | 下】【行为型】观察者模式状态模式策略模式职责链模式命令模式访问模式调停者模式备忘录模式迭代器模式解释器模式模板方法模式。
2023-08-03 11:31:54
141
机器学习实战：基于Scikit-Learn、Keras和TensorFlow
2023-12-28
Hands-On Deep Learning Architectures with Python Create deep neu
2023-12-28
Hands-On Genetic Algorithms with Python: Applying genetic algori
2023-12-28
蚁群算法matlab版
2023-12-28
蚁群算法python版
2023-12-27
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人