- 博客(25)
- 收藏
- 关注
RSS订阅原创 LSTNet--结合时间注意力机制的LSTM模型（附源码）
一、引言 LSTM出现以来，在捕获时间序列依赖关系方面表现出了强大的潜力，直到Transformer的大杀四方。但是，就像我在上一篇博客《RNN与LSTM原理浅析》末尾提到的一样，虽然Transformer在目标检测、目标识别、时间序列预测等各领域都有着优于传统模型的表现，甚至是压倒性的优势。但Transformer所依赖的Multi-Head Attention机制给模型带来了巨大的参数量与计算开销，这使得模型难以满足实时性要求高的任务需求。我也提到，LSTM想与Transformer抗...
2021-07-10 14:15:45
28637
79
原创 RNN与LSTM原理浅析
一、写在前面由于学业繁忙，突然发现近四个月没更新博客了，于是将前几天讲课的PPT做了简单整理，水一篇博客。本文主要做一些RNN及LSTM的简介而非深入讲解，文中部分LSTM通用结构图及通用公式来源于网络，此处不一一列举，感谢图片的原创博主提供的支持！二、RNN2.1什么是RNN RNN的全称为Recurrent Neural Network, 即“循环神经网络”，是一类以序列（sequence）数据为输入，在序列的演进方向进行递归（recursion）且所有节点（循环单元）按链式连接的...
2021-06-08 20:42:33
5200
4
原创 ResNet50对Kaggle数据集dog-breed-identification进行120种分类（附模型搭建代码）
一、主要方法⑴深度学习框架采用的pytorch，采用nn.Sequential搭建残差块，采用nn.moudle搭建网络结构。⑵卷积之后采用BatchNorm对featuremap进行处理，防止出现梯度消失或梯度爆炸。⑶损失函数采用CrossEntropyLoss，优化器为Adam⑷模型采用ResNet50，搭建好后连同数据导入GPU进行训练二、图像预处理因为dog-breed-identification数据集中的图片大小是不统一的，因此需要对图像进行预处理，通过Opencv提供的
2021-02-21 16:25:12
1223
1
原创 Sparse sharing 在ANN实现多任务时的应用
本文基于Python3.7环境和数字图像处理技术，通过构建多任务神经网络来实现手写数字与字母的识别。首先对要识别的数字与字母共48个字符分为4部分作为四个任务，每个任务识别12个字符。其次，对图像进行预处理：包括图像二值化、横向切割去除白边、纵向切割寻找分隔点、筛选分隔点、分割图片并统一大小、存储数据。然后训练多任务神经网络：包括构建基网络、Warm up、Sparse pruning、Parallel training。最后，将切割好的数据喂入训练好的多任务网络进行预测。
2021-01-18 22:04:01
594
1
原创 minist手写数据集识别（没用神经网络）（附源码，训练准确率94%，测试准确率91%）
一、说一下我想水一篇博客，然后就水一篇minist手写数据集的识别。这个模型就两层，输入层和输出层，输入层400个特征（吴恩达提供的minist数据集，5000个样本，每个样本是20*20的灰度图），输出层十个逻辑回归单元，因为是十分类嘛。然后，激活函数用了softmax，正则化方法用了L2，因为dropout有点麻烦也没必要，毕竟这也不是个神经网路。数据集三七分，70%作为训练集，30%作为测试集。经过试验，模型对手写数字识别的训练准确率达到94%，测试准确率达到91%。二、参数设置1.学习率
2020-11-03 20:23:31
1856
2
原创 非线性逻辑回归（2维至28维特征映射+正则化）及Python源码
一、问题引入在上次的博文中说了二分类中的线性逻辑回归问题，我门可以将两类数据通过一条简单的直线进行“分割”。但实际上，逻辑回归中的数据并不一定是那么“规矩”的排列，也就是很多情况下两类数据的边界并不那么规整，我们无法通过一条简单的直线对数据进行分类，这类问题即为“非线性逻辑回归问题”。接下来，我将通过吴恩达课后题的例子为大家提供自己解决“非线性回归问题”的思路及源代码。其中包括特征映射、正则化、决策边界划分的概述。题目要求如图1.1所示。图1.1 问题描述二、特征映射基于上..
2020-10-02 11:27:06
1276
2
原创 逻辑回归算法分析及python源码
说明：本博客中的分析思路、举例、部分插图等均来源于吴恩达教授在斯坦福大学公开课《机器学习》中的讲解内容！一、概述我们可以简单的把逻辑回归所要解决的问题理解为“分类”问题，在分类问题中最为简单的为二分类，即我们只需要把一组数据分为两类即可。而在二分类问题中，最为简单的又属“线性分类”，即我们只需要用一条直线即可将两类数据分开。本博文就以最简单的线性二分类为例讲一下逻辑回归的思想。二、从一个例子引入在斯坦福公开课中，吴恩达教授通过一个“判断肿瘤是否是良性”的问题引入逻辑回归问题。即我们要..
2020-09-21 22:29:47
743
原创 单变量线性回归算法分析及python源码
说明：本博客中的分析思路、举例、部分插图等均来源于吴恩达教授在斯坦福大学公开课《机器学习》中的讲解内容！一、概述单变量线性回归算法属于监督学习的一类，所谓回归是指我们根据之前的数据预测一个较为准确的输出值。即我们给算法一定的训练集，训练集中的每一个训练样本均为“正确答案”，算法通过对训练集的学习而建立起合适的模型用以预测新的输入值对应的输出值。二、从一个例子说起在斯坦福公开课中，通过这么一个例子引入单变量线性回归算法的问题，即“根据房子面积预测房子售价”。如图2.1所示，我们已知...
2020-09-12 12:08:57
1842
原创 DS18B20型温度传感器的使用详解及Proteus仿真（附源码）
一、概述DS18B20数字温度传感器提供9bit到12bit的摄氏温度测量精度和一个用户可编程的非易失性且具有过温和低温触发报警的报警功能。DS18B20采用的1-Wire即单总线通信方式，即仅采用一个数据线与微控制器进行通信。该传感器的温度监测范围为-55℃至+125℃，并且在温度超过-10℃至85℃之外时还具有+-0.5℃的精度。此外，DS18B20可以直接由数据线供电而不需要外部电源供电。（本篇文章重在以简单例子讲清楚该型传感器最难的部分即工作时序，同时向大家分享例程及自己遇到的编程中的“坑”，帮
2020-07-27 22:32:02
27102
39
原创 Latex中经典三线表、多线表、内容跨行/跨列复杂表的详解与源代码
一、经典三线表1.1 效果图1.2 分析经典三线表主要采用booktabs宏包中提供的三个命令，即\toprule、\midrule以及\bottomrule来实现。通俗的讲，\toprule、\midrule以及\bottomrule命令实现的功能是画三线表中的上中下三道线，我们只需要在三条线之间填充内容。同行不同列的内容用&符号隔开，不同行之间用换行符\\实现。画表的整体思路如下：用\toprule命令画第一道线——>输入第一行的内容“Item1&Item2&a
2020-07-16 23:16:25
75790
8
原创 SHT10型温湿度传感器工作时序分析及驱动程序与Proteus仿真的实现
一、传感器概述SHT10型传感器属于SHT1×系列（其他常用型号还有SHT11、SHT15），SHT1×属于Sensirion温湿度传感器家族中的贴片封装系列。传感器将传感元件和信号处理电路集成在一块微型电路板上，输出完全标定的数字信号。传感器采用专利的CMOSens技术，确保产品具有极高的可靠性与卓越的长期稳定性。传感器包括一个电容性聚合体测湿敏感元件、一个用能隙材料制成的测温元件以及串行接口电路实现无缝连接。因此，该产品具有品质优越、响应迅速、抗干扰能力强、性价比高等优点。本篇博文将详细分析传感器的
2020-06-26 21:38:45
5745
3
原创 AM2302（又称DHT22）温湿度传感器的使用及Proteus仿真（附源码）
一、产品综述AM2303（DHT22）湿敏电容数字温湿度模块是一款含有已校准数字信号输出的温湿度复合传感器。它应用专用的数字模块采集技术和温湿度传感技术，确保产品具有极高的可靠性与卓越的长期稳定性。传感器包括一个电容式感湿元件和一个高精度测温元件，并与一个高性能的8位单片机相连。因此该产品具有品质卓越、超快响应、抗干扰能力强、性价比高等优点。每个传感器都在极为精确的湿度检验室中进行校准。校准系...
2020-03-28 20:51:29
16851
12
原创 GP2Y0A21YK0F距离传感器输出特性分析及其使用（IIC总线与PCF8591AD转换）+Proteus仿真（附源码）
一、GP2Y0A21YK0F距离传感器分析1.1 传感器介绍GP2Y0A21YK0F是一款距离测量传感模块。它由PSD(position sensitive detector)和IRED(infrared emitting diode)以及信号处理电路三部分组成。由于采用了三角测量的方式，被测物体的材质、环境温度以及测量时间都不会影响测量精度。传感器输出电压值对应探测距离。通过测量电压...
2020-03-26 21:21:15
14042
10
原创 HC-SRF04超声波测距传感器+Proteus仿真（附源码与仿真电路）
一、模块介绍1.1 模块图示模块共有四个引脚，分别是Vcc（供5V电源）、Trig(控制端，下文简称Tr)、Echo（接收端，下文简称Ec）、Gnd（地线）2.2 产品参数二、 工作原理（时序）在初始状态时，Tr引脚电平由单片机拉高，Ec引脚电平由传感器拉低。工作时，首先由单片机将Tr引脚拉低后再给一个高电平脉冲（持续时间至少为10us），传感器收到该脉冲信号后开...
2020-03-24 09:23:30
30644
35
原创 “MPX4115型压力传感器+PCF8591型AD+模拟IIC总线”的Proteus仿真
一、MPX4115型压力传感器介绍1.1 引脚说明即：1引脚为模拟量输出，2引脚接地，三引脚接电源，4、5、6引脚空1.2 输出特性图选择典型曲线，我们可以得知转换公式：压力值=(电压值/5.1+0.095)/0.009。二、模拟IIC总线因为本例子采用的为51单片机，因此需要自己模拟IIC总线协议。2.1 IIC总线工作时序如下2.2...
2020-03-19 21:18:21
7129
5
原创 单片机控制SIM900A型GSM模块发送数字短信（附源码）
一、模块概述SIM900A是由SIMCom推出的新款紧凑型产品，它属于双频GSM/GPRS模块，完全采用SMT封装形式，SIM900A仅适用于中国市场，其性能稳定，外观精巧，性价比高。SIM900A采用工业标准接口，工作频率为GSM/GPRS 850/900/1800/1900MHz，可以低功耗实现语音、SMS、数据和传真信息的传输。另外，SIM900A的尺寸大小为24x24x3mm，能适...
2020-03-07 11:53:22
18095
26
原创 DHT11型温湿度传感器的使用（附源码）
一、产品概述DHT11数字温湿度传感器是一款含有已校准数字信号输出的温湿度复合传感器。它应用专用的数字模块采集技术和温湿度传感技术，确保产品具有极高的可靠性与卓越的长期稳定性。传感器包括一个电阻式感湿元件和一个NTC测温元件，并与一个高性能8位单片机相连接。因此该产品具有品质卓越、超快响应、抗干扰能力强、性价比极高等优点。每个DHT11传感器都在极为精确的湿度校验室中进行校准。校准系数以程序的...
2020-03-05 13:08:53
15189
6
原创 “Cpp+EasyX库+adb命令”实现微信跳一跳自主运行
一、概述“微信跳一跳”小程序出现以来，网上出现了各种各样的“外挂”，从用单片机做的“半自动外挂”到用按键精灵做的“全自动外挂”，各式各样。我觉得做所谓的外挂并不是根本目的，根本目的在于在做外挂的过程中学习各种知识并享受整个过程。寒假在家的几天尝试了一种新的思路，就是用“Cpp+EasyX库+adb命令”的方式实现相关功能。在整个过程中，我在论坛查阅了不少前辈的博文，给予了我很大的启发，因此在这...
2020-02-22 12:38:08
622
原创 YA-C21A型二氧化碳传感器
一、传感器简介 YA-C21A型二氧化碳传感器是一种通用智能小型传感器，利用非色散红外（NDIR）原理对空气中存在的二氧化碳进行探测，具有良好的选择性和无氧气依赖性，寿命长。内置温度补偿。该传感器同时具有数字输出、模拟输出以及PWM输出，方便使用。该传感器是将成熟的红外吸收气体检测技术与精密光路设计、精密电路设计紧密结合而制作出的高性能传感器。（这是官方说法，个人认为该传感器最吸引...
2018-08-03 11:03:21
1482
原创 ESP8266系列WIFI模块的使用·
一、概述ESP8266是由乐鑫公司出品的一款物联网芯片，因为价格较低，性能稳定等收到很大关注。该芯片可工作于三种种模式下，分别是：AP模式，station模式以及混合模式，通过常用的AT指令进行控制。自芯片面世以来发行过多种型号。单单我用过的就有ESP8266-01，ESP8266-12F，ESP8266-12E这三种。当然，我没接触到过的型号还有很多。在使用这三种芯片时均是使其工作在AP模式下。...
2018-06-07 21:07:40
149892
28
原创 单片机与串口助手通信时数据格式转化问题
一、概述在单片机与串口助手通信时存在很多问题，毕竟一个是通过硬件编程控制的，一个是通过软件编程实现的，两者之间并没有很大的兼容性。最基本的，硬件与软件中很多数据类型是不同的，这就给软件与硬件之间的通信造成了很大的困难。1.无线通信：举个我在做项目中遇到的问题，我们的项目有一部分需要实现手机端软件对硬件实现远程控制，而远程控制就必定涉到软件与硬件之间的通信。通信网络用wifi，用ESP8266-12...
2018-06-03 22:00:20
3147
原创 Ds18b20的使用
一、概述：Ds18b20是最常见的数字温度传感器，有着诸多优点，比如：体积小；精度高（12位时精度可以达到0.625摄氏度，出厂默认12位）；接线简单，无需外围短路；封装形式多样，能满足不同应用需求等等。但是，“鱼与熊掌不可兼得”，接线简单的同时，带来的问题便是传感器复杂的工作时序...
2018-05-31 21:22:48
65568
19
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人