自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(12)
  • 收藏
  • 关注

原创 Transformer模型中的Feed-Forward层的作用

转载:

2021-11-27 23:44:06 20490 7

原创 Transformer中维度变化过程

直接进行到多头自注意力机制里面:对于Encoder来说,q, k, v初始化下是由x乘以一个W得到的,比如说现在是8头自注意力机制,经过Embedding之后升高的维度d_model=64,那么Encoder第一个Sublayer得到的q,k,v的维度初始情况下是[batch_size, in_seq_len,d_model],但是由于是多头自注意力机制,因此这个q是会被8个头平分的,首先batch_size和in_seq_len肯定对于每个头来说是相同的,在Attention is all yo...

2020-12-23 20:41:12 2289 1

原创 Python实现将文件夹/子文件夹中内容清空

import os path = 'C:/Users/Linger/Desktop/文件夹'for i in os.listdir(path): path_file = os.path.join(path,i) if os.path.isfile(path_file): os.remove(path_file) else: for f in os.li...

2020-02-27 21:01:10 618 1

原创 数据可视化

import csvimport matplotlib.pyplot as pltfrom datetime import datetimedatestring = '159'def dataload(filename): date = [] # address = [] count = [] with open(filename) as f: ...

2019-07-28 17:00:23 158

原创 python连接数据库读文件,sql语句读数据

import pymysqlimport csvsever = 'localhost'user = 'root'password = ''database = 'acc'conn = pymysql.connect(sever, user, password, database)cursor = conn.cursor()def dataload(filename): d...

2019-07-28 12:16:10 170

原创 修改txt文件

fp = open(r'C:\Users\Linger\Desktop\dataACC3_3.txt','w') #打开你要写得文件test2.txtlines = open(r'C:\Users\Linger\Desktop\date123.txt').readlines() #打开文件,读入每一行for s in lines: fp.write(s.replace(' ',',...

2019-07-28 12:14:34 604

原创 ARIMA滚动预测

import numpy as npfrom sklearn import preprocessingimport osimport matplotlib.pyplot as pltfrom statsmodels.tsa.arima_model import ARIMAimport pandas as pdfrom statsmodels.tsa.arima_model impor...

2019-07-25 09:40:27 4955 6

原创 ARIMA

ARIMAimport pandas as pdimport statsmodels.api as smimport numpy as npimport csvimport matplotlib.pyplot as pltfrom decimal import Decimaldef dataload(filename): data = [] with open(fi...

2019-07-23 16:30:25 1644

原创 利用kares框架进行LSTM时间序列数据的预测

这是一组航班的乘客数据,是一维的数据,这里列出了一部分数据。使用kares框架来搭建LSTM模型进行预测下个月的数据。import numpy as npimport matplotlib.pyplot as pltfrom keras.models import Sequentialfrom keras.layers import Densefrom keras.layers imp...

2019-07-13 22:15:56 1145

原创 利用Tensorflow实现CNN(卷积神经网络)对mnist手写数据集的识别

import tensorflow as tfimport tensorflow.examples.tutorials.mnist.input_data as input_dataimport randomimport timeimport matplotlib.pyplot as pltplt.rcParams['font.sans-serif']=['SimHei']plt.rcP...

2019-07-12 17:17:46 451

原创 调mnisi出错

当使用Tensorflow调用mnist数据集的时候,需要运行from tensorflow.examples.tutorials.mnist import input_data但是,如果在这里报错如下的时候:Function has keyword-only arguments or annotations, use getfullargspec() API which can suppo...

2019-07-12 15:36:55 150

原创 Kmeans聚类的python实现

选择txt文件作为数据集进行测试欢迎使用Markdown编辑器你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。新的改变我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能,我们增加了如下几点新功能,帮助你用它写博客:全新...

2019-07-12 11:33:47 293

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除