- 博客(247)
- 资源 (9)
- 问答 (5)
- 收藏
- 关注
RSS订阅原创 一些论文工具
查询某篇文章相关的其他文献，https://www.connectedpapers.com/，输入文章名就可以得到相关文献网络图查询某领域sota论文，以及文章的数据集、代码等。https://paperswithcode.com/sota天气数据集，https://www.worldweatheronline.com/谷歌镜像：谷粉SCI影响因子查询：https://sci.justscience.cn/index.php写作语法检查：秘塔写作猫...
2022-04-30 19:47:36
712
原创 [2021] Spatio-Temporal Graph Contrastive Learning
21-Spatio-Temporal Graph Contrastive Learning郑宇、梁玉轩1 摘要深度学习模型是时空图(STG)预测的现代工具。尽管它们很有效，但它们需要大规模的数据集来获得更好的性能，并且容易受到噪声扰动。为了减轻这些限制，一个直观的想法是使用流行的’数据增强’和’对比学习’技术。然而，现有的图对比学习方法由于三个原因不能直接应用于STG预测。经验发现，预测任务无法从对比学习得到的预先训练的表征中获益。用于击败噪声的数据增强方法对STG数据的探索较少。忽略了样本的
2022-04-21 22:38:42
1549
原创 [2022 ICLR] Pyraformer: Low-Complexity Pyramidal Attention for Long-Range 时空序列建模和预测
Pyraformer: Low-Complexity Pyramidal Attention for Long-Range T-S Modeling and Forecasting低复杂度的金字塔型注意力模型，用于长时序列建模和预测我们研究的时空数据类任务（预测或异常检测等），需要考虑时间和空间两个维度。目前的研究成果在空间维度基本是以图卷积为主导，不同之处在于不同工作中定义的图类型有所不同，一般是静态图（即地理位置形成的天然拓扑图），还有结合时间或POI等额外信息计算得到的节点拓扑关系，一般称为动态
2022-04-21 22:24:22
3796
1
原创 Git和IDEA开发项目实战操作--简单计算器【简单工厂模式；反射机制；TDD编程】
任务：实现一个简单计算器功能给定两个操作数和一个操作符，得到计算结果。该部分不光演示了git的基本操作和IDEA快捷键，还提到了编程习惯TDD，以及从实现基本功能到项目重构的整体思路。IDEA快捷键： alt+0 命令行 ctrl+alt+s 设置界面 ，keymap，找到对应功能设置key alt + F1 定位到目录栏 ctrl + shift + T 光标在类名上，创建测试类git 快捷键，可以配置gitconfig文件，对长命令设置缩写具体步骤如下所示，中括号中为IDEA快捷
2022-03-31 11:08:59
789
原创 Git基本命令和配置
GitGit是一个分布式版本控制工具。工程区域有三块：版本库（Repository）在工作区中有一个隐藏目录.git，这个文件夹就是Git的版本库，里面存放了Git用来管理该工程的所有版本数据，也可以叫本地仓库。工作区（Working Directory）日常工作的代码文件或者文档所在的文件夹。暂存区( stage )一般存放在工程根目录.git/index文件中，所以我们也可以把暂存区叫作索引( index) 。Git版本控制下的文件状态只有三种：已提交committed ：该文件
2022-03-29 23:40:11
762
原创 2020年5月第一次presentation：讲的是人流量预测算法ST-ResNet
整理电脑文件时发现研究生第一次做报告的稿子，在此分享一下。对于初学者而言，特别是不善于阅读文献且阅读量寥寥无几的情况下，做一个非常棒深层次的报告是有难度的。是的，我就是这类学生。从师兄给六篇实验室相关的文献中选定方向，初次接触论文，无从下手，找不到重点。知道文章的脉络结构，也学习了如何阅读论文，然而从问题描述到机器学习相关方法都是陌生的，内心产生了抗拒。因此，选择了场景最好理解的人流量预测算法的研究。本篇博文就是在这个时期写出来的，讲解的非常浅显，但是脉络还算清晰。选择发布出来，希望刚入门的同学可以有个基.
2022-03-15 18:20:06
2514
1
原创 vscode+latex+bib文献管理
下载vscode安装插件``在setting.json中配置在.tex文件中编写论文内容，然后左侧TEX侧边栏中编译，如下图所示，中文用xelatex，英文用pdflatex；编译成功后，就可以查看pdf版本的论文了，我一般在浏览器显示。 涉及到文献编译：XXX.bib中存储文献管理内容；XXX.tex是文章内容，使用xelatex编译后会生成XXX.aux，ctrl+⋅ctrl+·ctrl+⋅打开命令行窗口，输入bibtex XXX（可以对aux文件进行编译，不需要加后缀），然后再xelatex.
2022-03-01 11:01:02
1551
原创 matplotlib直方图
直方图（Histogram），一种数据统计层面的绘图方式。用一系列高低不等的柱子表示数据分布，横坐标表示数据划分区间，纵坐标可以表示落到各个区间内的频数/频率。使用matplotlib.pyplot库中的hist方法实现，先看函数的参数：官方linkmatplotlib.pyplot.hist(x, bins=None, range=None, density=False, weights=None, cumulative=False, bottom=None, histtype='bar', align
2022-02-24 15:01:31
1110
原创 关于tensorly中的unfold
今天看别人的代码，发现处理数据集使用了一个tensorly这个包里的unfold函数。很气的是我电脑上一直安装不上这个包。各种搜索，有说这个函数是滑动窗口，也有的说这个函数类似于切片。下面简单记录一下：一般用法是：unfold(dim, size, step)，表示作用的维度，一次选的元素个数和步长，不过在默认情况下：unfold(0)就是切片，类似于reshape(shape[0],-1)用下面这张图显示就很形象：...
2022-02-16 15:34:20
597
原创 Datawhale~水很深的深度学习~Task 5: 循环神经网络（RNN）
写在前面✍本系列笔记为Datawhale11月组队学习的学习笔记：水很深的深度学习。本次组队学习重理论知识学习，包含DL相关的基础知识，如CNN、RNN、Transformer等。参与本次组队学习两个目的：第一，提起自己DL学习的热情；第二，巩固基础知识，使得做实验更加得心应手。DW 学习文档卷积神经网络本章内容是对于前馈神经网络的总结。前馈神经网络就是目前主流神经网络的基础知识，我们需要从中学习到基本的神经元模型，反向传播算法（多层神经元如何进行学习的），网络的优化等。I 神经元模型II .
2021-12-01 22:09:57
697
原创 Datawhale~水很深的深度学习~Task 4: 卷积神经网络（CNN）
写在前面✍本系列笔记为Datawhale11月组队学习的学习笔记：水很深的深度学习。本次组队学习重理论知识学习，包含DL相关的基础知识，如CNN、RNN、Transformer等。参与本次组队学习两个目的：第一，提起自己DL学习的热情；第二，巩固基础知识，使得做实验更加得心应手。DW 学习文档卷积神经网络本章内容是对于前馈神经网络的总结。前馈神经网络就是目前主流神经网络的基础知识，我们需要从中学习到基本的神经元模型，反向传播算法（多层神经元如何进行学习的），网络的优化等。I 神经元模型II .
2021-11-27 22:50:22
1062
原创 Datawhale~水很深的深度学习~Task 3: 前馈神经网络
写在前面✍本系列笔记为Datawhale11月组队学习的学习笔记：水很深的深度学习。本次组队学习重理论知识学习，包含DL相关的基础知识，如CNN、RNN、Transformer等。参与本次组队学习两个目的：第一，提起自己DL学习的热情；第二，巩固基础知识，使得做实验更加得心应手。DW 学习文档前馈神经网络本章内容是对于前馈神经网络的总结。前馈神经网络就是目前主流神经网络的基础知识，我们需要从中学习到基本的神经元模型，反向传播算法（多层神经元如何进行学习的），网络的优化等。I 神经元模型II .
2021-11-23 22:29:43
526
1
原创 Datawhale~水很深的深度学习~Task 2: 机器学习基础
写在前面✍本系列笔记为Datawhale11月组队学习的学习笔记：水很深的深度学习。本次组队学习重理论知识学习，包含DL相关的基础知识，如CNN、RNN、Transformer等。参与本次组队学习两个目的：第一，提起自己DL学习的热情；第二，巩固基础知识，使得做实验更加得心应手。误差分析：偏差(bias)反映了模型在 样本上的期望输出与真实 标记之间的差距，即模型本身的精准度，反映的是模型本身的拟合能力。方差(variance)反映了模 型在不同训练数据集下学 得的函数的输出与期望输出之间的误差.
2021-11-20 22:48:17
2038
原创 texLive + VScode 安装与使用
安装texLive双击install-tl-windows.exe下载。出现以下问题：...Installing [4258/4258, time/total: 02:01:24/02:03:24]: zztex [147k]Retrying to install: easybook [624k]TeXLive::TLUtils::check_file_and_remove: checksums differ for C:\Users\lenovo\AppData\Local\Temp\yYrb
2021-11-20 21:52:39
2998
原创 深度学习中的温度参数（temperature parameter）--疑问待解决
读论文的过程中，看到这个概念：temperature parameter。Ln=−logexp(sim(Zni,Znj)/τ)∑n′=1,n′≠nM(exp(sim(Zni,Zn′j)/τ))τ为温度参数\mathcal{L}_n=-log\frac{exp(sim(Z_{ni},Z_{nj})/\tau)}{\sum^M_{n'=1,n'\ne{n}}(exp(sim(Z_{ni},Z_{n'j})/\tau))} \quad \tau为温度参数Ln=−log∑n′=1,n′=nM(exp(
2021-11-19 10:59:33
5447
原创 pytorch学习笔记之GRU
"""gru模型定义：第一维表示input特征数，第二维表示隐层特征数，也是输出特征数，第三维表示gru单元个数要求input维度是3维，第一维表示样本数，第二维表示batch数，第三维表示input特征数；h维度，第一维同gru单元个数，第二维表示batch数，第三维表示隐层特征数"""import torch.nn as nnimport torchrnn = nn.GRUCell(10, 1)input = torch.randn(6, 3, 10)hx = torch.randn
2021-11-17 15:15:26
2355
原创 pytorch学习笔记之自己搭建一个网络结构
Pytorch定义深度神经网络其实就是一个层堆叠的过程，在__init__中定义层结构，每一层可能包含卷积、池化等操作。也可以复用Pytorch底层封装好的已经成熟的网络结构对layer进行初始化。该类中还有一个forward函数，在实例化模型的时候，底层会自动调用该函数。该函数中可以定义学习率，为初始化定义的layer传入数据等。一般自定义的op,如果您想在PyTorch中自定义OP的话，您需要继承这个类nn.Module，您需要在继承的时候复写forward和backward方法，可能还需要复写__
2021-11-17 10:35:54
890
原创 pytorch学习笔记之torch张量和nn模块用法和简单案例
torch.nn用法理解和简单案例用nn创建一个线性网络：import torchimport torch.nn as nnm = nn.Linear(20, 30) # 定义一个输入20维，输出30维的线性网络，y=Ax+b，即A是20*30的矩阵input = torch.randn(128, 20) # 输入数据的大小是128*20且服从正态分布output = m(input)print(output.size())# torch.Size([128, 30])用nn进
2021-11-17 10:29:28
970
原创 pytorch学习笔记之dataload
pytorch的数据加载：torch.utils.data.DataLoader源码解析python中iterator和iterable的区别：前者表示迭代器，后者表示是否可迭代；迭代器不用知道一共多少元素，需要next往下查找，可以用for结构的就是iterator；而list/truple/map/dict都可迭代，有固定的大小，不是迭代器。只要是用PyTorch来训练模型基本都会用到该接口（除非用户重写…），该接口的目的：将自定义的Dataset根据batch size大小、是否shuffle、
2021-11-17 09:36:18
1637
原创 MXNet初识~~复现paper时遇到MXNet代码，将其转换成pytorch
NDArray：数组，类似于pytorch中的Tensor（封装的numpy的array，使之可以在GPU运行）Symbol：模型的层，类似于pytorch中的layersModule：模型整体框架MXNet中的矩阵用法基本和Numpy的array一致：创建矩阵：a = mx.nd.array([[1,2],[3,4]])查看维度：a.shape查看数值类型：a.dtype切片指定数据类型，,dtype=np.int8数组复制：copy()，否则，修改会改变原有的值ndarray转.
2021-11-17 09:35:16
317
原创 Datawhale~水很深的深度学习~Day1:DL和数学基础
写在前面✍本系列笔记为Datawhale11月组队学习的学习笔记：水很深的深度学习。本次组队学习重理论知识学习，包含DL相关的基础知识，如CNN、RNN、Transformer等。参与本次组队学习两个目的：第一，提起自己DL学习的热情；第二，巩固基础知识，使得做实验更加得心应手。1 绪论绪论部分主要回顾了人工智能、机器学习、深度学习的基本知识，包括概念和分类等。人工智能的发展历程，从符号逻辑推理阶段到人工标注的专家系统阶段，再到现在比较火的数据驱动的深度神经网络阶段，所涉及到的任务包括自然语言处理.
2021-11-14 17:04:57
776
原创 Git操作汇总
新建的仓库在上传本地项目时，需要先拉取git端创建的readme.md等本地不存在的文件，git pull之后本地的文件却被覆盖掉，那么怎么办呢？git reflog可以查看该git项目的操作日志，结果如下：$ git reflog3405d7a (HEAD, origin/master) HEAD@{0}: reset: moving to 3405d7aa508484 (master) HEAD@{1}: reset: moving to a5084843405d7a (HEAD, origi
2021-11-14 13:22:06
787
原创 python管理本地目录，文件移动
有个需求，实验结果保存的模型都存放在一个文件夹中，特别乱，因此需要将这些模型按照实验ID分类存放。实现如下：#!/usr/bin/env python# -*- coding: UTF-8 -*-"""@Project ：Graph-WaveNet-raw @File ：move.py@IDE ：PyCharm @Author ：Rachel Liu@Date ：4/11/2021 下午 3:54移动文件，整理模型"""import osimport shuti
2021-11-05 10:47:00
177
原创 pytorch bug: Unable to find a valid cuDNN algorithm to run convolution
正常可运行的代码，突然出现bug: File "D:\ProgramFiles\Anaconda\lib\site-packages\torch\tensor.py", line 221, in backward torch.autograd.backward(self, gradient, retain_graph, create_graph) File "D:\ProgramFiles\Anaconda\lib\site-packages\torch\autograd\__init__.
2021-10-28 10:34:26
16952
13
原创 轨迹数据预处理过程之安装
轨迹数据预处理过程之安装安装osmnx库：为了在python环境下轻松使用地图库，从OpenStreetMap中检索、建模、分析和可视化街道网络。OSM提供了兴趣点POI、建筑足迹、海拔数据、街道方位/方向和网络路由。osmnx官方链接一般通过pip或conda的方式进行安装，与一般包不同的是，osmnx需要许多前置包，因此安装如下：pip install descartes folium geopy matplotlib networkx numpy pandas requests pyproj
2021-10-25 22:05:08
1079
原创 Matplotlib基本用法梳理
Matplotlib0 简介Matplotlib是一个可视化python包，可以用很简单的代码展示2D绘图，如：直方图、折线图、条形图、散点图等。其画图的基本组件包括：画板（figure），轴域（axes），子图（subplot），轴（axis），数据（x,y坐标）。关于轴域和子图的相关性和区别，可以参考文末链接python matplotlib中axes与axis的区别是什么?。1 安装pip install matplotlibimport matplotlibmatplotlib._
2021-10-25 21:49:33
514
原创 Maximum subarray problem【最大子数组问题】
前言：刚开始看 （Algorithm Design and Application），其中第1章算法分析中讲到一个算法分析案例，就是最大子数组问题（Maximum subarray problem），据说大公司的面试经常考察这个问题，可以测试程序员思考能力，而且应用于数字化图像模式识别。问题描述：给定一个数组A[-2，-4，3，-1，5，6，-7，-2，4，-3，2]，连续的子数组的和...
2021-10-22 18:05:43
241
原创 关于pytorch中scatter_add_函数的分析、理解与实现
关于scatter_add_函数的分析、理解与实现一、 pytorch中的定义和实现原理在torch._C._TensorBase.py中，定义了scatter_(self, dim, index, src, reduce=None) -> Tensor方法，作用是将src的值写入index指定的self相关位置中。用一个三维张量举例如下，将src在坐标(i,j,k)下的所有值，写入self的相应位置，而self的位置坐标除了dim维度用index[i,j,k]代替以外，都不变：self[in
2021-10-13 23:46:06
4070
3
原创 python项目中导入自定义的包报错
问题：python项目导包出现错误命令行执行：cd AA> python main.py# Traceback (most recent call last):# File "main.py", line 1, in <module># from A import func1# ModuleNotFoundError: No module named 'A'解决办法：在导入A中的方法前加以下几行代码，import osimport sysdir_myt
2021-09-28 18:16:47
3365
1
原创 FreeExcel Task 01~02 学习+作业
关于Excel：我们平时都会使用Excel进行一些基本的统计操作，本次学习的目的是补充一些没有使用过的工具，增强自己使用Excel的相关技能。本次课程学到了Excel数据的从不同来源导入的方式，数据的类型与转换等。1 数据来源1.1 从文件导入数据Excel支持.txt或.csv文件格式，通过数据-获取和转换数据-从文件/CSV导入数据。1.2 从网站导入选择一个有表格数据的网站，将网站的表格导入到Excel中。...
2021-09-11 22:39:33
131
1
原创 初学设计模式-适配器模式（Adapter Pattern）
适配器模式介绍适配器模式：将一个类的接口转换成客户端需要的另一种接口，从而将接口不兼容的两个类可以一起工作，即，适配器根据输入的参数返回给客户端期望类型的实例。如：sd卡和电脑之间要共同工作，需要读卡器，而读卡器就是这层关系中的适配器。具体而言，在程序设计过程中，希望复用一些现有的类，但是接口却又和现有的类不一致，并且我们无法更改现有类的基础上，可以通过适配器的方式来完成需求。包含如下几个角色：Target（目标抽象类）：客户期望的业务接口，可以是具体类，也可以是接口。Adapter（适配器类
2021-09-10 10:44:50
100
原创 Java基础-Cloneable接口，深浅拷贝【附python,C++深拷贝、浅拷贝】
demoJava中的拷贝python中的拷贝C++中的拷贝可变对象，不可变对象引用，值
2021-09-09 20:18:47
260
原创 记：百度秋招20210907笔试题
百度-正式批笔试-0907选择题占60分，编程题占40分选择题基本是Java、计算机网络、操作系统、数据结构类的题目，考研408，emmmmlist.stream().map(d->1).reduce(0,(a,b)->a+b)：本题关于Java1.8的新特性stream的功能进行考察，stream是用来管理集合数据的，可以看作高级的迭代器；map用来归类；reduce用来计算值。本句代码表示计算流中元素个数，换成count()也可计数。计网：GBN协议，发送0-10帧，计时器超时
2021-09-08 17:29:04
358
原创 决定结束秋招~我的结束有点早
一件事情的结束，总需要点仪式感~~在此，认真的记录我的研二下学年做出的一丢丢努力，记录我找工作的时间线，以完美结束求职阶段，开启毕业论文之旅~~3月篇-招聘备考月招聘求职的预备期从过年开始，思前想后，无论别人决定找什么岗位，也无论岗位行情如何，我决定算法岗位一条路走到黑，无论算法岗传闻有多卷，我都要找算法岗！3月开学，做算法的简历，用python刷leetcode，感觉非常良好，是的，python就是最好的语言！呃！在算法复习和论文撰写过程中，我悟了！悄然间，我在3月底换了Job Hunting的方
2021-09-07 23:36:27
885
5
原创 IDEA新建spring boot遇到的相关问题
1 对于新建的spring boot项目，无法识别注解和Javapom文件没有报错，并且maven也可以正常下载依赖，那么为什么无法识别注解和Java呢？我们可以查看一下IDEA默认的maven配置，来自C盘下的相关文件，如下图所示：找到C盘的对应目录中，发现并没有settings.xml这个配置文件。解决方法有两个：你可以将.m2下添加一个settings.xml文件，该文件可以从IDEA默认的maven文件夹中找到（具体地址如下图所示），或者直接将IDEA下的配置文件目录重写到User s
2021-07-25 17:47:52
328
原创 Attention Mechanism[Transformer、Transformer-XL、XLNet]
ContentAttention Mechanism--->聚焦关键点1 History2 Introduction3 structure4 application situation5 results6 RefAttention is all you need --- Transformer1 摘要2 模型框架：Character-Level Language Modeling with Deeper Self-Attention1 模型解释2 训练小trickTransformer-XL: Att
2021-07-06 15:46:28
610
原创 RuntimeError: CUDA out of memory.
RuntimeError: CUDA out of memory.Tried to allocate 156.00 MiB (GPU 0; 2.00 GiB total capacity; 499.29 MiB already allocated; 111.65 MiB free; 742.00 MiB reserved in total by PyTorch)看似超出GPU所占的内存不大，本地的GPU资源应该完全够用的，然而，在pytorch训练过程中，由于梯度下降等神经网络参数的反向传播和正向参数，
2021-06-04 10:19:17
856
原创 有关深度学习数据集训练前的shuffle
一、为什么要shuffle？shuffle有什么作用？防止过拟合随机优化（梯度下降），容易找到最优解，容易收敛机器学习，前提假设是独立同分布。不论是机器学习还是深度学习，我们总是基于数据独立同分布的假设条件，也就是说，数据的出现应该是随机的，而不是按照某种顺序排列好的。以上就是需要shuffle的根本原因。因此，我们需要在每个epoch的开始把数据shuffle一下参考掘金的一篇博文，如下图，我们用梯度下降来优化损失函数J，在给定参数W和学习步长时，固定顺序的数据集（假设相同类别的样本都紧密排列
2021-06-04 09:45:45
2414
5
原创 Unable to allocate 910MiB for an array with shape (24000, 12, 207, 2) with type float64
Unable to allocate 910MiB for an array with shape (24000, 12, 207, 2) with type float64910MiB = 24000 * 12 * 207 * 2 * 8 / 1024 / 1024本次bug发生在Graph WaveNet代码中的dataloader['train_loader'].shuffle()部分。分析：本机是16GB内存+10GB GPU内存一定是足够的，可能是内存分配碎片化严重，导致无法合理分配虚
2021-06-04 09:44:41
1308
原创 2020CCF 路况预测--数据读取部分：将数据格式转化成dataFrame
2020CCF 路况预测–数据读取部分：将数据格式转化成dataFrameimport pandas as pdimport numpy as npimport torchimport scipyimport sklearnimport loggingfrom tqdm import tqdmdef get_data(path): # todo 1 粗略划分成--->6列 columns = ['link', 'label', 'current_slice_id',
2021-05-24 23:18:24
698
1
dataset wikitext-103
2020-10-12
basic-miktex-2.9.7031-x64.exe
2020-06-11
上海市出租车GPS数据.gz
2020-06-03
R-3.1.3-win.zip
2020-04-20
（翻译）60分钟入门深度学习工具-PyTorch.pdf
2020-04-10
[2018]Deep Reinforcement Learning for Intelligent transportation predictoin.pdf
2020-04-10
pytorch下调用model.parameters()出现的问题：TypeError: 'collections.OrderedDict' object is not callable
2022-02-18
cygwin编译fmm项目时出现python LONG_BIT问题？
2021-10-23
Java中静态方法和非静态方法互相调用出现的问题分析？
2021-03-31
发现python赋值的一个特性，同行赋值可以这样？
2021-03-03
在pycharm中可以导入自己写的py包，运行时找不到该模块是怎么回事呢？
2020-11-18
TA创建的收藏夹 TA关注的收藏夹
TA关注的人