- 博客(79)
- 资源 (14)
- 收藏
- 关注
RSS订阅原创 PyTorch Lightning入门教程（二）
pytorch lightning提供了比较方便的多GPU训练方式，同时包括多种策略和拓展库，比如ddp，fairscale等，下面将从单机多卡和多机多卡两个角度介绍。
2022-09-03 23:32:49
3423
1
原创 PyTorch Lightning入门教程（一）
因为最近在学习pytorch lightning，所以这里记录一下学习的内容，这一节记录简单的入门教程，下一节预计介绍如何进行多GPU训练。pytorch lightning作为pytorch的一个拓展架构，可以减少很多与数据处理以及模型搭建无关的代码，增加工程效率。因为在编写训练代码的时候，很多时候需要兼顾编写学习率的schedule代码，记录log的代码等等。实际上，模型相关代码可能需要的时间还不如调试这些辅助的代码所需要的时间。而pytorch lightning这类框架就可以解决上面的问题。
2022-08-22 10:58:48
3025
1
原创 prompt模板模式总结记录
文章目录prompt模板模式总结记录完形填空模式Language Models as Knowledge BasesmotivationLAMA Probe数据集实验结果Template-Based Named Entity Recognition Using BARTmotivation构造模板实验结果前缀模式Prefix-Tuning: Optimizing Continuous Prompts for Generationmotivation实现方式实验结果GPT Understands, Toomo
2022-04-07 22:41:03
4143
6
原创 RCNN详细介绍 Rich feature hierarchies for accurate object detection and semantic segmentation
Rich feature hierarchies for accurate object detection and semantic segmentationPublisher: CVPR 2014论文链接目录Rich feature hierarchies for accurate object detection and semantic segmentation1.概述2.整体过程2.1 模型的大概整体过程2.2 Bbox2.3 IoU2.4 非极大值抑制2.5 har
2020-08-18 15:13:46
200
原创 Assertion `srcIndex ＜ srcSelectDimSize` failed.
这里具体问题具体分析，我是在使用BERT预训练模型的时候遇到的这个错误，这个错误实际上是因为输入的文本长度太长了，比如我用的BERT-base最长支持512位，而我输入的长度大于了512，这个时候只需要截断输入的文本，保持输入的长度小于等于512，就可以正常运行了。参考网址：https://www.cnblogs.com/laozhanghahaha/p/13037595.html...
2020-08-03 12:34:55
9070
原创 pytorch, BERT, RuntimeError: CUDA error: device-side assert triggered
对于pytorch，在进行训练的时候，突然报了RuntimeError: CUDA error: device-side assert triggered错误，根据网上的大部分解决方案，这个错误一般是出现在“数组越界”的情况，这里不是说具体的真的是数组越界，只是泛指这一类的，访问的地址超过了最长范围了。 但是为了确定具体的错误，仅仅靠上面那个错误提示是不够的，所以我们想要它显示具体的错误信息，这个时候想要判断出错的地方，我们需要在运行代码的时候，在命令前面加上CUDA_LAUNCH_BLOCKING
2020-08-03 12:31:30
1582
原创 torchtext的简单教程
torchtext的使用目录torchtext的使用1.引言2.torchtext简介3.代码讲解3.1 Field3.2 Dataset3.4 使用Field构建词向量表3.3 Iteration4. 总结1.引言 这两天看了一些torchtext的东西， 其实torchtext的教程并不是很多，当时想着使用torchtext的原因就是， 其中提供了一个BucketIterator的桶排序迭代器，通过这个输出的批数据中，每批文本长度基本都是一致的，当时就感觉这个似
2020-06-09 19:40:03
4144
原创 XLNet论文解读+部分代码解读
目录XLNet Generalized Autoregressive Pretraining1.Motivation2.自回归语言模型和自编码语言模型2.1 自回归语言模型2.2 自编码语言模型3.XLNet的主要改进3.1 Permutation Language Modeling3.2 双流自我注意力结构3.2.1 attention mask3.2.2 其余的双流操作3.2.3 XLNet的...
2019-12-16 17:52:18
1128
原创 GLUE数据集下载（Bert，XLNet等使用数据集）
GLUE数据集下载GLUE数据集官方网址：https://gluebenchmark.com/tasks下载方式：https://github.com/nyu-mll/GLUE-baselines因为这些GLUE的官网在国外，而GitHub上面的下载地址也在国外，所以你过你可以翻出去的话，下载不成问题，如果翻不出去的话，你可以用下面的我上传的链接下载：...
2019-12-16 17:05:51
3502
1
原创 pytorch多gpu训练，单机多卡，多机多卡
pytorch多gpu并行训练暂时只是使用了单机多卡的GPU进行测试, 并没有使用多机多卡, 这里只简述了如何使用DistributedDataParallel代替DataParalleltorch.nn.DataParallel 我一般在使用多GPU的时候, 会喜欢使用os.environ['CUDA_VISIBLE_DEVICES']来限制使用的GPU个数, 例如我要使用第0和第3编号...
2019-10-09 09:42:33
9975
15
原创 ssh config配置 ssh快速连接
目录ssh快速连接首先创建config文件添加私钥和公钥ssh快速连接 在window上面, 我们可以使用的ssh管理软件比较多. 但是在Ubuntu上面, 可以使用的比较少, 有pac manager, 还有国产软件finalShell. 但是在实际使用的时候, 我安装的pac无法启动, 或许是因为依赖问题没有搞定. finalShell莫名占用一个核的cpu. 所以最后还是回归到了Ubu...
2019-10-03 19:31:24
1987
原创 pytorch中如何在lstm中输入可变长的序列
pytorch中如何在lstm中输入可变长的序列pytorch中如何在lstm中输入可变长的序列torch.nn.utils.rnn.pad_sequence()torch.nn.utils.rnn.pack_padded_sequence()torch.nn.utils.rnn.pad_packed_sequence()pytorch中如何在lstm中输入可变长的序列我在做的时候主要参考了这...
2019-09-15 13:11:48
20978
26
原创 pytorch如何使用预训练的词向量
如何在pytorch中使用word2vec训练好的词向量torch.nn.Embedding() 这个方法是在pytorch中将词向量和词对应起来的一个方法. 一般情况下,如果我们直接使用下面的这种:self.embedding = torch.nn.Embedding(num_embeddings=vocab_size, embedding_dim=embeding_dim)num_...
2019-09-14 20:44:29
10457
9
原创 Word2Vec详解-公式推导以及代码
这里写自定义目录标题Word2Vec详解Word2Vec_pythoncbow-hsskip-hscbow-nsskip-nsdistanceWord2Vec详解Word2Vec_pythoncbow-hsskip-hscbow-nsskip-nsdistanceWord2Vec_pythonThe Englist please refer to README经过一段...
2019-08-20 13:59:15
5838
13
原创 neo4j如何导入csv文件
neo4j如何导入csv文件本文只适合于Windows系统，并没有在mac os中测试。此外，如果是win7，运行neo4j和导入csv等均会报错，主要原因是neo4j的配置文件中的路径有问题，将一些路径改成绝对路径即可，直接将错误复制到百度里面，就可以得到解决方法下面开始教程如果打开了neo4j，那么需要先关掉neo4j的服务，直接在命令行中ctrl + c即可，不建议直接关闭命令行窗口...
2019-08-10 15:49:16
5066
5
原创 authentication is required to update smart data from *****
我在使用Ubuntu16的时候，出现了authentication is required to update smart data from ×××错误，大概意思说我某个硬盘需要更新smart数据，看不懂为啥，我已经使用Ubuntu16很久了，但是并没有出现过这个问题。百度之后，不少人都说是显卡驱动的问题，也按照某些教程进行了修改，但是今天又突然出现了这个问题，再次百度之后，在一个很隐蔽的地方...
2019-08-05 14:48:08
632
原创 Anaconda常用命令及简单教程
Anaconda常用命令本教程基本都是参考了来自知乎:猴子大神教程参考网址简单安装教程直接从anaconda官网，选择对应的版本下载即可，如果不懂直接一路默认就可以，反正最后也不会影响使用，毕竟你也不会经常使用命令行写python代码。环境管理创建环境conda create -n env_name python=3.6参数解释env_name你要创...
2019-07-16 12:42:41
365
原创 树莓派内存无故减少 lxpanel
生日的时候，女朋友送了一块树莓派玩。按道理来说，树莓派应该是适合长时间运行的。但是我发现我的这块树莓派运行几个月之后没内存了……真让人头大，重启之后又好了。一开始我以为是我写的那个控制风扇转动的代码有内存泄漏还是咋回事，不过按道理来说我用的python，也不应该出现内存泄漏。我又把交换内存变大了一点，然后后来也没理它。最近发现又出现这个问题了，用top命令查看之后发现有一个lxpanel进程...
2019-05-23 18:30:21
2764
5
原创 torchvision transform库学习总结
torchvision transform库学习总结参考了https://www.pytorchtutorial.com/docs/torchvision/torchvision-transform/首先，在torchvision transform库中，大致有以下几类方法1.一个类似数组的操作class torchvision.transforms.Compose(transforms)...
2019-04-01 14:55:45
4419
3
原创 机械革命 安装Ubuntu16+win10双系统 配置GTX960m显卡
机械革命 安装Ubuntu16+win10双系统 配置GTX960m显卡为了安装这个双系统，使用了我两天的时间，重装十几次，重启，强制关机几十次首先说一下我的电脑的配置和型号机械革命-X6TI-M2CPU : I7-6700HQGPU : GTX960m内存 ：16G硬盘：128G+256G+1TB 分别是建兴，西部数据 ，日立硬盘本次安装在128G固态硬盘中，系统版本是...
2019-03-02 16:27:01
2446
原创 Ubuntu使用pycharm：ImportError: libcublas.so.9.0: cannot open shared object file
ImportError: libcublas.so.9.0: cannot open shared object file解决办法出现这个问题一般有好几个原因，下面将会一一讲解1.首先我们需要检查自己安装的tensorflow的版本和cuda的版本是否对应，例如这里的libcublas.so.9.0实际是指cuda9.0里面的一个依赖库，这里我抄了一份tensorflow和cuda的对应表（...
2019-03-02 14:23:57
1750
原创 python-numpy-dot()
转载：https://blog.csdn.net/qq_28618765/article/details/78083179 转载：https://www.cnblogs.com/luhuan/p/7925790.html说白了就是计算矩阵乘法的方法。但是对于(n, )维的向量，这个计算起来有点不一样，按照测试，我猜测对于(n, )维的向量，计算方法稍微有点不一样。比如说是(m ,n...
2018-08-23 11:07:31
428
转载 random.choice()
概述： 可以从一个int数字或1维array里随机选取内容，并将选取结果放入n维array中返回。说明：numpy.random.choice(a, size=None, replace=True, p=None)a : 1-D array-like or int If an ndarray, a random sample is generated from its e...
2018-08-22 17:55:48
5468
转载 numpy.flatnonzero()
转载：https://www.cnblogs.com/eilearn/p/9014864.html 该函数输入一个矩阵，返回扁平化后矩阵中非零元素的位置（index）这是官方文档给出的用法，非常正规，输入一个矩阵，返回了其中非零元素的位置.>>> x = np.arange(-2, 3)>>> xarray([-2, -1, 0, 1, 2]...
2018-08-22 17:52:40
2616
1
转载 DrawerLayout背景设置的问题，去除阴影
做项目的时候遇到一个问题，就是当DrawerLayout滑动出来的时候，默认是会给侧边栏下面部分的界面蒙上一层阴影，而我们这个app侧边栏颜色和阴影颜色实在是太相近了，所以就需要去除阴影，然后翻遍baidu找不到，只能fan qiang 去谷歌咯。 最后总算找到了方法，给DrawerLayout设置setScrimColor这个方法，给它加上自己想要的颜色就好了，透明的使用drawer....
2018-08-22 12:20:29
1348
原创 android - anim translate中 fromXDelta、toXDelta、fromYDelta、toXDelta属性
android - anim translate中 fromXDelta、toXDelta、fromYDelta、toYDelta属性首先本文是个人经验，并不是参考了官方文档给出的解释，鉴于网上的很多都是一样，而且看不懂写的啥，所以自己摸索了一下规律，具体的情况还要看你自己了。其次，我这里是横屏情况下，从右边弹出界面的总结的。具体的代码可以从这里 [下载]https://download.c...
2018-08-21 16:38:14
2848
原创 KeyError: 'data'
KeyError:’data’这里是在实现李飞飞-深度学习与机器视觉课程的课后作业的时候遇到的问题。使用的代码是官方给出的代码，自己只是照着敲一遍，但是却出现了KeyError:’data’。 经过查询也没有发现问题所在。出错的代码是这一段def load_CIFAR_batch(filename): """ load single batch of cifar "&qu
2018-08-13 10:11:11
35968
24
原创 Python中的and和or运算
python中的and和or运算其实和别的语言是一样的，都遵循下面的原则：a and b：表示的是当a为True时，表达式的结果就是b；当a为False的时候，表达式的结果就是a，注意的是，这时的结果就是a，而a的值不一定是False，例如a=0的时候，a也表示False的含义a or b：表示的是a为True时，表达式的结果就是a；当a为False的时候，表达式的结取决于b，也就...
2018-06-25 15:44:07
5724
4
原创 MATLAB显示中文乱码问题 MATLAB2016
我使用的是MATLAB 2016a，win10环境。 在试过千百遍之后，我修改了控制面板里面的系统语言是中文简体： 然后修改了MATLAB的bin文件夹里面的lcdata.xml文件如下 也修改了MATLAB的默认字体： 之后发现并没有任何用处，后来我感觉自己修改的并不是MATLAB的编辑器的字体，然后修改了编辑器的字体： 这样我的乱码问题解决了，之所以列出前面的那些失败
2018-02-01 18:23:26
38653
10
原创 Android里面的EditText默认没有焦点
在网上查了很多。有在java代码里面改的，也有在.xml文件修改的，但是发现几乎所有的都是一样的，真实感慨中国人的copy能力真实一流，在.xml里面修改的原理莫过于是在EditText获得焦点前先让父布局夺取焦点。 但是我的代码里这么用死活不行，可能是因为开发的是平板上的应用，设置了EditText输入的时候不能全屏，导致了某些地方的问题，但是我经过思考，感觉如果让EditText的前一个控件夺
2017-10-02 21:06:01
1077
原创 python中的通配
通配是指一些特殊的字符，如？和*，可以用他们匹配许多名称类似的文件，例如使用P* 可以匹配所有以P开头的文件，使用*.txt 可以匹配所有以.txt结尾的文件。 使用python中的glob函数可以实现通配import globprint(glob.glob("F:\test_Python\\\*.txt"))可以匹配所有的以.txt结尾的文件下面列出来了通配模式中可以使用的通配符： 同时也可
2017-09-08 07:13:01
2885
原创 python中对文件的操作总结
文件对象创建文本文件想文件中追加文本读取文本内容文件异常路径和目录 —-os简介文件对象1.创建文本文件def make_file(): f = open("test.txt", "w") f.write("Hello World") f.close()这段代码创建了一个test.txt的文件，并表明是写的属性（默认是读的属性）
2017-09-07 23:10:42
537
原创 对于前台和后台学习基础的一个概念---什么是前台后台
对于大神，这篇文章可以自动忽略。对于一个暑假的懵逼的学习，或许对前台和后台的交互有了一点的认识。当初很迷茫的在项目上走了一个暑假的路，开始是学习的android方面的，帮实验室维护一个项目，开始的时候感觉那些学长以前写的那些项目很高大上（以前曾经看过他们的源码，结果没看懂），认真看了之后，顺便学了一点RxJava， Retrofit2.0方面东西，再在一个学长的帮助下，学习了一点开发的小知识，
2017-08-30 13:43:42
5445
1
原创 Android中实现震动的方法
实现手机震动其实很简单，手机震动使用是Vibrator类，然后震动也是需要权限的，在使用之前在AndroidManifest.xml文件中添加<uses-permission android:name="android.permission.VIBRATE"/>然后这里示例的代码是使用点击按钮的时候可以实现震动，在按钮的点击事件的函数中添加这样几句话：Vibrator vibrator = (Vib
2017-07-18 22:13:09
35200
1
原创 Qt中关于简单音频的使用（系列三）
对于Qt中的音频的使用，如果只是使用触发按钮就可以播放音频还是比较简单的，这样的适合于语音提示等一些方面，下面是简单的实现过程，对于复杂一点的会在C++课设结束之后进行补充。 QMediaPlayer *player = new QMediaPlayer； player->setMedia(QUrl::fromLocalFile(“..\sound\i-sound2.mp3”)); playe
2017-07-01 22:14:50
1133
原创 对于Qt中QString和char*之间的互相转换问题（系列二）
对于Qt，虽说对C++全部兼容，但是一旦涉及到和界面的数据的交互操作，难免涉及到char*和QString的转换问题，转换的过程很简单，这里总结了一下网上提供的最简单的一个方法： 从char*转成QString类型： 使用fromLocal8Bit方法进行转换： char * tempChar = new char[100]; QString tempString = QString ::f
2017-07-01 22:07:39
439
原创 文件中绝对路径和相对路径
一般涉及到文件操作的时候就逃不掉使用相对路径和绝对路径，对于绝对路径和相对路径，不建议使用绝对路径，所谓的绝对路径就是类似于 D:\QtMinGW\Qt5.8.0\5.8\mingw53_32\bin 这样的路径，这样的路径容易导致的问题就是一旦对程序的执行文件或者文件的位置改变，就会造成程序无法读取文件等一些问题，所以推荐使用相对路径，对于相对路径，例如： ..\fileToRead\i.
2017-07-01 21:59:14
712
原创 Qt里的堆栈窗口的使用（系列一）
这段时间做了一个数据结构课设，里面遇到了一些问题，有些在网上可以找到对应解决方法，有些找不到，于是就把这些自己找到的解决方法在这里和大家分享一下吧。由于本人是一个初学者，如果表达不当，请多多谅解。 首先是对堆栈窗口的使用，当时在网上查找的时候发现很多博客都是如出一辙，连一个字都不带改的，虽然对转载这种行为没有什么好指责的，但是总是转载一些别人的东西，整个网络竟然找不到堆栈窗口的实用的使用方法，最后
2017-07-01 21:48:19
12372
2
转载 为什么qt种提示找不到#include <QApplication>
转载自：http://www.cnblogs.com/nowornever-L/p/5665945.html从新学习Qt时，重装了Qt5.4，当运行Hello World例子时，遇到了下列的情况 <span style=”font-size:18px;”>#include <QApplication>include <QDialog>include <QLabel>int main(int a
2017-05-01 18:13:01
9251
2
GLUE百度网盘分享.txt
2019-12-16
统计自然语言处理
2017-10-28
head first javascript 中文版
2017-09-17
英语词典（数据结构课设）
2017-08-03
人机对战和局域网对战五子棋
2017-07-23
英语小词典（数据结构课设 C++）
2017-07-01
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人