- 博客(13)
- 资源 (1)
- 问答 (1)
- 收藏
- 关注
原创 【深度学习】调参训模型备忘录
深度学习模型训练,个人经验备忘,希望可以少踩坑,更高效开个头打印模型参数梯度为0的情况开个头没人带的科研菜鸡,遇到问题都是自己摸索的。项目不多还不太长记性,很多解决思路放一段时间就忘了,所以记录一下。架构:pytorch语言:python/C++方向:数据预测/计算机视觉打印模型参数训练过程中把参数或者参数的梯度调出来,看看参数有没有变化,梯度有没有消失。这样可以及时观察模型迭代的方向,及时调整参数,节约时间。查看参数:for name, param in model.named_para
2021-03-19 14:00:57 127
原创 numpy的copy() 和torch的clone()、detach()
1、numpy的copy()得到占据不同内存空间的array2、torch的clone和numpy的copy功能类似,开辟新的内存空间,但多了梯度的处理细节3、torch的detach只是起到取出数据(不带梯度)做处理的作用,处理的数据还是反映在原内存空间...
2020-10-29 16:07:57 1941
原创 torch和numpy中的view()和reshape()用法区分
1、torch中的view()和reshape()功能相同torch中的view()和reshape()都改变tensor的shape,且共享内存。2、torch中的reshape()和numpy中reshape()功能相同torch中的reshape()和numpy中reshape()都改变shape,且共享内存。3、numpy中view()和reshape()功能不同numpy中reshape()改变array的shape,且共享内存;而view()改变的是array的dtype和type。.
2020-10-29 15:31:01 3507
原创 python+Image,2020-9-12
学习用PIL时的记录1、image mode2、P模式的图片没法转成jpg格式的图片3、调用open()、fromarray()后图片模式的变化测试测试代码测试结果
2020-09-12 15:20:27 79
原创 python文件读写20/9/10
python访问文件的时候路径问题1、python的os.path.isdir()参数只能是绝对路径,相对路径无法识别。2、为避免分隔符混乱,在拼接地址的时候最好用os.path.join()3、open()的路径可以是绝对路径或相对路径4、分隔符’’ 和’/’ 分别用在绝对路径和相对路径中...
2020-09-10 15:29:44 256
转载 define-by-run
define by runDefine by run framework,which means that your backprop is defined by how your code is run, and that every single iteration can be different.Chainer was the first deep learning framework...
2020-07-17 11:29:20 573
原创 The difference between social network and community
social network每个人都有一个独一无二的social network
2020-07-12 14:25:15 476
原创 pythonTIPS1
记录一下遇到过的问题,做点笔记from __future__ import print_function的用法from future import print_function的用法用途:把python新版本中print_function函数的特性导入到当前版本。如,在python2环境下,使用此句,则可以超前使用python3的print函数了。只能放置于当前运行代码片段的最开头。否则会报错...
2020-06-23 15:28:34 209
原创 PythonTIPS2
Python小笔记2一、遍历多层文件夹中所有文件时,访问文件夹需要调用chdir();一个文件夹访问完毕后,也需要调用os.chdir(os.pardir)返回到上级目录,才能继续访问下一个文件夹。
2020-05-12 01:48:03 103
原创 torch笔记2
神经网络搭建部分的tips1、每轮训练之后要将grad清零在pytorch中,计算的梯度值会自动累加,因此每轮训练在进行下一次梯度计算前应先将梯度清零。可使用module.zero_grad()进行手动清零操作。也有些方法中,利用pytorch不自动清零梯度的特性,完成梯度累加。2、池化函数的默认stride = None如果不设置stride,默认池化操作中,池化核的移动不会有重叠部分...
2020-01-14 19:16:09 132
原创 torch笔记1
tensor1、torch.(…)和torch.([…])的区别前者参数是tensor的维度,后者参数是tensor中的数据2、 size和shape的区别shape is an attribute,while size is a function.![shape用法](https://img-blog.csdnimg.cn/20200108161100262.PNG?x-oss-p...
2020-01-14 18:44:26 139
在学校网站上刷题遇到不会的,求指点
2016-05-12
TA创建的收藏夹 TA关注的收藏夹
TA关注的人