Kenn7-CSDN博客

原创使用torchsummary时出现错误RuntimeError: Expected all tensors to be on the same device, ...

使用torchsummary时出现错误RuntimeError: Expected all tensors to be on the same device, ...

2022-04-22 10:33:36 1226

原创 MLP，CNN，RNN前向传播与反向传播推导和Python实现

Python实现：https://github.com/KennCoder7/DNN-numpy

2020-10-15 14:27:21 746

原创 MNIST的均值和方差(0.1307,), (0.3081,)是怎么计算出来的？

不多说上代码解释self.train_x_set = self.train_x_set / 255.mean = 0std = 0for x in self.train_x_set: mean += np.mean(x[0, :, :])mean /= len(self.train_x_set)self.train_x_set -= meanfor x in self.train_x_set: std += np.mean(np.square(x[0, :, :]).fl

2020-10-12 22:24:08 1087 1

原创神经网络各种初始化方法（normal，uniform，xavier）的numpy实现以及表现对比

Numpy实现表现对比Mnist数据集 input_feature_dim=784(28*28)MLP-64-64-softmax网络SGD优化方法 batch_size=128max_epoch=100 lr=0.05 zeros ones normal xavier_Glorot xavier_normal uniform ...

2020-10-01 17:21:00 3875

原创 python numpy 统计数组中某一元素出现次数函数

import numpy as npdef np_count(nparray, x): i = 0 for n in nparray: if n == x: i += 1 return iarr = np.array([2, 3, 3, 1, 2, 2])print(np_count(arr, 2))output： 3

2020-07-22 11:51:19 9214 2

原创改进np.unique不自动排序 np_unranked_unique

import numpy as npdef np_unranked_unique(nparray): n_unique = len(np.unique(nparray)) ranked_unique = np.zeros([n_unique]) i = 0 for x in nparray: if x not in ranked_unique: ranked_unique[i] = x i += 1 .

2020-07-22 11:49:12 1606

原创变位词判断问题

heart & earth python & typhon 写一个bool函数判断两个词是否为变位词#解法1：逐字检查！由于在Python中字符串其中字符无法改变，先将单词赋值到列表中解法1运行时间数量级为O(n^2)def anagram1kenn(s1, s2): alist = list(s1) blist = list(s2)...

2020-05-06 17:29:57 296

原创两台WIN10电脑实现局域网文件共享

目的：两台连接到同一局域网的电脑A和B，利用局域网实现文件的传输共享。1. 首先测试是否互联：进入电脑A的命令行（“运行”——》“cmd”），输入ipconfig查看ip地址：在B电脑打开命令行，ping一下A电脑的IP地址：如果成功的话说明连在同一个局域网中。2. A电脑中创建一个文件夹share，右击打开属性3.到B电脑，在文件...

2019-11-07 11:20:59 8283

原创 [paper阅读理解] 基于Recurrent Attention Learning的弱监督人体动作识别

Weakly Supervised Human Activity Recognition from Wearable Sensors by Recurrent Attention LearningJun He, Qian Zhang, Liqun Wang, Ling Pei注：博文中的英文表述、公式以及图片均出自此paper。Abstract传统的人体动作识别（HAR）依赖于大量...

2019-10-15 15:08:01 389

转载 LaTeX (横向) 增加(减少)两幅子图之间的间距

增加\hspace{10mm}减少\hspace{-10mm}\begin{figure*}[t] \centering \subfloat[]{\includegraphics[width=2.7in]{a.jpg} \label{Fig. 1(a)}}\hspace{10mm} \subfloat[]{\includegraphics[width=2.7in]{b.j...

2019-09-26 13:57:02 11538

转载 ImportError: libcublas.so.9.0: cannot open shared object file: No such file or directory

检查 /usr/local/cuda-9.0/lib64 下是否有 libcublas.so.9.0如果有，终端输入:sudo ldconfig /usr/local/cuda-9.0/lib64

2019-09-03 09:52:29 370

原创 Linux下慎用chmod 777解决Permission denied问题

本人Linux小白因为要在服务器GPU上跑程序才接触的前几天想把自己的代码上传到服务器的/usr目录下结果显示Permission denied于是上网一搜，某个博客说可以用chmod 777这个命令于是我就用了，然后服务器系统就崩溃了。。而且极难还原，最后只能重装了服务器的系统。所以一定要慎用这个命令。...

2019-05-21 09:14:26 4831 5

原创 Ubuntu下git clone下载过慢方法解决

本文参考：https://blog.csdn.net/hzwwpgmwy/article/details/79043251不一定有效。nslookup github.global.ssl.fastly.Netnslookup github.com sudo vim /etc/hosts按 i 插入以下内容（地址请根据上文自己生成的）x.x.x.x github.g...

2019-05-08 15:01:29 3606 2

原创使用apt-get install时出现E: 无法获得锁 /var/lib/dpkg/lock-frontend - open (11: 资源暂时不可用)

首先然后输入密码，如果显示，则按照https://blog.csdn.net/xiaoxiali/article/details/17096591的方法，改一下密码：修改之后再su即可进入root：按照https://blog.csdn.net/lee_j_r/article/details/51661258的方法：sudo rm /var/cache/apt/ar...

2019-05-08 14:24:43 3177

原创 Python中enumerate()的使用

如何在一场面试中展现你对Python的coding能力？| 技术头条这篇文章中提到了在python中使用enumerate()可以解决FizzBuzz问题：即用“fizz”替换所有可被3整除的整数，用“buzz”替换所有可被5整除的整数，将所有可被3和5整除的整数替换为“fizzbuzz”。numbers = [45, 22, 14, 65, 97, 72]for i, num in...

2019-04-17 11:04:29 1222

原创 ssh远程python（tensorflow）编程

对象：客户端和服务器客户端就是软件编写者，拥有一台普通笔记本电脑/台式机。服务器是一台配置比较高的电脑，用来跑程序。服务器Ubuntu 18 GTX1080Ti服务器要安装显卡驱动、CUDA、cuDNN、python和tensorflow-gpu这些安装的攻略去网上找，有很多，比如：https://blog.csdn.net/Aiolia86/article/de...

2019-04-16 21:11:20 958

原创 Tensorflow中Batch Normalization的实现

Batch Normalization的目的：加速训练并获得更加稳定的结果（深度 | BatchNorm是如何在深度学习优化过程中发挥作用的？）Batch Normalization的原理实现：（基础 | batchnorm原理及代码详解）Batch Normalization的代码实现：（参考richardsun-voyager的github）import tensorfl...

2019-04-15 16:45:42 475

原创从零开始LaTex

LaTex，一个论文排版工具，类似于博客中的Markdown编辑器。1. LaTex的安装（环境配置）和多数编程软件一样，我们需要安装库和集成开发环境（IDE）。推荐的组合是：TexLive+TexStudio（Windows用户）具体安装过程可以参考：https://blog.csdn.net/zaishuiyifangxym/article/details/88170827...

2019-03-21 10:01:19 257

原创 Python numpy 归一化和标准化代码实现

归一化（Normalization）、标准化（Standardization）和中心化/零均值化（Zero-centered）def normalization(data): _range = np.max(data) - np.min(data) return (data - np.min(data)) / _rangedef standardization(d...

2019-01-14 13:29:04 169729 4

原创 Python中找出数组中第二大的数

已知numpy函数库中max和argmax函数可以得出一个数组中最大的成员以及所在位置：import numpy as nparr = [2, 3, 4, 1, 7, 6, 5]print("# arr中最大的数为{}，位于第{}位".format(np.max(arr), np.argmax(arr)+1))那么如何得到一个数组中第二大的成员呢？我的思想是：将原数组中最大...

2018-12-10 19:56:21 18747 1

原创 Tensorflow中CNN采用padding='same'时补零位置、卷积核位置

首先关于padding='same'的理解请参考TensorFlow中CNN的两种padding方式“SAME”和“VALID”那么问题是，在采用padding='same'补零时，补零位置怎样分配？卷积核kernel的位置又在哪呢（与数据点如何对应）？太长不看传送门：结论（tensorflow version1.11.0）数据长度为4，卷积核长度为3，步长为1，采用padding...

2018-12-08 15:27:22 7380 4

原创用文氏图来理解卷积神经网络如何决定提取哪些特征

在机器学习中，卷积神经网络(CNN)经常使用在图像分类的特征提取上，那么CNN是如何决定提取哪些特征的呢，这里我想用文氏图(Venn)来理解一下。文氏图(Venn diagram)也叫韦恩图，是用来表示集合的一种草图。CNN提取特征（训练）和匹配特征（识别）的实际过程就是拿权值参数不同的fliters与输入的区域块相点乘。现在有一个带标签的图片训练集，其中包含有Object...

2018-12-08 12:09:34 5478 2

原创 Tensorflow矩阵运算（矩阵相乘，点乘，行/列累加）

Tensorflow二维、三维、四维矩阵运算（矩阵相乘，点乘，行/列累加）1. 矩阵相乘根据矩阵相乘的匹配原则，左乘矩阵的列数要等于右乘矩阵的行数。在多维（三维、四维）矩阵的相乘中，需要最后两维满足匹配原则。可以将多维矩阵理解成：（矩阵排列，矩阵），即后两维为矩阵，前面的维度为矩阵的排列。比如对于（2，2，4）来说，视为2个（2，4）矩阵。对于（2，2，2，4）来说，视为...

2018-12-06 09:22:16 29638 2

原创 Python取多维数组第n维的前几位

现在我们有一个shape为(7352, 9, 128, 1)的numpy数组。想要取出第2维的前三个数据，构成新数组(7352, 3, 128, 1)我的思想是：将第2维数据转置（transpose）到第一维，再用切片（slice）取出前三个数据，再转置回去：print("# original", input.shape)input_transpose = input.transp...

2018-12-04 19:58:25 7660

原创 Python中的scipy.stats.mode函数，寻找出现次数最多的成员

在Python中，我们可以用scipy.stats.mode函数寻找数组或者矩阵每行/每列中最常出现成员以及出现的次数。from scipy.stats import modedef mode(a, axis=0, nan_policy='propagate'):函数作用：返回传入数组/矩阵中最常出现的成员以及出现的次数。如果多个成员出现次数一样多，返回值小的那个。举例...

2018-12-04 18:45:48 23622 1

原创 Python中制作有趣的流水灯

1. 普通的流水灯import timeimport sysFRESH_TIME = 0.3LENGTH = 7mod = 1if mod == 1: print("Flowing light:") while mod == 1: for i in range(LENGTH): bar = ['['] + [' '] * ...

2018-12-01 11:29:52 2422

原创 Python中制作带数字的进度条

简单制作一个进度条，效果如下：不多说，直接上代码：import timeEACH_STEP_COST_TIME = 0.3PROCESS_TOTAL_STEP = 40def process_bar(current_state, total_state, bar_length=20): current_bar = int(current_state / tota...

2018-11-30 18:37:20 457

原创 Tensorflow中实现反卷积过程（de-convolution/convolution transpose）

卷积神经网络是深度学习中一个很流行的网络模型，它的原理和过程我就不在此介绍了，感兴趣的可以去看一下https://blog.csdn.net/kane7csdn/article/details/83617086。在这里，介绍一下反卷积过程（可以叫做deconvolution，或者也可以称作convolution transpose）。反卷积也可以理解为逆卷积，顾名思义，卷积的逆过程。...

2018-11-26 22:13:35 1369

原创 Python中求矩阵的逆

import numpy as npkernel = np.array([1, 1, 1, 2]).reshape((2, 2))print(kernel)print(np.linalg.inv(kernel))注意，Singular matrix奇异矩阵不可求逆

2018-11-26 19:48:25 30031 3

原创 [paper阅读理解] 基于半监督卷积神经网络的人体动作识别

Semi-supervised convolutional neural networks for human activity recognition基于半监督卷积神经网络的人体动作识别Zeng, M. Y., Tong & Wang, Xiao & Nguyen, Le T. & Mengshoel, Ole & Lane, Ian. (2017). S...

2018-11-25 16:09:52 3027

原创用简单的例子来理解机器学习中的precision、recall、F1-score、accuracy

主要介绍机器学习中的precision、recall、F1-score、accuracy的计算方法，以及为什么在有些情况下要用F1-score而不是precision来衡量机器学习分类效果。

2018-11-25 15:25:16 2005

原创 [paper阅读理解] 自动标注在基于智能手机对人体日常生活动作进行识别中的应用

Automatic Annotation for Human Activity Recognition in Free Living Using a Smartphone自动标注在基于智能手机对人体日常生活动作进行识别中的应用Cruciani, F., et al. (2018). "Automatic Annotation for Human Activity Recognition i...

2018-11-24 17:11:32 988

原创机器学习中Optimizer是什么，优化过程中改变了什么，learning rate是什么？

在线性回归或者监督学习中，我们会计算预测值与真实值之间的差距，也就是loss。在计算得出loss之后，通常会使用Optimizer对所构造的数学模型/网络模型进行参数优化，通常情况下，优化的最终目的是使得loss趋向于最小。首先，要了解的是，Optimizer是基类，在实际使用过程中，使用的是它的复写类，有：GradientDescentOptimizer AdagradOpt...

2018-11-23 10:42:18 3871 2

原创机器学习中交叉熵cross entropy是什么，怎么计算？

项目背景：人体动作识别（分类），CNN或者RNN网络，softmax分类输出，输出为one-hot型标签。loss可以理解为预测输出pred与实际输出Y之间的差距，其中pred和Y均为one-hot型。计算loss的意义在于为接下来的optimizer提供优化的指标，即optimizer优化的目的为最小化loss。在使用softmax层进行分类时，loss一般使用交叉熵cross_en...

2018-11-20 18:26:03 1700

原创 Python中使用pandas.get_dummies()生成one-hot编码标签

one-hot编码是监督学习中经常对标签处理的一种方式。假设我们有一组标签：import numpy as npimport pandas as pdlabels = np.array(['Cat', 'Dog', 'Dog', 'Cat', 'Bird', 'Fish'])print("Labels shape: %d" % labels.shape)print("Label...

2018-11-20 12:37:10 1665 1

原创 Python中常用的绘图函数 matplotlib.pyplot

更详细了解的请参考Python绘图、【Matplotlib】绘图常见设置说明颜色：https://www.cnblogs.com/darkknightzh/p/6117528.html目录1. 画折线图：2. 画散点图3. 画带有点的折线图4. x1数量过多，无法都显示在x轴上，可以旋转90度显示：5. 加上标题，xy轴名字，网线6. 指定x，y坐标范围7...

2018-11-17 17:09:04 1188

原创 Python中等距取出一个数组其中n个数函数实现

应用场景：实验中不断得到新数据，想将数据图形化，但随着时间推移，数据越来越多，此时需要我们等距选择数据列表中固定数量的数据，来进行图形化。注：保留首尾数据。import numpy as npa = np.arange(0, 10)b = np.arange(0, 15)c = np.arange(0, 20)d = np.arange(0, 30)e = np.ar...

2018-11-17 16:50:39 8127 2

原创 Python中使用print()不换行输出

print()函数中有一个参数为end，默认值为'\n'，也就是换行符。所以，将这个参数end=' '，即可实现print()不换行输出。print("Test1:")print("Hello")print("World")print("Test2:")print("Hello", end=' ')print("World")效果：btw， print()还

2018-11-16 20:22:01 2933

原创 Python中自己写一个计时器，计算一个过程所需秒数

import timeimport sysimport numpy as npi = np.arange(1, 5000)def k_timer(bool_start_end, start_time): if bool_start_end: return time.time() else: print("# It takes %ds"...

2018-11-16 20:04:22 2787

原创新装Android Studio中Gradle下载慢、Could not get resource 'https://jcenter.bintray.com/...'问题

Gradle是一个版本控制以及灵活构建app的应用，但Gradle的使用有很多坑：比如Android Studio（以下简称AS）在构建第一个新工程的时候自动下载gradle速度很慢..或者Gradle在自动下载网络库的时候经常Could not get resource 'https://jcenter.bintray.com/...'本文来解决这些问题：问题一：Gradle在A...

2018-11-14 20:05:21 41477 11

空空如也

空空如也