- 博客(16)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 应用深度学习function-loss-optimization 2020.8.24
文章目录问题1. MSE表示形式？？(1-y_hat*f)^2正式内容Training Procedure: function-set , loss , optimizationFunction-Set perceptron VS. Multi-layer perceptronperceptronperceptron:why bias?一个neuron和a layer of neurons这种线性结构放在二维里无法解决XOR问题中间都是没有hidden层的，每一个Y的输出都是独立的，之间没有相关性。Mult
2020-08-24 11:58:23
179
原创 应用深度学习Overview
文章目录从人为到ML到DL(记两个图，对比因地制宜，framework两个重点)人为设定规则，比如看到文章中有“棒”就输出positiveML 机器自己选择output，但特征需要自己挑DL ——是ML的一个小部分，多个f堆叠，完全端到端ML vs. DL 具体问题(domain)具体分析具体选择ML framework(!!!两个重点)从人为到ML到DL(记两个图，对比因地制宜，framework两个重点)人为设定规则，比如看到文章中有“棒”就输出positiveML 机器自己选择output，但
2020-08-20 09:59:19
139
原创 python数据分析第四章——NumPy
文章目录NumPy 创建array创建基本方法数据类型 dtype数组维度NumPy 计算array二元运算符 `+ -*／ **` 都是对应位置做运算切片 没有复制切片索引，注意没有复制布尔索引，注意没有复制利用布尔值操纵元素值神奇索引——列表做索引 ，注意没有复制列表做索引，取相应的行再加一维坐标更改列元素顺序矩阵运算——注意这个对数据没有复制dottransposeswapaxes通用函数&将条件逻辑作为数组操作一元通用函数二元通用函数改变原数组的方法where函数，条件逻辑作为数组操作数
2020-08-10 15:27:39
313
原创 声音辨识Speech Recognition
文章目录Speech Recognitioninputcharacterword词UTF-8其他比如直接word-embeddingsummryoutputwindow,frameHow much data do we need?summry常用模型reviewSpeech Recognitioninputcharacterword词UTF-8其他比如直接word-embeddingsummryoutputwindow,frameHow much data do we nee
2020-08-08 07:16:30
309
原创 Overview_深度学习与人类语言处理
AdversarialAttack:加噪音，比如QAwhy提问的都加上：because I want to …
2020-08-05 13:59:33
133
原创 python数据分析第二章——正则表达式()、匿名函数，partial柯里化、迭代器（iter yield）、生成器表达式
文章目录正则表达式正则表达式
2020-08-05 11:41:10
159
原创 python数据分析第二章——python基础进阶(推导式、元组、集合)
python进阶列表、集合和字典的推导式列表的推导式# [expr for val in collection if condition]# 与下面的for循环等价# result = []# for val in collection: #if condition: #result.append(expr) 过滤出列表里长度大于2的字符串 strings = ['a', 'bcd', 'efgh', 'i'] [x.upper() for x in strin
2020-08-05 11:28:05
133
原创 python数据分析第二章——python基础补充（内省、转义、unicode编码、日期处理）
python基础补充jupyter特有内省功能 ？2.2.4 内省?：显示信息?：函数的话，显示文档字符串，就是函数的注释，三个双引号那个??：显示函数源代码星号 名称 星号?: 显示NumPy顶层函数中包含load的函数列表多行字符串，用三引号c = “”"一顿火锅两串烧烤三杯阔落四盆龙虾五香花生六味猪蹄七斤荔枝八个榴莲九足饭饱食不我待，得抓紧“”"这个字符串，包含了十行文本，换行符\n也是包含在其中的试着用count计算回车符轻松转义，不用
2020-08-04 17:10:59
118
原创 Network Compression
Network Pruning：剪掉神经元Knowledge Distillation小模型模拟大模型Parameter Quantization改变参数表示根据 最近的二元weights的network的更新方向来决定Architecture Design调整网络架构Dynamic Compution动态选择模型...
2020-07-31 12:17:25
274
原创 Anomaly Detection不知为不知
带label训练分类器，加置信分数无label 最大似然计算概率作为置信分数其他方法不能直接用Binary Classification？不是类A(宝可梦)的东西太多了，不太可能找到异常资料(类B)的分布收集异常数据比较困难...
2020-07-30 14:39:06
142
原创 Expainable ML
Local & Global explanationInterpretable vs. Powerful用一个modelA解释(模拟结果)另一个modelBLinear模拟DNN——LIME(local explanation)decision-tree
2020-07-29 16:02:52
52
原创 life-long learning (LLL)
提出问题LLL：一个model做个task，主要需要解决的问题是多个问题之间参数灾难性遗忘的问题，-> 如何迭代更新参数transfer learning：只需要在task2上做好，task1不管了Knowledge RetentionEvaluationModel expansion任务太多，model已经到了极限 -> 自动扩大model大小，生成新的神经元出来 -> 保持参数有效率扩张希望model扩张速度比新的任务增长速度慢一个idea任务学习的顺序也很重
2020-07-29 16:02:43
118
原创 Attack and Defense
Attack加额外条件！改训练方法！举例FGSM黑盒attack与universal attack 与语音文本attack 与attack后的任务切换黑盒attack再训练一个network架构即可为什么会有attackDefensepassive:更改attack的图片proactive：更改网络参数...
2020-07-29 16:02:34
153
原创 word2vec meta-learning(少量数据快速学习／你以为我在第一层，其实我在第二层)
7.23 理解word2vec，并对比Auto-encoder https://www.jianshu.com/p/471d9bfbd72fAuto Encoder的具体架构、适用的向量2（文字／图片）、应用2（pre-train DNN／句级表示）word2vec想要得到的是权重WV∗NW_{V*N}WV∗N，以CBOW为例：上下文预测中心词，CCC个VVV向量作为输入，经过WV∗NW_{V*N}WV∗N得到C∗VC*VC∗V再相加求平均得到1∗V1*V1∗V,再经过decodeWN∗
2020-07-29 16:02:25
130
原创 Python编程从入门到实践一(列表、字典、读写文件txt,json、if/while、函数、类和对象)
chap2 变量和简单的数据类型转义字符使用双引号lstrip 等strip \n \t都会去掉整数除法// 浮点数除法/int和string型，两个不能相加 str(a)调用等就是a.__str__(),包括None与其他也不能相加chap3-4 列表操作增(append insert),删(pop remove),排序,倒序切片右区间始终是开的前十个整数的平方，并存在列表中打印，简化定义版本；如果需要取元素，老老实实写for循环 for item in list:
2020-07-29 10:36:24
366
空空如也
Octave函数输出格式怎么修改
2019-08-22
TA创建的收藏夹 TA关注的收藏夹
TA关注的人