- 博客(14)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 Adam三连问
Adam能和L2正则一起使用？不能。L2正则 在SGD中和weight decay是等价的，但是在Adam中就不等价了。因为在Adam中，每个参数的梯度的计算和历史梯度相关，不是简单乘上学习率参考：https://zhuanlan.zhihu.com/p/63982470Adam能解决梯度爆炸？不能。理论上，Adam是不会发生梯度爆炸的问题，因为梯度更新式：mt=mt−1⋅β1+g...
2019-09-12 23:06:26
343
原创 A+B（可能）最短代码原理
目录问题描述可能长度最短代码证明拓展问题描述POJ上的A+B题目虽简单，但被各种人玩出花来，链接：http://poj.org/problem?id=1000输入a b，0≤a≤9, 0≤b≤9，输出a+b输入样例：8 1输出样例：9可能长度最短代码main(n){gets(&n);printf("%d",n%85-43);}参考POJ Dicuss证明上述代码中n是...
2019-09-12 21:42:05
973
原创 Blender Python编程技巧
Blender Python编程技巧整理自 https://docs.blender.org/bpy.dataobject复制ob = obj.copy() # duplicate linkedob.data = obj.data.copy() # optional: make this a real duplicate (not linked)bpy.context.scene.ob...
2019-03-03 20:00:59
5961
1
原创 物质世界与精神世界
人类认识世界都是通过有限的感受器，如眼睛、耳朵、鼻子、皮肤等。通过这些感受器收到的信号，然后在脑子里建立 各种模型，也就是你的内心世界、精神世界。（你的世界观、价值观，对事物的看法，对事情的回忆等等）世界是复杂的，人类只能通过有限的感官来认识世界，也可以通过机器（如雷达、电子显微镜、望远镜、电磁探测仪等）来拓宽认知的途径。也就是为啥物理理论不断变革，亚里士多德->伽利略和牛顿->爱...
2018-06-03 17:30:53
2687
原创 神经网络是可微逻辑机
每个神经元是 一个可微分的逻辑单元。把一堆逻辑单元按照一定结构放在一起，组合成神经网络，然后用 可微的最优化方法——梯度下降法 进行优化。神经网络就是一个程序，大量的逻辑门按照一定结构组合的复杂程序。梯度下降用来自动化编程。复用逻辑单元，就是 增加深度、CNN、RNN等方法。学出的是逻辑单元组合成的程序，复用里面的逻辑做知识迁移，即复用一个模块 到 另一个任务里面。强大的网络，RN...
2018-03-15 01:32:33
808
原创 神经网络的时空权衡
学习模型，开始蚕食人类智慧编写的传统算法程序了。 Google Brain 用 学习索引（Learned Index） 代替 B树索引，然后GPU/TPU/XPU并行加速，可以大幅度提高 数据检索的效率，这应该是Software2.0的一个比较新奇的应用。AlphaZero也是其中一个例子。由此启发，我们可以用一个旧的模块产生数据，然后 神经网络模块 用这些数据训练，最后并行化的神经网络把传...
2018-03-15 01:23:47
360
原创 关于“自然语言”的一些思考
老板用 “自然语言” 跟我们交流，把他的 “语义” 传达给我们，让我们做他想做的事情。 我们用 “程序语言” 与机器交流，把我们的 “语义” 传达给机器，让机器做我们想做的事情。语义是 脱离“语言” 之外 独立存在的东西。你看到美景，你脑海里有“语义”，你没法用语言表达出来。你吃到好吃的，脑海里有 “语义”，你也没法用语言表达出来，这就是 “语言” 的局限了。语言，尽可能表达 丰富的 语义。...
2018-03-15 01:16:16
261
原创 Valgrind Memcheck 源码分析
Valgrind Memcheck 日期：2017-12-27 18:10:53 星期三Valgrind Memcheck一、源代码的基本情况Valgrind版本主要涉及文件功能概述二、常见内存错误三、Memcheck工作原理Valgrind概述Valgrind工作原理工具启动中间表示（VEX）JIT执行Valgrind回调Memcheck内存错...
2018-03-15 01:11:30
3159
原创 Linux随机数发生器
Linux随机数发生器 日期：2017-11-29 01:42:10 星期三Linux随机数发生器一、源代码的基本情况Linux内核版本涉及文件功能概述二、外部访问接口内核层输出接口用户层输出接口环境噪音输入接口三、核心源码分析随机数发生器理论熵池结构熵的加入随机数的生成启动脚本四、回答主要问题核心代码抽取初始化漏洞攻击五、参考...
2018-03-15 01:06:47
6473
3
原创 关于机器获取人类知识的思考
我们现在的知识来源，一部分是 自己探索，一部分是 通过语言、文字等方式 获取别人的知识。而现在复杂的机器学习系统都是从0或者少量人类知识（主要是体现在模型设计和数据特征处理上）开始进行数据的探索，没有其它通用的知识等。如果能在一些人类传达的知识的基础上进行机器学习，所需要的数据量将大大减少。人工智能两种实现途径：人类知识迁移 和 机器学习。而人类迁移知识两种途径：人类学会和机器沟通 和 训练机...
2018-03-11 19:21:44
454
原创 基于机器学习的TDD开发模式
ML Based TDD，即基于机器学习的测试驱动开发——人类解读需求，完善大量测试用例，然后机器根据测试用例学习和发掘里面逻辑，最后的模型就是 我们所需要的一个模块。全新的软件开发思维，用机器学习代替完成某些复杂的逻辑模块。
2017-10-29 22:42:59
501
原创 Ogre(1.9)的内存管理
Ogre(1.9)的内存管理内存管理分类在Ogre里面，（堆）内存管理分为两类： 1. 内存分配器的管理 2. 垃圾回收以下的内存管理，指的都是 堆内存的管理。内存管理的作用提高内存分配的效率，有标准库的new/delete，也有nedmalloc支持多线程的分配器，还引入了内存池，在不同平台中，使用最适合分配器来提高效率。提高引擎的可扩展性，用户可以根据系统平台的实际情况，随意更改内存分配
2016-05-22 21:20:46
958
原创 Ogre(1.9)的插件原理
Ogre(1.9)的插件原理研究目的本人研究过部分cocos2dx游戏引擎等源码，它们都是揉在一团的，要修改引擎里面的一些代码，需要重新编译整套源码。这样，引擎的可扩展性就大大降低了。Ogre这个引擎让我最吃惊的就是这个插件化的系统，渲染系统、场景管理系统 居然可以作为插件直接嵌入，还有如果要加入新的功能，也可以不需要重新编译整套源码，通过动态链接库的方式很方便地添加。更让我惊喜的是，Ogre引入了
2016-05-22 21:15:10
698
转载 make makefile cmake qmake 之区别
出自: https://www.zhihu.com/question/27455963/answer/36722992make 是用来执行Makefile的Makefile是类unix环境下(比如Linux)的类似于批处理的”脚本”文件。其基本语法是: 目标+依赖+命令，只有在目标文件不存在，或目标比依赖的文件更旧，命令才会被执行。由此可见，Makefile和make可适用于任意工作，不限于编程
2016-03-05 18:04:07
1227
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人