自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(75)
  • 资源 (1)
  • 收藏
  • 关注

原创 《知行合一王阳明》读书笔记

《知行合一王阳明》用通俗易懂的语言介绍了王阳明一生的传奇经历和他的心学的核心思想。这篇读后感主要介绍一下我对心学的理解。在我看来,心学最本质的要求是“致良知”,最核心的方法论是“知行合一”。致良知是说要遵从自己的本心。王阳明相信人性本善,这一点跟孟子是相通的,王阳明认为即使是盗贼也会将自己的行为解释为善的方式,甚至日本鬼子也会说自己是为了“大东亚共荣”,这说明他们也有善的本心。既然每个人都有一个善的本心,也就是“良知”,那么我们只要简单地遵从这个良知就可以了。

2023-02-08 15:53:00 847

原创 李宏毅《机器学习》课程笔记(作业十一:GAN)

GAN包含辨别器和生成器,是一个对抗的关系,用adversarial。是无监督的学习方式。可以将其看成老师和学生的关系。注意辨别器和生成器是轮流训练的,输入是一个随机的向量,最后的输出是一个标量。训练一个的时候把另外一个固定住不更新梯度值。对于辨别器,优化目标是两个部分,使得真实图像得分高而生成的图像得分低。结构化学习,输出不再是一个简单的向量,而是一个句子,一张图片或者一棵树等等。One-shot learning, 如果我们把每一张图片看做一个class,所以每个类别只出现一次,有些甚至

2020-05-12 12:33:28 1392

原创 李宏毅《机器学习》课程笔记(作业十:异常侦测)

我们在test的时候,让机器自动的知道这个东西跟训练集里的数据是类似的还是不类似的。我们无法把异常的资料视为一个类别,因为异常的东西类型太多了,而且异常的资料太难收集到了。可以在输出类别的时候同时输出一个信心分数,如果高于一个信心分数,就可以判断是正常的数据。可以用分类时分布中最大的那个值直接作为信心分数。或者可以用墒。虽然很简单,但是往往不弱。也可以直接输出一个信心分数,可以参考文献。在异常侦测里面,准确率不是一个好的评估方法,所以需要一个好的评估方法,没有一般性的方法,可以用AUC。

2020-05-12 12:32:36 363

原创 李宏毅《机器学习》课程笔记(作业九:无监督学习)

Kmeans方法,先初始化K个中心,每次都把每个元素归类到最近的类,再更新中心,再更新分类。HAC的方法,有点类似,把最近的pair取平均作为新的data,然后搞成一个树,再在树上切一刀来分类,好处是不需要先决定K。PCA有了新的的理解,其实是贪心地找使得variance最大的那个w,之后通过这些w的线性组合就可以了。PCA也是个降维的方法,他能够使得复原出的向量跟输入的向量最接近。其实相当于一个单隐层的神经网络,但是因为它各个维度是互相垂直的,所以会比梯度下降求出来的更好。PCA找出来的可能不是一

2020-05-12 12:32:00 517

原创 李宏毅《机器学习》课程笔记(作业八:seq2seq)

怎么样生成一个有结构的东西。可以用RNN依次产生序列的元素。在智能对话等等场景中,是”有条件的生成“。核心的思路是用一个encoder把输入变成一个vector,再用一个decoder输入这个vectorAttention就是一种动态的条件生成网络。待后续补充...

2020-05-12 12:31:28 938 1

原创 李宏毅《机器学习》课程笔记(作业七:模型压缩)

有多种模型压缩的方法。第一个是网络剪枝,因为神经网络往往是过度参数化,所以删掉一部分网络参数。先训练好一个大的神经网络,然后评估每个参数是否重要,评估方法其实就是看是否接近0。然后把不重要的东西移除。用新的网络重新训练一下,update一下参数,可以把损伤移除。注意一次不删掉很多,怕恢复不回来,所以迭代地删除参数。那么为什么不直接训练一个小的神经网络呢?因为小的神经网络比较难训练。大的NN比较好优化。有个大乐透假设,每个小的网络是复式彩票中的一个,所以容易训练出来。是删除权重好,还是删除神经元。

2020-05-12 12:30:46 525

原创 李宏毅《机器学习》课程笔记(作业六:对抗攻击)

为了将机器学习在实际生活中应用上,需要考虑一些恶意攻击。无目标攻击:攻击的时候,固定模型参数,希望调整输入数据,使得效果越差越好有目标攻击:不仅跟原来的答案越远越好,而且要跟希望的错误答案越接近越好限制是我们输入的攻击的数据跟正常的数据非常接近。那么怎么找输入数据呢?还是用梯度下降。考虑距离限制以后需要一个修改版的梯度下降,每次做了梯度下降以后判断是否符合距离条件,如果不符合等比例缩小就可以了。FGSM是一种很简单的方法,直接对输入数据x做梯度下降,然后对每一个维度取梯度的signal作

2020-05-12 12:29:35 712

原创 李宏毅《机器学习》课程笔记(作业五:可解释的人工智能)

可解释的人工智能有两种方案,一种是局部的可解释性,一种是全局的。局部的方案的一种想法,把一个图片用灰色的方块蒙上一块,看是否还能识别出来,这个时候要注意方块的大小甚至颜色都可能有影响。另一个想法是,把一个输入feature做。一点点小的调整,看输出数据的变化大小,据此来判断什么输入feature比较重要,其实就是偏微分。这样可能出现饱和的问题,大象鼻子的问题,可能发现不了重要的feature。这两种方法都是有可能出现恶意攻击的。全局解释的方案是这样的,我们希望知道一个模型他心里最典型的猫长什

2020-05-12 12:29:05 814

原创 李宏毅《机器学习》课程笔记(作业四:RNN)

RNN和半监督学习需要后面补上。word embedding是想做一个什么事情呢,是希望把词汇用一个比较短的向量表达出来,因为通常的词汇的表达是通过一个非常长的(词典那么长的)1-of-N向量来表达,这样的表达没有信息,我们希望能用一个短向量(例如10或100维)来表达词汇,就需要每个维度表达一些信息,希望含义相近的词汇他们的向量也比较接近。这是一种无监督学习。那么怎么做呢?有两种方式,一种是基于计数的,一种是基于预测的。基于计数的就是看两个词汇同时出现的次数,用两个向量的内积与这个..

2020-05-12 12:28:33 989

原创 李宏毅《机器学习》课程笔记(作业三:反向传播)

深度学习里面的梯度下降中,在计算梯度的时候有两个过程,分别是前向过程和反向过程,很容易理解。然后在用sigmod作为激活函数的时候,会出现梯度衰减的问题,导致第一层还只做了一点点梯度下降的时候最后一层已经训练好了。为了解决这个问题,2006年最早的文章使用PRM来逐层训练,成功避免了这个问题。但是这样非常复杂。后来hilton提出了一个新的方法,使用ReLU,变成了线性的激活函数。虽然单个神经元是linear的,但是不同的值导致active的神经元不太一样,所以整个网络还是nonlinear的。

2020-05-12 12:27:48 331

原创 李宏毅《机器学习》课程笔记(作业二:分类)

为什么不能直接用回归的方式来做分类的问题,因为在回归里面,可能同一类里面的样本点他们的feature差异很大,但是lable都是1,这就要求求出来的model兼顾所有的样本点,那么可能导致model性能较差。下图表现的非常清晰。在做分类的时候,用到贝叶斯公式,可是公式中的P(x|C1)应该怎么算呢?因为面对一个新的x的时候训练数据里没有。这个时候我们把训练数据假设是一个高斯分布得到的,所以找出最优(最大可能性)的高斯分布,再去计算新的x产生的概率。有趣的是,这里用到的并不是真正意义上的“概率”,而是

2020-05-12 12:27:03 595

原创 《富爸爸穷爸爸》读书笔记

==========富爸爸穷爸爸 (罗伯特)- 您在位置 #519-522的标注 | 添加于 2020年4月8日星期三 上午12:52:02别担心,你只须知道,正是出于恐惧心,人们大多害怕失去工作,害怕付不起账单,害怕遭到火灾,害怕没有足够的钱,害怕挨饿,大多数人期望得到一份稳定的工作。为了寻求稳定,他们会去学习某种专业,或做生意,拼命为钱而工作,大多数人成了钱的奴隶,===...

2020-04-27 19:12:45 159

原创 李宏毅《机器学习》课程笔记(作业一:线性回归和梯度下降)

正则化regularization的目标是使得学出来的模型比较“平滑”,也就是说对输入的数据不敏感,所以如果输入的数据加入了一定的噪音,对输出的值的影响就比较小。陆吾生的解释是,加入正则化以后,我们就更愿意放弃高阶函数,选择低阶的函数,而低阶的函数在面对新的数据的时候可能具有更好的能力。正则化的时候是不需要加上b的,因为b对于模型的平滑程度是没有影响的。estimator有bias和v...

2020-03-17 18:52:35 346

原创 《寄生虫》观后感

《寄生虫》是一部很刺激的电影,全程让人精神紧绷,逻辑清晰,情节连贯,太有意思了。最让我感慨的是凶杀现场因为朴社长捏鼻子被宋康昊杀死的那一幕,太真实了,对于一个富人来说,他的一切行为都很正常,味道确实很大,捏着鼻子并无不妥。但是对于金司机来说,他被唤起了自尊心被伤害的记忆,他意识到社会太不公正了,那种屈辱让他对朴社长动了刀子。整部片子对气味的描写花了很多的笔墨,是的,气味是一个能很轻易辨识不...

2020-03-02 23:09:16 737

原创 《雅舍谈吃》读书笔记

原始人吃东西用手抓,比不会用手抓的禽兽已经进步很多,而两根筷子则等于是手指的伸展,比猿猴使用树枝拨弄东西又进一步。淮扬的菜能独树一帜,那是因为当年盐商集中在那一带,穷奢极侈,烹饪自然跟着讲究。豫菜也曾盛极一时,那是因为河工人员缺肥,虚糜无已,自然要享受一点口腹之欲。“吃在广州”,早已驰誉全国,那是因为广州自古为市舶之所,海外贸易的中心,所以富庶的人家特多,当然席丰履厚,直到如今广州的菜场特多,...

2019-12-31 22:29:33 529

原创 《海边的卡夫卡》读书笔记

“古时候,世界不是由男和女、而是由男男和男女和女女构成的。就是说,一个人用的是今天两个人的材料。大家对此心满意足,相安无事地生活。岂料,神用利刀将所有人一劈两半,劈得利利索索。结果,世上只有男和女,为了寻找本应有的另一半,人们开始左顾右盼,惶惶不可终日。” “神为什么做那样的事情呢?” “把人一劈两半?这——,为什么我也不知道。神干的事情基本上都让人捉磨不透。动不动就发脾气,又有时过于——怎么说呢...

2019-12-02 20:29:10 469

原创 CVXPY 安装错误的问题

最近装cvxpy怎么都有错误,百度了很多个方法都不行,然后谷歌了一个,发现个官方网页,里面建议的安装命令是这个:conda install -c cvxgrp cvxpy然后就好了哈哈哈哈哈哈...

2019-10-26 13:26:54 2484 4

原创 《大学之路》读书笔记

《大学之路》是著名的自然语言处理专家吴军博士的一本大作,承接之前的《数学之美》《浪潮之巅》《文明之光》,都是一样的兼具作家的视野和文笔以及理工专家的严谨和精确。这样的文字风格很得我心。这本书先是介绍了现代大学的历史演进,接着介绍了作者自己的大学轨迹,然后分章节介绍了英国和美国的多所著名私立大学,让读者能够基本了解美国大学的全貌。读这本书的时候我重点关注的是中美大学的差距在哪里,读罢我想主要...

2019-06-11 00:28:09 799

原创 《鱼翅与花椒》读后感

《鱼翅与花椒》是外国人写的在中国关于“吃”的见闻,有很多我们从来没有想过的问题,所谓当局者迷,旁观者清。有几个有意思的点,在汉语里面,“动物”是表示“会动的物体”,而英文里面“animal”却是从拉丁文“生灵”衍生来的,所以可见两种文化对待动物的观念上的巨大区别了。还有个点,作者说到广东的“点心”,他说这个词很难直接翻译成英文,如果从字面意思来看是”触动人心“的意思,哇,我们可能从来都不会...

2019-05-19 23:04:19 1868

原创 五一金华旅游见闻

古人说,读万卷书,行千里路,所以姑且把读书和旅游的感想放在一起吧。这次旅游的行程是从杭州到义乌,参观义乌商贸城,再去横店,参观清明上河图,接着去金华,参观了浙江师范大学,跟一个小姐姐吃了饭,再然后参观了金华的侍王府和附近的一些景点,最后买了些金华火腿回到了杭州。行程匆忙而又佛系,增长了不少见识。首先是从杭州出发时就出了幺蛾子,由于起床的时候懒懒散散,错过了公交的末班车,最后只好无奈买了个硬...

2019-05-04 18:17:13 344

转载 python中的网络通信

转载自https://blog.csdn.net/sinat_36645384/article/details/79128137,之前看了很多都没有懂,看了这个是真的懂了。概述在我们平时生活工作中,常常会接触到网络通信的内容,不管你是普通的用户,还是通信行业内的开发人员,都无法避免与网络通信打交道。我在初步学习python的过程中,对python的网络通信问题做了总结,所以写...

2019-04-09 20:31:25 793

转载 python的各种数据类型

https://blog.csdn.net/a373595475/article/details/79580734这个链接讲的非常明白

2019-04-02 19:54:52 156

转载 Adam优化算法理解

Momentum是为了对冲mini-batch带来的抖动。RMSprop是为了对hyper-parameter进行归一,均方根反向传播(RMSProp)。这两个加起来就是Adam看原始的RMSProp算法:再看算法:其实就是Momentum+RMSProp的结合,然后再修正其偏差。---------------------作者:BigCowPeking来源:C...

2019-03-25 10:49:35 2235 1

原创 《平凡的世界》读后感

孙玉厚坐在这里,心里忍不住感慨万端:十五年前,他为弟弟的婚事,就是这样难肠地到别人门上去借钱。十五年后的今天,他又为儿子的婚事来向别人借钱了,庄稼人的生活啊,什么时候才能有个改变呢?从古到今,人世间有过多少这样的阴差阳错!这类生活悲剧的演出,不能简单地归结为一个人的命运,而常常是当时社会的各种矛盾所造成的。钱是好东西,它能使人不再心慌,并且叫人产生自信心。是的,这是一个征兆。随着秀莲进...

2019-03-24 23:54:55 13695

转载 python网络通信socket学习

这篇博客讲的非常好:https://blog.csdn.net/m0_37717595/article/details/81101895

2019-03-21 15:28:52 156

原创 跑tensoflow_federated要注意的问题

1.遇到eager execution报错tf.enable_eager_execution()2. 遇到/usr/lib64/libstdc++.so.6: version `CXXABI_1.3.9' not found 报错LD_LIBRARY_PATH=/usr/local/lib64/:$LD_LIBRARY_PATHexport LD_LIBRARY_PATH...

2019-03-13 12:50:24 139

原创 《哲学家们都干了些什么》读后感

上帝既然知道亚当和夏娃会偷吃禁果,为什么一开始不去阻止他们? 奥古斯丁的解释是,关键在于自由。上帝给了亚当和人类自由意志,所以也必须让人类拥有作恶的可能。更具体地说,上帝是善的,而上帝的善表现在上帝对人类的行为要进行公正的赏罚。那么既然要赏罚,前提就是人类必需拥有自由意志,必须能自己选择行善还是作恶,否则人类就不应该对自己的行为负责。世上万事万物都要有另一个事物作为它的原因。那么必然...

2019-02-27 22:23:00 2861

原创 《大明王朝1566》观后感

《大明王朝1566》是一部非常好的电视剧,反映了官场之复杂。其中有各个级别的官员的博弈,各个派别的博弈,朝廷与地方的博弈,以及短期利益与长期利益的博弈等等,云波诡谲,非常好看。海瑞是其中的主角,一个小芝麻官装了剧中大部分的逼,他凭借的是什么,仅仅是法律罢了,一部大明律例让他连皇帝的命令都敢违背。可见拿起法律的武器是多么重要啊。剧中很多的情节在生活中都似曾相识,因为人心都是一样的,怎么样揣度...

2019-02-18 15:39:22 2106

原创 《亲密关系》读后感

可以想见,考虑到女性的繁殖能力有限,那些认真挑选配偶的女性祖先繁殖就更为成功(她们有更多的孩子存活下来,又去繁殖自己的孩子),而那些挑选配偶不太认真的女性祖先繁殖就没有这么成功。男性刚好相反,那些追求和利用每一次交配机会的乱交式的男人繁殖就更为成功。所以,当今的妇女——正如这一演化学理论所预测的那样——在选择性伴侣时比男性谨慎得多。空间上的临近也使两个人更可能相遇,彼此变得更加熟悉。俗语云“亲...

2019-02-16 22:46:36 2087

原创 《大江大河》观后感

《大江大河》是《欢乐颂》的原作者阿耐的又一部力作,波澜壮阔地展现了七八十年代生活的巨大变化和几类典型的人物命运。有考上大学成为国企精英的宋运辉,有退伍后带领村民建立企业走向富裕的雷东宝,还有从卖馒头起家的个体户小杨巡。演员的演技很棒,剧情逻辑也非常清晰,看得出来作者是深入地经历过那个时代的大历史的。这部剧感人至深的地方有几个,第一个是宋运萍和宋运辉的姐弟亲情,姐姐为了弟弟上大学自愿放弃了上大学...

2019-02-15 14:08:13 648

原创 《自控力》读书笔记

 想要做到自控,你就得在关键时刻明确自己的目标。这就是“我想要”的力量。 意志力就是驾驭“我要做”、“我不要”和“我想要”这三种力量。注意力分散的人更容易向诱惑屈服。比如,让正在背诵电话号码的学生从食品车里拿些食品,他们选择巧克力蛋糕、不选择水果的概率会比一般学生高50%。如果你心里在想其他事,那么冲动就会主导你的选择。请至少选一天,把你作的决定都记下来。在这一天结束的时候,回想你...

2019-01-15 13:41:36 614

原创 机器学习入门

线性回归和逻辑回归线性回归很简单,就是用一条直线来表达,给出x预测y,怎么样找到最好的一条直线呢?用最小二乘法,表达出预测值到给定值的距离平方和。然后最小化这个值,用的方法就是求偏导,得到参数值。这就是线性回归。逻辑回归(对数几率回归)是说我输入一组x,给出她属于一个分类的概率。所以逻辑回归只能处理二分类问题。用的是sigmod函数,然后优化一个总的正确的概率,用最大似然法可以求出来。...

2018-12-09 21:24:28 169

原创 《非暴力沟通》读书笔记

这本书关注人的感受和人的需要,我第一次感到这两者有多么重要。我们应该坦诚地说出我们的感受和我们的需要,这并不是一件令人羞耻的事情,我们理应尊重我们自己的感受和需要,只有这样我们才能进一步去关注其他人的感受和需要,然后拥有发自内心的爱。对自己和他人的感受与需要的关注可以让我们不屈服于他人的评判,我们不需要因为他们的评判而感到羞愧或者内疚,我们只需要自己内心最深处的感受,这种感受才是真实的。...

2018-11-26 23:31:35 1789

原创 《斯坦福极简经济学》读书笔记

 很多经济取舍都有一个特色:它能帮助某些人,却同时伤害了其他人。经济学家关心的是统计受到伤害或帮助的所有人,而不只是新闻报道里的几张脸孔。自利(self-interest)是组成社会的有效方式。如果你问一些人:“假如这个社会上每个人的行为都十分自私,会发生什么事?”他们大多回答会造成混乱。但很多日常市场交易都仰赖自利,借由追求自身的利益,他频繁地促进了社会利益,比他认真设想促进社会利益还有...

2018-11-21 20:48:33 1897

原创 《我的前半生》读书笔记

只有乳母告诉过我,别人和我同样是人。不但我有牙,别人也有牙,不但我的牙不能咬铁砂,别人也不能咬,不但我要吃饭,别人也同样不吃饭要饿肚子,别人也有感觉,别人的皮肉被铅弹打了会一样的痛。现在事情竟然发展到不但祭不了祖宗,而且还要换个祖宗,我自然更加不好受了。那时我尚有自己的纲常伦理,还有一套自我宽解的哲学:我先是把自己的一切举动看做是恢复祖业、对祖宗尽责的孝行,以后又把种种屈服举动解释成“屈蠖...

2018-10-27 22:04:41 3137

原创 《孩子,你慢慢来》和《天长地久》读书笔记

飞飞出世,我开始了解什么叫命运。从同一个子宫出来,出来的一刻就是两个不同个性的人。安安吸吮时穷凶极“饿”,飞飞却慢条斯理。因为是第一个孩子,曾经独占父母的爱和整个世界而后又被迫学习分享,安安的人生态度是紧张的、易怒的、敏感的;也因为是老大,他是个成熟而有主见的人,带领着小的。而飞飞,既然从不曾尝过独占的滋味,既然一生下来就得和别人分享一切,他遂有个“随你给我什么”的好脾气;他轻松、快乐、四肢发达而...

2018-10-07 13:37:52 901

原创 《菊与刀》读书笔记

美国人并未期望每个战俘都会作出这样彻底的转变,因为这与我们的规范不相符。但日本人的行为方式好像是:一旦确定了一条行动路线,就全力以赴去做;如果失败了,就很自然地再选择另一条道路。日本人对秩序和等级制的信赖方式如同美国人对自由和平等的信仰一样,虽然这两种事物看上去如同南北两极一般。甚至在现在的中国,一个人也必须效忠整个宗族。宗族对成千上万的成员进行管理,它也获得每个成员的支持。但在日本,只有...

2018-10-04 13:36:42 2876

原创 《康熙王朝》观后感

一个人的强大,不在于他征服了什么,而在于他能承受什么。这句话是柴静的《看见》里的,但是用来形容康熙却是再合适不过了。康熙的一生主要是在征服的,征服鳌拜,征服吴三桂征服台湾,最后征服葛儿丹,文韬武略,确实不错,但是我看到的却是他心理承受能力的增长。鳌拜不可一世的时候,抓着小康熙的手要求惩治苏克萨哈,小康熙立刻害怕了,让人抓了苏克萨哈。后来意识到鳌拜抓自己的手也不过是吓唬,并不敢用力,孝庄太后直接斩了...

2018-09-11 22:55:37 1641

原创 《亲爱的安德烈》读后感

《亲爱的安德烈》是龙应台在孩子成年后写的一部通信集,她与儿子讨论了很多话题,包括国家,民族,政治,情感,音乐,文化甚至是穿衣品味,尤其是从多个方面阐述了自己和孩子的教育经历,试图找到两个人价值观的源头。读来非常感动,有情节把我感动哭了,至少一年没有哭过了。龙应台的孩子是幸运的,不仅能享受极好的经济条件和教育条件,能小小年纪走遍半个地球,更重要的是有一个心态开放的母亲。他们能从方方面面展开去,互...

2018-09-01 14:36:52 6159

原创 《看见》读后感

痛苦就是痛苦,对痛苦的思考才是财富。您认为媒体有偏见,是的,可能媒体会有偏见,世界任何一个国家都这样,但纠正偏见的最好方式就是让意见市场流通起来,让意见与意见较量,用理性去唤起理性。法律不是一个道德或是伦理问题。它的作用是制定规则,规则的意义不在于告诉社会成员如何生活,而是告诉他们,在规则遭到破坏时,他们可以预期到会得到什么。我提到心理医生说有的人为什么要拼命吃东西,因为要抑制自己表达...

2018-08-30 14:59:22 2207

统计物理中的蒙特卡罗模拟方法

详细介绍了蒙特卡洛算法思想及其在统计物理学中的应用

2015-01-27

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除