Cocolada 的博客

原创 【论文小记】Griffin

右半边是循环网络结构。Temporal Conv1D 和 RG-LRU 都是RNN结构。这是比较常见的MLP实现形式。- （实验表明）在训练token数较少的情况下能获得不错的效果；基础想法：用RNN类的结构替换Transformer结构。的代码，但与这里介绍的Griffin相通）具体形式在文章内没详细介绍。的计算形式为（文章附录有说明）左半边与(b)相同，组成门。表达形式，非严谨，仅供参考。带有门结构的循环网络模块。这不是我们熟悉的一维卷积。文章正文提到的实现为,这是TCN， 可参考。

原创 【论文小记】Qwen-VL

该文为阿里的 Qwen 系列的视觉拓展。以下仅为个人理解，请以原文为准。

原创 【论文小记】mPLUG-Owl2

以下内容仅为个人理解，一切以原文为准。领域：多模态大语言模型；

原创 【小工具】基于LLAMA 的Python简易服务端

基于LLAMA，搭建简易版本Python服务端，以提供API服务。

原创 【小工具】复制网页的表格到Markdown

在写Markdown笔记的时候，有可能碰到从网页复制表格的情况。为了提高效率，开发一款小工具用于转换HTML表格到Markdown表格。实现效果：自动读取剪切板的html文本，处理完后写到剪切板。

原创 分享一个Python配置管理方法 – 综合配置文件，argparse，传参

最近在写Python代码的时候发现自己的配置项非常混乱，有来自配置文件的，有来自argparse的，有来自函数传参的还有来自全局变量的。混乱的配置严重影响写代码的效率。于是想把配置项统一管理起来。分析后发现，我们可以根据配置文件生成一个类和argparse配置项，写入Python代码文件。编辑器可以跟据这个类提供的信息生成代码提示，方便开发。由于配置文件可能会被修改，我们加入文件监视。当配置文件有改动的时候，自动生成目标脚本。

原创 LaTeX 文档与实验记录同步

有实验记录文件，想把实验记录写到LaTeX文档。但手动把实验记录敲到文档内工作量大且繁琐。如果重跑实验，更新了实验记录文件，就不得不再次手动输入，徒增工作量。有没有办法减少这种意义不大的重复劳动？只要有数据就自动（或简单的命令）同步到LaTeX文档。...

原创 HDP-book Exercise 2.5.1

HDP-book Exercise 2.5.1高维概率练习 2.5.1题目Exercise 2.5.1 (Moments of the normal distribution). Show that for each p≥1p \ge 1p≥1, the random variable X∼N(0,1)X \sim \mathcal{N}(0, 1)X∼N(0,1) satisfies∥X∥p=(E∣X∣p)1/p=2(Γ((1+p)/2)Γ(1/2))1/p\| X \|_{p} = (\mat

原创 HDP-book Exercise 2.2.9 and 2.2.10

HDP-book Exercise 2.2.9 and 2.2.10高维概率 练习 2.2.9 和 2.2.10题目 2.2.9Exercise 2.2.9 (Robust estimation of the mean). Suppose we want to estimate the mean μ\muμ of a random variable XXX from a sample X1;⋯ ,XNX_1; \cdots, X_NX1​;⋯,XN​ drawn independently from

原创 神经网络中的误差

原创 HDP-book Exercise 2.2.8

HDP-book Exercise 2.2.8高维概率 练习 2.2.8 讨论题目Exercise 2.2.8 (Boosting randomized algorithms). Imagine we have an algorithm for solving some decision problem (e.g. is a given number ppp a prime?). Suppose the algorithm makes a decision at random and returns

原创 记录 Ubuntu 下 Audio Jack(耳机插孔) 引起的 kworker CPU 高占用Bug

记录 Ubuntu 下 Audio Jack(耳机插孔) 引起的 kworker CPU 高占用 Bug首先说明， 这里使用到的系统为Ubuntu 18.04 LTSUbuntu 20.04.1 LTS还有的就是，只有某些机器会出现这个现象。事情是这样的， Cocolada在戴着耳机听歌的时候，偶尔看一下 top， 发现kworker/3:2+events在疯狂占用CPU资源。而且好像没有任何停止的迹象。sudo kill 也关不掉。这非常异常！！是配置出错？还是电脑中毒？或者是root

原创 Jupyter Notebook 疯狂循环某个 Cell

Jupyter Notebook 疯狂循环某个 Cell事情是这样的，Cocolada 要不断运行 Jupyter NoteBook 中的某一个 Cell。于是，每次都要 Ctrl + enter。终于有一天， enter 坏了。要是能自动循环该多好！方案 1加一个 While True: 然后整个Cell缩进一个tab。 /(ㄒoㄒ)/~~方案 2自定义 magic。首先，引入 IPython 的包 IPython.core.magic然后，定义magic函数。其中 line 是 %%lo

原创 在 Go 中使用 assert 风格的单元测试

在 Go 中使用 assert 风格的单元测试Go 语言提供很好的单元测试功能。单元测试只需新建一个以 “_test.go” 结尾的文件。假设有两个函数需要测试， 如：func add(a, b int) int { return a + b}func magicFunction(a int) int { return a << 3}测试文件可以如下：func T...

原创 Sublime Java 环境配置-实现Java程序编译、运行

Sublime Java 环境配置-实现Java程序编译、运行