- 博客(439)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 Ubuntu的终端中启用鼠标左键即为选中复制，右键粘贴的功能
接下来，在“Compatibility”选项卡中，勾选“Copy to clipboard on selection”选项，这样鼠标左键选中文本即为复制，右键为粘贴。同时，也可以在这个选项卡中调整鼠标选中文本的颜色和高亮度。首先，打开终端窗口，在菜单栏中找到“Edit”选项，点击“Profile Preferences”。然后，在“General”选项卡中，勾选“Use custom font”选项，可以自定义终端中显示文本的字体大小和颜色。在Ubuntu终端中启用鼠标复制和粘贴的功能需要进行一些设置。
2024-04-16 16:05:14
386
原创 图神经网络与近似消息传递算法
该文提出了一种低复杂度的GNN增强AMP算法AMP-GNN，用于多输入多输出（MIMO）检测。GNN 模块解决了 AMP 探测器中多用户干扰消除的高斯近似不准确的问题。结果显示，与传统的AMP检测器相比，性能有了显著的提高。通过展开AMP算法的迭代去噪过程，建立了AMP-Net深度展开模型。该模型集成了去阻塞模块，以消除视觉图像压缩传感中的阻塞伪影。采样矩阵与其他网络参数联合训练，增强重建性能。有研究工作将图神经网络 （GNN） 与近似消息传递 （AMP） 算法和压缩传感相结合。
2024-04-12 16:55:47
546
翻译 图卷积网络 Semi-supervised Classification with Graph Convolutional Networks
namedGCN.在这篇文章中，我们将仔细研究一个名为 GCN 的著名图神经网络之一。首先，我们将获得直觉，看看它是如何工作的，然后我们将更深入地了解它背后的数学原理。
2024-04-11 11:07:33
28
转载 科研绘图配色
顶刊中，除了精妙的研究设计，这些简单而精妙的色彩方案也足以让文章熠熠生辉。大家对于推送内容有任何问题或建议可以在公众号菜单栏****“更多–读者的话”****栏目中提出，我们会尽快回复！，也非常欢迎大家自主投稿，如果您有需要分享的内容或对我们有任何建议，可通过后台留言、公众号菜单栏。微信公众号的推送规则发生改变（不再按照时间顺序来显示），如果没有将“观科研”设置为。是由一群北京协和医学院（清华大学医学部）的博士开创的公众号，初心是。，帮助一线的医学科研人员更快地成长，希望大家支持与关注！
2024-04-01 11:20:58
27
翻译 人工智能（AI）声学
80年代就有人通过海豚的叫声来对海豚种类进行分类，GMM被用到了齿鲸叫声频谱参数数值变化的研究，用HMM通过鸟叫来给鸟分类，用多层神经网络分类蝙蝠和鲸鱼，并识别出杀人虎鲸的叫声，方便及时跑路。通过采集动物叫声，来对他们的生物和生态方面的行为进行分类，从而鉴定某一个区域的动物分布密度，以及密度如何随时间变化，月亮圆缺如何影响动物觅食行为等。机器学习的定义想必大家或多或少都知道，可以被宽泛地定义为，无需明确指令的情况下，依赖数据中的模式和特征，通过电脑研究算法和统计模型，来完成特定任务的过程。
2024-03-31 17:43:06
32
转载 中科院半导体所：面向数字听诊和穿戴式监测的智能体音芯片
基于图4的方案完成了对智能心音异常诊断芯片的FPGA原型验证，同时基于SMIC 180 nm CMOS混合工艺完成了版图设计来评估功耗，后仿真的结果显示，在8.19 2MHz的主频下，Typical-Typical工艺角下，芯片的后仿真功耗为762 μW，面积为7.50 mm2。后仿真结果表明，智能心音异常诊断芯片的功耗为762 μW，面积为7.50 mm2，满足了可穿戴式心音异常诊断设备的高性能与低功耗的需求，为心血管疾病的早期预防和诊断提供了坚实的技术支持，有望在临床实践中产生积极影响。
2024-03-31 17:30:35
45
原创 深度学习模型参数的计算
根据神经网络模型中的参数数量估计模型体积的大小涉及多个考虑因素，包括参数的数据类型、每种数据类型的存储要求以及存储模型结构或元数据的任何额外开销。
2024-03-18 19:23:50
880
转载 Pytorch 音频分类与对比学习
COLA是应用于音频的预训练框架。对于每个音频样本，作者选出该音频样本的两个片段，一个片段作为anchor A，一个作为positive P,对于该音频样本，选出training batch中的其他的音频样本作为distractor D。有很多distractor让训练的过程变得困难，使得模型学到更有意义的表达。使用同一个batch中的其他样本作为distractor，节约了distractor的生成、计算和存储成本。
2024-02-23 16:59:19
171
转载 MSGNet: Learning Multi-Scale Inter-Series Correlations for Multivariate Time Series Forecasting
研究者以下图为例，其中在时间尺度1上，我们可以观察到两个时间序列之间的正相关，而在较短的时间尺度2上，我们可能会注意到它们之间的负相关。因此，MSGNet的引入和其在时间序列分析中的应用，特别是在捕捉不同时间尺度上的变化序列间相关性方面，为解决这一领域的重要问题提供了新的途径。时间序列数据通常表现出多样的序列内和序列间相关性，这导致了复杂且相互交织的依赖关系，成为众多研究的焦点。然而，在理解多个时间序列在不同时间尺度上的变化序列间相关性方面，仍存在重大的研究空白，这一领域在文献中受到的关注有限。
2024-02-20 09:35:28
808
转载 可穿戴数字健康技术在心血管疾病监测场景中的应用
最近，退伍军人健康管理局和心血管专科护理学术卫生系统成功地采用了这种中心模式，因为该中心模型可能比逐个诊所的实施方法更具可扩展性和更有效性，因为资源分配和技术集成更容易，员工培训简化，单点问责制， 一致的激励措施，并共同关注与远程患者监测和中心护理相关的绩效指标，以管理心律失常和心力衰竭（图 4）。例如，在心力衰竭的情况下，远程患者监测技术已经从基于单时间点体重、血压和症状评估的远程监测发展到带有植入式设备的连续传感器和智能手环、手表、贴片和衣服形式的可穿戴DHT。她的症状有所改善，体重和血压稳定。
2024-01-30 08:51:58
80
转载 深度学习时间序列
点击下方卡片，关注“脑科学与智能公众号”脑科学与智能前沿成果，第一时间送达。WWW2023为中国计算机学会交叉**/综合/新兴A类会议，也是计算机交叉学科领域最具影响力的会议之一，于北京时间4月30日至5月4日举行。许多不同的计算机学科领域都可投递WWW****，包括但不限于NLP, Data Mining, Database, IR, Internet Economics, HCI, Security等。本次共收到论文1900篇，接受了365篇，录用率仅为****19.2%**相关论文围绕时间序列预测、异
2024-01-24 21:03:36
72
转载 斯坦福开发AI算法，衡量人体器官衰老预测疾病和死亡
原文来自于 EDesk目录【Nature】血浆蛋白质组中的器官衰老特征追踪健康和疾病0 基本信息1 摘要2 导读3 血浆蛋白可以模拟器官衰老4 器官年龄预测健康和疾病5 大脑老化与认知能力下降和AD2 0 24 年0 基本信息标题： Organ aging signatures in the plasma proteome track health and disease期刊： NatureDOI： https://doi.org/10.1038/s41586-023-06802-1动物研究表明，衰老在个体
2024-01-20 18:07:26
183
转载 基于大型语言模型的医学图像交互式计算机辅助诊断
本文目标是将 LLM 的医学领域知识和逻辑推理的优势与现有医学图像 CAD 模型的视觉理解能力相结合，为患者创建一个比传统 CAD 系统更加用户友好和易于理解的系统。传统的计算机辅助诊断网络模型是基于各种计算机视觉的先进算法在大量数据上进行训练，使他们能够学习识别特定于医学领域的视觉信息中的复杂模式和关系，在医学领域的各个任务中已取得了显著性地效果。随着语言模型的不断进步，随着对更可信的医疗培训数据的访问，ChatCAD变得更加准确，ChatCAD有潜力显著提高在线医疗服务的质量。需要更好的数据集和基准。
2024-01-20 18:02:50
97
转载 时间序列分析的图神经网络（GNN4TS）
如下图所示，其展示了一个基于任务的分类法，涵盖了时间序列分析中的主要任务和主流建模视角，并展示了GNN4TS的潜力，主要在时间序列预测、异常检测、插补和分类四个类别上展现。该综述首先从任务和方法论的角度对现有的工作进行分类和讨论，然后深入探讨了GNN4TS领域内的六个热门应用领域，并提出了几个潜在的未来研究方向。该综述进行了全面的回顾，不仅涵盖了领域的广度，还深入研究了各个研究的细节，并进行了细致的分类和讨论，为读者提供了对GNN4TS领域中最新技术的了解；如上图所示，四种任务下的GNN4TS的框架。
2024-01-17 09:14:30
207
转载 TCBB|用于预测miRNA-疾病关联的深度学习方法综述:数据库、计算方法、挑战和未来方向（综述）
基于深度学习的MDA预测方法越来越多。然后，我们全面回顾了现有的48种基于深度学习的MDA计算方法，将它们分为经典的深度学习和基于图神经网络的技术。最后，讨论了不同计算方法的性能趋势，指出了目前研究中存在的问题，并提出了未来可能的9个研究方向。（2）这篇综述采用了和lncRNA-miRNA的综述相似的风格来写的：1）单独简述了每个计算方法，并给出了关键公式。（1）前年在写该篇文章的过程中发现陈兴老师发表了三篇关于MDA的综述，分别从数据库，计算方法、评价指标三个维度重新总结并更新了当下关于MDA的发展。
2024-01-11 09:17:35
96
原创 异构图 神经网络xFraud :Explaniable Fraud transcation detection
https://github.com/safe-graph/graph-fraud-detection-papers
2024-01-11 09:11:11
352
原创 深度学习分类任务中的准确率、精确率（查准率）、召回率（查全率）、F1值、ROC曲线的AUC值，
其中关于 TP, TN;FP, FN 的解释；其中;注意，此时这里的正样本代表的 是 预测属于某一类别的样本；负样本则代表预测不属于某一类别的样本。举例说来部分仓库， 与此不一致，列代表真实值，行代表预测值，需要阅读代码的时候，通过查看文档确定；
2024-01-05 20:32:35
1715
转载 使用大模型权重初始化同类型的小模型
给定一个预训练模型，Weight Selection 的目标是在同一个模型族 (model zoo) 中，为小一点的模型找到更高效的初始化，如下图2所示。将预训练的大模型称为 Teacher，小一点的模型称为 Student。堆叠很多相似的 layer 来构建最终的模型 (主要目的是为了方便模型的可扩展性)。因此，在选择 Teacher 中的权重来初始化 Student 模型时就可以借助这个特点节约很多力气。
2024-01-04 20:25:44
167
转载 SimGNN：A Neural Network Approach to Fast Graph Similarity Computation
图相似性搜索是最重要的基于图的应用程序之一，例如查找与查询化合物最相似的化合物。图相似度/距离计算，例如图编辑距离（GED）和最大公共子图（MCS），是图相似度搜索和许多其他应用程序的核心操作，但在实践中计算成本很高。作者受最近神经网络方法在几种图应用（例如节点或图分类）中取得成功的启发，提出了一种基于神经网络的新方法来解决这个经典但具有挑战性的图问题，旨在减轻计算负担的同时保持良好的性能。
2024-01-04 14:24:57
119
转载 时序图神经网络
原文出自 时序人；#TSer**#**时间序列图神经网络是一种结合了图神经网络和时间序列分析的方法，用于对动态系统中的数据进行建模和预测。与传统的时间序列模型不同，图神经网络可以有效地捕捉时间序列数据中的时序信息和模式，并进行预测和分类。作为一种新兴的研究领域，时间序列GNN具有广泛的应用前景，它可以应用于各种实际问题，如股票价格预测、交通流量预测、健康状况预测等，通过有效地捕捉时间序列数据中的时序信息和模式，进行有效的预测和分类，为各领域的决策提供支持。2023年内有关时序GNN在应用方面的研究也有了新的
2023-12-29 17:03:21
251
转载 重参架构的量化问题解决了 | 粗+细粒度权重划分量化RepVGG-A1
尽管神经网络在各种应用中取得了显著的进展，但它们需要大量的计算和内存资源。网络量化是一种强大的技术，可以压缩神经网络，从而实现更高效和可扩展的AI部署。最近，重参化作为一种有前景的技术，在同时减轻各种计算机视觉任务中的计算负担的同时，提高了模型性能。然而，在应用量化时，重参化网络的准确性会显著下降。作者发现，这个问题主要源于原始分支中权重分布的巨大变化。为了解决这个问题，作者提出了一种粗粒度与细粒度权重划分（CFWS）方法来减少权重的量化误差，并开发了一种改进的KL指标来确定激活的最优量化尺度。
2023-12-24 15:09:58
130
转载 图神经网络中的因果学习
关于公平性，因果方法，如因果干预[17]，可以通过将GNNs暴露于事实和反事实图中，减轻节点敏感属性的偏见。通过捕获局部特征和全局图结构信息，GNNs在低维表示中保留了丰富的知识，极大地促进了一系列下游应用，例如生物信息学[2]、推荐系统[3]、知识表示[4]、[5]、人才分析[6]、城市计算[7]、[8]、[9]等。从图数据中指定感兴趣的因果变量，根据某些领域知识阐明这些变量之间的因果关系，并选择适当的因果学习方法来获取因果知识以提高下游应用中的可信度，这是具有挑战性的[21]、[24]、[26]。
2023-12-24 15:07:51
366
转载 用于时空建模的图小波网络Graph WaveNet for Deep Spatial-Temporal Graph Modeling
时空数据挖掘问题大多数使用邻接矩阵来建模节点之间的属性关系，这种思路的一个基本假设是：节点信息取决于自身和邻居的历史信息。但这类模型的假设存在着一些问题：未能充分建模节点之间的依赖关系两个节点之间没有连边，但是有依赖关系两个节点虽然是邻居节点，但是没有依赖关系未能有效学习到时间的依赖关系RNN：迭代传播耗时（无法并行）、存在梯度爆炸/消失的问题CNN：需要迭代很多层，才能得到较大的感受野。
2023-12-21 15:00:53
108
转载 统一同质图和异质图的少样本图提示学习HGPrompt
不同的下游任务会关注输入图的不同特征，或者不同的异质性信息。实验结果证明，HGPrompt 的表现优于所有基线模型，证明 HGPrompt 能有效统一预训练中的同质图和下游任务中的异质图，从而将预训练知识释放到下游任务上。接下来，为了统一不同任务，我们主要遵循 GraphPrompt 的方法，通过将不同的任务实例转换为子图，并使用子图相似性计算作为通用的任务模板。在本文中，我们提出 HGPROMPT，一种新颖的预训练和提示学习框架，不仅统一了预训练和下游任务，还通过双模板设计统一了同质和异质图。
2023-12-21 14:48:20
69
转载 图神经网络的应用
在下面的架构中，句子中的单词是用单词嵌入来编码的。在下面的模型中，它在原始文本上滑动一个三个单词的窗口，以创建单词图。为了利用本体论，我们通过将嵌入的eᵢ与其父节点结合使用，学习出一个为节点cᵢ嵌入的网络gᵢ。例如，下面的第一行包含的对象与左侧的预期图像查询截然不同，尽管它们在视觉上是相似的。句子中的单词可以被建模为图中的节点，我们可以计算每个节点的隐藏表示，并使用它来标记序列(序列中的单词的标签)。像激光雷达这样的3D扫描仪会产生3D点云，一种带有坐标的3D空间中物体的表示，以及可能的颜色信息。
2023-12-20 09:21:39
38
转载 MoE 论文阅读OUTRAGEOUSLY LARGE NEURAL NETWORKS: THE SPARSELY-GATED MIXTURE-OF-EXPERTS LAYER
原文出处Moe，是Mixture-Of-Experts的缩写，可以在保证运算速度的情况下，将模型的容量提升>1000倍。MoE（Mixture of Experts）层包含一个门网络（Gating Network）和n个专家网络（Expert Network）。对于每一个输入，动态地由门网络选择k个专家网络进行激活。在具体设计中，每个输入x激活的专家网络数量k往往是一个非常小的数字。比如在MoE论文的一些实验中，作者采用了n=512，k=2的设定，也就是每次只会从512个专家网络中挑选两个来激活。
2023-12-18 18:53:46
281
原创 门控融合网络 (GFN) 和混合专家 (MoE)
门控融合网络 (GFN) 和混合专家 (MoE) 都是神经网络中使用的架构，特别是用于处理需要组合来自多个来源或模型的信息的复杂数据和任务。
2023-12-14 11:34:52
2588
转载 Few-shot learning- Siamese neural networks
原文出自这里这篇文章主要介绍的是Siamese Neural Network经典论文：。神经网络能够取得非常好的效果得益于使用大量的带标签数据进行有监督学习训练。当我们只有少量带标签的数据时如何训练出一个泛化性很好的模型呢？因此，few-shot learning问题应用而生。Few-shot learning仅需要每个类别含有少量带标签数据就可以对样本进行分类。Gregory Koch等人提出了一种新的机器学习框架，当每个待测类别仅有1个样本的时候也能取得超过90%的识别准确率。
2023-12-12 18:00:30
50
转载 Prototypical networks for few-shot learning
这篇论文是介绍《作者公布了他的Pytorh。如果看不太懂原作者的代码话可以看一下这一个：https://github.com/orobix/Prototypical-Networks-for-Few-shot-Learning-PyTorch。
2023-12-12 17:54:20
84
翻译 少样本学习概念介绍
人类非常擅长通过极少量的样本识别一个新物体，比如小孩子只需要书中的一些图片就可以认识什么是“斑马”，什么是“犀牛”。在人类的快速学习能力的启发下，研究人员希望机器学习模型在学习了一定类别的大量数据后，对于新的类别，只需要少量的样本就能快速学习，这就是 Few-shot Learning 要解决的问题。Few-shot Learning 是 Meta Learning 在监督学习领域的应用。
2023-12-12 16:34:37
241
原创 pytorch 中 drop_last与 nn.Parameter
在使用深度学习，pytorch 的DataLoader 中，drop_last=True ：DataLoader 中的此设置会删除不完整的最后一批（如果它小于指定的批量大小）。这确保了训练期间处理的每个批次包含相同数量的样本。
2023-12-11 11:27:23
417
原创 图神经网络的学习资料
https://graph-neural-networks.github.io/index.htmlhttps://github.com/matenure/GNNbook_relatedhttps://github.com/FighterLYL/GraphNeuralNetworkhttps://github.com/topics/graph-neural-networks
2023-12-11 09:44:03
46
转载 增量学习介绍
在此基础上，Class-incremental learning: survey and performance evaluation (2020)[36]在多个数据集上对最新的一些增量学习方法进行了综合对比，作者发现在基于正则化的增量学习中，最早提出的LwF算法的表现是相当稳健的，许多后续改进的方法在一些条件下反而不如LwF算法，另外基于数据约束的方法(LwF)实际上通常比基于参数约束的方法(EWC)表现得更好，然而目前人们的研究注意力是偏向后者的。
2023-12-08 09:03:47
70
转载 可解释网络
①不做事后解释（上篇博文中有介绍）区分了可解释性高的机器学习模型和决策风险高的黑匣子模型，说明了事后解释存在的问题，并定性地说明了可解释性与精确度之间的关系，寻找二者之间的一个平衡。为创建真实可解释模型的技术的重要参考（逻辑模型与计分系统）。②ProtoPNet网络参考了上篇论文提出的技术参考（逻辑角度与相似度评分）构建模型。
2023-12-08 09:00:36
45
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人