- 博客(91)
- 资源 (47)
- 收藏
- 关注
RSS订阅原创 贝叶斯优化及其python实现
通过对先前的经验反复迭代更新当前参数的概率分布，从而找到最佳参数的方法，就是贝叶斯优化。这种方法不断地使用当前最佳估计，尝试下一个点，并使用新的观测数据进行调整，这样每次使用的点都会更加有效，从而加快寻找优化的速度。使用贝叶斯优化进行参数优化时，我们需要将优化目标定义为一个函数，在这个例子中是rfc_cv。接下来，我们定义我们的参数空间，并使用贝叶斯优化器对参数进行迭代优化。基本思想是将我们在过去的观察和体验，传递到下一个尝试中，从而在等待数据的反馈时，逐渐提高任务的成功率。
2023-03-09 21:04:07
1901
1
原创 XGBoost（eXtreme Gradient Boosting）
XGBoost 的基本原理和 Gradient Boosting 类似，都是采用加法模型的形式来建立基本分类器集合，不过和普通的 Gradient Boosting 不同的是，XGBoost 通过对损失函数进行二阶泰勒展开并采用新的代价函数，引入了正则化项，增加了模型的鲁棒性，避免过拟合，并且引入了特征子采样和使用列存储块来减小计算开销，大幅提高了算法在大量数据下的效率。fm = np.log(Pm / (1 - Pm)) + 0.5 * np.log((1 - Pm) / Pm) # 计算更新值。
2023-03-08 23:21:22
483
原创 Le-Net、AlexNet、VggNet、googlenet、Resnet的发展与区别
Le-Net、AlexNet、VggNet、googlenet、Resnet的发展与区别
2022-08-18 21:40:48
1813
原创 传统开放集识别方法
1-vs-set(定义，风险最小化问题，二分类隔板1-vs-set svm)W-SVM（多分类，CAP,匹配和非匹配EVT，RBF核保证风险有界）EVM：引入距离到极值理论中，类似于对抗代换点的概念，也有有限开放空间风险。SENCForest：引入完全随机树SENC-MaS：Class Matrix Sketching用低秩矩阵来近似原始信息，降低复杂度GPD+GEV: 改进EVM的部分缺陷，克服EVM已知类和未知类的几何形状不同时的开放集识别任务HFCN and HPLS:？非主流方法LACU-SVM：L
2022-06-30 22:19:46
760
原创 Automatic Open-World Reliability Assessment
摘要在开放世界中的图像分类必须处理OD（Overtof-distribution）图像。系统最好能拒绝OOD图像，否则它们会映射到已知类别的顶部并降低可靠性。使用能够拒绝OOD输入的开放集分类器会有帮助。然而，开放集分类器的最佳精度取决于OOD数据的频率。因此，无论是标准分类器还是开放集分类器，重要的是能够确定世界何时发生变化，增加OOD输入将导致系统可靠性降低。然而，在操作过程中，由于没有标签，我们无法直接评估准确性。因此，这些分类器的可靠性评估必须由人类操作者来完成，由于网络不是100%的准确，所以一些
2022-06-24 20:25:00
764
原创 Multi-Task Curriculum Framework forOpen-Set Semi-Supervised Learning
摘要。半监督学习（SSL）已经被提出来，当只有有限的标记数据可用时，可以利用未标记的数据来训练强大的模型。虽然现有的半监督学习方法假设标记数据和未标记数据中的样本共享它们的类别，但我们解决了一个更复杂的新场景，即开放集的半监督学习，其中未标记的数据中包含了非分布式（OOD）样本。我们提出了一个多任务课程学习框架，而不是分别训练OOD检测器和SSL。1 引言在深度学习方法取得了一些突破之后，深度神经网络（DNN）在各种机器感知任务上取得了令人印象深刻的结果，甚至超过了人类，如图像分类[8][26]、人脸识别[
2022-06-19 10:54:35
667
原创 Improved Robustness to Open Set Inputs viaTempered Mixup
摘要监督分类方法通常假定评估数据来自与训练数据相同的分布，并且所有的类在训练中都存在。然而，现实世界的分类器必须处理远离训练分布的输入，包括来自未知类别的样本。开放集的鲁棒性是指将以前未见过的类别的样本正确地标记为新的，并避免高置信度、不正确的预测的能力。现有的方法集中在新的推理方法、独特的训练结构或用额外的背景样本补充训练数据。 在这里，我们提出了一个简单的正则化技术，很容易应用于现有的卷积神经网络结构，在没有背景数据集的情况下提高开放集鲁棒性。我们的方法在开放集分类基线上取得了最先进的结果，并且很容易扩
2022-06-18 21:43:34
213
原创 OPEN SET RECOGNITION BY REGULARISING CLASSIFIER WITH FAKE DATA GENERATED BY GENERATIVE ADVERSARIAL
用生成式对抗网络生成的假数据进行正则化分类器的开放集识别摘要我们提出了一种新的方法，在生成对抗网络（GANs）框架内生成未知类别的假数据。GANs中的生成器被训练成与已知类别的数据有些相似，但不同的是，它通过使用提议的边际去噪自动编码器对分类器的特征空间进行噪声分布建模来生成。生成的数据被视为未知类别的假实例，并交给分类器，使其对真正的未知类别具有鲁棒性。我们的研究结果表明，合成数据可以作为假的未知类，并降低分类器对真正的未知类的确定性，同时，已知类的分类能力没有退化，甚至有所提高。1.引言深度学习在各个领
2022-06-16 11:28:53
249
原创 Open-Category Classification by Adversarial Sample Generation
摘要在现实世界的分类任务中，很难从环境中所有可能的类别中收集训练样本。因此，当一个未见过的类别的实例出现在预测阶段时，一个强大的分类器应该能够分辨出它是来自一个未见过的类别，而不是把它归类为任何已知的类别。1 引言随着机器学习技术在越来越多的应用中被采用，它们能被应用于开放和非稳定的环境中是很有吸引力的，在这些环境中，未曾见过的情况会意外地出现。对于分类，一个典型的学习任务，经典的方法隐含地假设数据是i.i.d.的，即使是未来的测试数据。这一假设在开放环境中不再成立，这大大削弱了经典分类方法的稳健性。在这项
2022-06-15 14:59:00
302
原创 Adversarial Motorial Prototype Framework for Open Set Recognition
摘要开放集识别是为了同时识别已知类和拒绝未知类。具体来说，识别已知类和拒绝未知类分别对应于降低经验风险和开放空间风险。在本文中，大量的实验证明了所提出的模型的性能优于目前其他作品。引言近年来，随着人工智能技术的发展，深度学习的应用已经渗透到生活的许多方面，如图像识别和语音识别[1]，[2]。一般来说，大部分的识别研究都集中在封闭集识别（CSR）上，其测试集和训练集有相同的数据类别。然而，在实际应用中，由于实际使用场景的复杂性，测试集的类别可能与训练集的类别不完全一致。这种在测试集中可能包含大量未知类的目标识
2022-06-15 09:52:06
976
原创 Catching Both Gray and Black Swans: Open-set Supervised Anomaly Detection
Catching Both Gray and Black Swans: Open-set Supervised Anomaly Detection摘要尽管大多数现有的异常检测研究只假设有正常的训练样本，但在许多现实世界的应用中往往有一些标记的异常例子，如随机质量检查中发现的缺陷样本，日常医疗检查中由放射科医生确认的病变图像等。这些异常例子提供了关于特定应用异常的有价值的知识，使得在最近的一些模型中对类似异常的检测有了明显的改善。然而，在训练过程中看到的那些异常往往不能说明每一种可能的异常类别，使得这些模型
2022-06-12 16:37:45
1405
原创 Learning Network Architecture for Open-set Recognition
摘要鉴于对世界上存在的类的不完全了解，开放集识别（OSR）使网络在训练后能够识别和拒绝未见过的类。这个打破常见的封闭集假设的问题还远远没有得到解决。最近的研究集中在设计新的损失、神经网络编码结构和校准方法来优化OSR相关任务的特征空间。在这项工作中，我们首次尝试在开放集假设下通过搜索神经网络（NN）的结构来解决OSR问题。我们在5个OSR数据集上展示了这个学习管道的好处，包括MNIST、SVHN、CIFAR10、CIFARAdd10和CIFARAdd50，其中我们的方法优于之前由人类设计的先进网络。为了激发
2022-06-10 11:12:12
334
原创 LUNA: Localizing Unfamiliarity Near Acquaintance for Open-set Long-Tailed Recognition
LUNA: 将不熟悉的地方靠近熟悉的地方，用于开放式的长尾识别在物体识别中，预定义的人工平衡训练类在建模物体不平衡分布的未知类的真实场景中能力有限。在本文中，我们讨论了一种利用度量学习来解决开放集长尾识别（OLTR）任务的有希望的方案。我们提出的方法在公共基准数据集上，包括我们自己新引入的关于海洋物种的细粒度OLTR数据集（MSLT），在封闭集识别精度上超过最先进的算法4-6%，在开放集下的F-measure上超过4%，这是第一个自然分布的OLTR数据集，揭示了类别的真正遗传关系。综上所述，我们声称我们的贡
2022-06-10 09:39:31
339
原创 Open Set Recognition using Vision Transformer with an Additional Detection Head
Open Set Recognition using Vision Transformer with an Additional Detection Head使用带有附加检测头的视觉Transformer 进行开放集识别深度神经网络在封闭集设置中的图像分类任务中表现出突出的能力，其中测试数据来自与训练数据相同的分布。然而，在一个更现实的开放集场景中，具有不完整知识的传统分类器无法处理不属于训练类的测试数据。开放集识别（OSR）旨在通过同时识别未知类和区分已知类来解决这个问题。在本文中，我们提出了一种基于视觉
2022-06-09 21:33:43
295
原创 PMAL: Open Set Recognition via Robust Prototype Mining
PMAL: Open Set Recognition via Robust Prototype Mining摘要开放集识别（OSR）是一个新兴的话题。 除了识别预定的类别，系统还需要拒绝未知的东西。原型学习是处理该问题的一种潜在方式，因为在区分已知和未知时，非常需要其提高类内表征的紧凑性的能力。在这项工作中，我们提出了一个新的原型挖掘和学习（PMAL）框架。它在优化嵌入空间的阶段之前有一个原型挖掘机制，明确考虑了两个关键属性，即原型集的高质量和多样性。具体来说，引言经典的图像分类问题通常是基于近似集的假设
2022-06-06 22:41:51
742
1
原创 Open-set Adversarial Defense with Clean-Adversarial Mutual Learning
用干净的对抗性学习进行开放集对抗性防御摘要开放集识别和对抗性防御研究了深度学习的两个关键方面，这对现实世界的部署至关重要。开放集识别的目的是在测试过程中识别开放集类的样本，而对抗性防御的目的是使网络对受不可察觉的对抗性噪声干扰的图像具有鲁棒性。在这些观察的激励下，我们强调了开放集对抗性防御（OSAD）机制的必要性。本文提出了一个带有清洁对抗相互学习（OSDN-CAML）的开放集防御网络作为OSAD问题的解决方案。所提出的网络设计了一个带有双注意特征去噪层的编码器，与一个分类器一起学习无噪音的潜在特征表示，它
2022-06-06 20:24:01
251
原创 Novel Ensemble Diversification Methods for Open-Set Scenarios
Novel Ensemble Diversification Methods for Open-Set Scenarios1.引言自90年代末以来，模型集合中多样性的重要性已被认识到[40, 28, 7, 34]。多分类器系统（MCSs）界对这一主题进行了深入讨论，同时研究了（i）测量多样性的指标[1, 2, 17, 46]，（ii）多样性与合集精度之间的联系[22, 36]，以及（iii）构建多样性合集的方法[42, 4]。现有的工作主要涉及封闭集问题，在这些问题中，只有有效的输入才会有正确的输出。另一方
2022-06-05 17:27:41
205
原创 On Open-Set Classification with L3-NetEmbeddings for Machine Listening Applications
摘要On Open-Set Classification with L3-Net Embeddings for Machine Listening Applications为机器听觉应用获得标记的数据是很昂贵的，因为标记音频数据需要人类去听录音。然而，最先进的基于深度学习的系统通常需要大量的标记数据来进行训练。这个问题的解决方案是用大量的未标记的数据集来训练神经网络，以提取嵌入，然后用这些嵌入来训练适合应用的小型但有标记的数据集上的浅层分类器。一个例子是 "看、听、学"（L3-Net）嵌入，它是在自我监督
2022-06-03 10:40:54
349
原创 M2IOSR: Maximal Mutual Information Open Set Recognition
M2IOSR: Maximal Mutual Information Open Set RecognitionM2IOSR: 最大相互信息开放集识别摘要引言：基于深度学习的方法在许多识别任务中表现出了显著的成功，其中深度神经网络是用来自K个不同的已知类别的有限标记训练样本集来训练的[15, 44, 21, 11, 10, 12, 13]。在推理过程中，这些在预先定义的K类上训练的网络通常从这些K类中选择一个标签，并将所选标签分配给输入。然而，在大多数现实世界的分类任务中，类的数量通常远远大于K。由于各种客
2022-06-02 22:40:55
335
原创 开放世界的半监督学习OPEN-WORLD SEMI-SUPERVISED LEARNING
开放世界的半监督学习在现实世界中应用半监督学习的一个基本限制是假设未标记的测试数据只包含以前在标记的训练数据中遇到的类别。然而，这个假设对于野外的数据很少成立，因为在测试时可能会出现属于新类的实例。在这里，我们引入了一个新的开放世界的半监督学习环境，它将新的类可能出现在未标记的测试数据中这一概念正式化。在这种新的设置中，目标是解决已标记和未标记数据之间的类别分布不匹配问题，在测试时，每个输入实例要么需要被归入现有的类别之一，要么需要初始化一个新的未见过的类别并将实例分配给它。为了解决这个具有挑战性的问题，我
2022-06-02 11:03:36
1924
原创 OPEN-VOCABULARY OBJECT DETECTION VIAVISION AND LANGUAGE KNOWLEDGE DISTILLATION
通过视觉和语言知识提炼进行开放词汇的物体检测摘要引言 考虑到图1，我们是否可以设计出超越只识别训练标签中存在的基本类别（如玩具）的物体检测器，并扩大词汇量以检测新的类别（如玩具大象）？在本文中，我们旨在训练一个开放词汇的物体检测器，只使用基础类别的检测注释，并检测文本输入所描述的任何新类别的物体。现有的物体检测算法通常只学习检测检测数据集中的类别。增加检测词汇量的一个常见方法是收集具有更多标记类别的图像。研究界最近收集了具有大量词汇的新物体检测数据集（Gupta等人，2019；Kuznetsova等人，20
2022-06-01 20:16:00
2339
原创 OPEN-SET RECOGNITION:A GOOD CLOSED-SET CLASSIFIER IS ALL YOU NEED
开放集识别：你所需要的只是一个好的封闭集分类器识别测试样本是否属于分类器训练集中的一个语义类别的能力对于模型的实际部署至关重要。这项任务被称为开放集识别（OSR），并在最近几年受到了极大的关注。鉴于现代深度学习系统在封闭式视觉识别任务上的成功，下一个挑战自然是开放式识别（OSR）（Scheirer等人，2013）。在封闭集设置中，一个模型的任务是识别一组在训练和测试阶段都保持不变的类别。在更现实的开放集设置中，一个模型不仅要能够区分训练类别，而且还要指出一个图像是否来自它尚未遇到的类别。OSR问题最初在（S
2022-06-01 10:06:33
1382
原创 Prototypical Matching and Open Set Rejection for Zero-Shot SemanticSegmentation
原型匹配和开放集拒绝的零次语义分割法摘要：解决语义分割的DCNN方法需要大量的像素化注释的训练样本。在这项工作中，我们提出了零次语义分割，其目的是不仅要识别训练中包含的已见类，而且要识别从未见过的新类。我们采用了一个严格的归纳设置，在训练过程中，只有看过的类的实例是可以访问的。我们提出了一种开放意识的原型匹配方法来完成分割。原型方法通过一组原型来提取视觉表征，使其能够方便灵活地添加新的未见过的类。原型投影被训练用来将语义表征映射到基于所见实例的原型上，并为未见的类别生成原型。此外，一个开放集拒绝法被
2022-05-31 17:17:48
334
转载 分类、目标检测、语义分割、实例分割的区别转https://www.cnblogs.com/zxj9487/p/11154316.html
分类、目标检测、语义分割、实例分割的区别计算机视觉的任务很多，有图像分类、目标检测、语义分割、实例分割和全景分割等，那它们的区别是什么呢？1、Image Classification（图像分类）图像分类（下图左）就是对图像判断出所属的分类，比如在学习分类中数据集有人（person）、羊（sheep）、狗（dog）和猫（cat）四种，图像分类要求给定一个图片输出图片里含有哪些分类，比如下图的例子是含有person、sheep和dog三种。2、Object detection（目标检测）..
2022-05-30 22:08:45
227
原创 OpenGAN: Open-Set Recognition via Open Data Generation
摘要：现实世界的机器学习系统需要分析与训练数据不同的测试数据。在K-way分类中，这通常被表述为开集（open-set）识别，以区分 K闭集（closed-set）数据集。 关于开集识别通常有两种处理方案：1）使用一些离群数据作为开集，对开-闭二进制判别器分别进行判别学习（discriminatively learning an open-vs-closed binary discriminator by exploiting some outlier data as the open-set,）；2
2022-05-30 11:14:22
2052
1
原创 OPEN-SET RECOGNITION WITH GRADIENT-BASED REPRESENTATIONS
在这项工作中，我们提议利用基于梯度的表征进行开放集识别。
2022-05-29 21:49:33
172
原创 Towards Open World Object Detection
摘要：人类有识别环境中未知物体实例的本能。当相应的知识最终可用时，对这些未知实例的好奇心有助于了解它们。这促使我们提出了一个新的计算机视觉问题，称为“开放世界目标检测”，模型的任务是：1）在没有明确监督的情况下，将没有被引入的物体识别为“未知”物体， 2）当逐渐接收到相应的标签时，增量地学习这些识别出的未知类别而不忘记先前学习的类。本文提出了一种基于对比聚类和基于能量的未知识别的开放世界目标检测算法。我们的实验评估和消融研究分析了ORE网络在实现开放世界目标方面的功效。作为一个有趣的研究结果
2022-05-29 16:45:40
2234
2
原创 GB-CosFace: Rethinking Softmax-based Face Recognition from the Perspectiv从开放集分类的角度重新思考基于Softmax的人脸识别
从开放集分类的角度重新思考基于Softmax的人脸识别GB-CosFace: Rethinking Softmax-based Face Recognition from the Perspectiveof Open Set Classification1摘要：背景：目前最先进的人脸识别方法通常采用多分类管道，并采用基于softmax的损失进行优化。 问题：尽管这些方法取得了巨大的成功，但从开放集分类的角度来看，基于softmax的损失有其局限性：训练阶段的多分类目标与开放集分类测试的目.
2022-05-25 16:41:34
272
原创 Addressing Visual Search in Open and Closed Set Settings
Addressing Visual Search in Open and Closed Set Settings摘要：在大图像中搜索小物体是一项对目前的深度学习系统具有挑战性的任务，在许多现实世界的应用中也很重要，如遥感和医学成像。 彻底扫描非常大的图像在计算上是很昂贵的，特别是在足以捕获小物体的分辨率下。一个感兴趣的物体越小，它就越有可能被杂波掩盖或被认为是不重要的。 我们在两个互补问题的背景下研究这些问题：封闭的物体检测和开放的目标搜索。首先，我们提出了一种从低分辨率要点图像中预测像素级目标
2022-05-23 20:19:58
149
原创 Distance-Based Background Class Regularization for Open-Set Recognition
用于开放集识别的基于距离的背景类正则化摘要：在开放集识别（OSR）中，分类器应该能够拒绝未知类样本，同时保持强大的封闭集分类性能。为了解决基于预训练的Softmax分类器的OSR问题，以前的研究调查了离线分析，例如，基于距离的样本拒绝，这可以限制已知类数据项的特征空间。由于这类分类器仅基于已知类样本进行训练，因此可以使用背景类正则化（BCR），在训练阶段将背景类数据作为未知类数据的替代物，以提高OSR的性能。 然而，以前的正则化方法限制了OSR的性能，因为它们将已知类数据归入一个单一的组，然后旨在
2022-05-23 15:52:36
215
原创 Conservative Novelty Synthesizing Network forMalware Recognition in an Open-Set Scenario
Conservative Novelty Synthesizing Network for Malware Recognition in an Open-Set Scenario摘要：问题背景：我们研究了对已知和新的未知恶意软件家族进行恶意软件识别的挑战性任务，称为恶意软件开放集识别（MOSR）。以前的工作通常假设分类器在密集的情况下知道恶意软件家族，即测试家族是子集或最多与训练家族相同。然而，在现实世界的应用中经常出现新的未知恶意软件家族，因此需要在开放集场景中识别恶意软件实例，即一些未知的家族也
2022-05-22 16:03:59
284
原创 A novel network training approach for open set image recognition
摘要：卷积神经网络（CNN）通常是为封闭集安排而设计的，其中测试实例只属于训练中使用的一些 "已知的"（KK）类。因此，它们根据KK类的分布来预测测试样本的类别标签。 然而，当在开放集识别（OSR）设置下使用时（输入可能属于 "未知的未知 "或UU类），这样的网络将总是把测试实例分类为KK类之一，即使它来自UU类。 作为一种解决方案，最近，基于生成对抗网络（GAN）的数据增强已经被使用。在这项工作中，我们提出了一种新的方法来挖掘 "已知未知训练者 "或KUT集，并设计一个深度OSR网络（OSRNet
2022-05-21 22:16:55
226
原创 OPEN-SET RECOGNITION WITH GRADIENT-BASED REPRESENTATIONS基于梯度表征的开放集识别
0.摘要：用于图像分类任务的神经网络假定在推理过程中任何给定的图像都属于训练类别之一。这种封闭的假设在现实世界的应用中受到了挑战，因为模型可能会遇到未知类别的输入。开放集识别的目的是通过拒绝未知类别而正确分类已知类别来解决这个问题。在本文中，我们建议利用从已知分类器中获得的基于梯度的表征，只用已知类别的实例来训练一个未知的检测器。梯度对应于正确表示一个给定样本所需的模型更新的数量，我们利用它来了解模型用其学到的特征来描述输入的能力。我们的方法可以用于任何在已知类别上以监督方式训练的分类器，而不需要对未知
2022-01-20 08:34:40
448
原创 Enhancing The Reliability of Out-of-distribution Image Detection in Neural Networks解读
[40]Liang S, Li Y, Srikant R. Enhancing The Reliability of Out-of-distribution Image Detection in Neural Networks[C]//International Conference on Learning Representations. 2018.1.摘要1.1问题：我们考虑了在神经网络中检测分布外图像的问题。1.2方法：我们提出了ODIN，这是一种简单有效的方法，不需要对预先训练的神经网络
2021-11-16 10:14:34
1184
原创 One-vs-rest network-based deep probability model for open set recognition解读
【45】Jang J, Kim C O. One-vs-rest network-based deep probability model for open set recognition[J]. arXiv preprint arXiv:2004.08067, 2020.概述：在训练中未曾见过的未知例子经常出现在现实世界的计算机视觉任务中，一个智能的自学系统应该能够区分已知和未知的例子。解决这个问题的开放集识别，已经研究了大约十年。然而，传统的基于深度神经网络（DNNs）的开放集识别方法缺乏识别后分数
2021-11-15 17:41:29
965
原创 Learning Placeholders for Open-Set Recognition
【43】Zhou D W, Ye H J, Zhan D C. Learning Placeholders for Open-Set Recognition[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2021: 4401-4410.概述：传统的分类器是在封闭集下部署的，训练类和测试类都属于同一个集。然而，现实世界的应用可能会面临未知类别的输入，而模型会将它们识别为已知类
2021-11-14 16:39:57
1140
2
清华大学计算机学科推荐期刊会议列表-20190818.pdf
2020-02-04
shape_predictor_68_face_landmarks.dat.bz2
2017-10-18
Fingerprint Liveness Detection by Local Phase Quantization
2017-06-02
解决Ubuntu Desktop和Centos Desktop安装Nvidia驱动后桌面异常问题.doc
2017-05-18
Information Theory, Inference, and Learning Algorithms
2017-05-04
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人