- 博客(16)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 ARCGIS Pro踩坑及解决方案
GIthub下包安装明明成功了, 但是在已安装的包里找不到, 很奇怪, 对应路径下pkgs又有这个包.· 更新软件, 在 关于中找到软件更新的可用版本, 然后更新就行了, 别的官网上的办法一试一个报错.不用犹豫,直接复制环境,并且在 包管理器 -> 添加包 里面找到这个深度学习的包, 按照版本直接装.
2024-04-10 11:04:30
821
1
原创 InternLLM2书生·浦语大模型全链路开源体系
视频地址：https://www.bilibili.com/video/BV1Vx421X72D/感谢陈凯老师的讲解, 以下为InterLLM2的相关笔记:
2024-03-31 20:00:38
187
1
原创 RTX4090上运行Cuda10.1报错:ValueError: Unknown CUDA arch (8.9) or GPU not supported
参考compute capability的官方表格:https://developer.nvidia.com/cuda-gpus。原因是cuda（我这里是cuda10.1，改为支持7.5）的版本不支持当前算力（8.9）
2024-03-14 10:44:03
719
1
原创 Win10+wsl2+mmdetection3d(GPU)
2 确保各项虚拟化相关的设置都是正确的；另外docker下载镜像需要国内镜像源加速，配置方法：https://blog.csdn.net/elong490/article/details/114627211。安装地址：https://hub.docker.com/r/artzha/mmdetection3d。报错 Error code: Wsl/Service/WSL_E_DISTRO_NOT_FOUND。迁移系统可详细看：https://zhuanlan.zhihu.com/p/643184142。
2024-01-31 13:02:04
966
原创 OpenCompass 大模型评测
学习：https://www.bilibili.com/video/BV1Gg4y1U7uc/?文档：https://github.com/InternLM/tutorial/blob/main/opencompass/opencompass_tutorial.md了解大模型评测，完成作业客观题基于rollbase。回答形式不一样，但是客观上都是对的。基于表达式的方法提取关键词，对了就是客观正确的。主管题就是要靠人工打分，用模型评价。用GPT4自动化工具去评价。
2024-01-25 00:35:16
383
原创 进阶：LMDeploy 大模型量化部署实践
如何优化 LLM 模型推理中的访存密集问题呢？我们可以使用 KV Cache 量化和 4bit Weight Only 量化（W4A16）。KV Cache 量化是指将逐 Token（Decoding）生成过程中的上下文 K 和 V 中间结果进行 INT8 量化（计算时再反量化），以降低生成过程中的显存占用。4bit Weight 量化，将 FP16 的模型权重量化为 INT4，Kernel 计算时，访存量直接降为 FP16 模型的 1/4，大幅降低了访存成本。
2024-01-24 21:52:38
944
1
原创 XTuner 大模型单卡低成本微调实战
system在一个训练数据集里面是固定的增量预训练微调是陈述句，没有输入，放入assistant里面，计算损失。stable defusion就是通过不同的LoRA模型，作为旁路分支，替换不同风格。QLoRA在加载模型时量化为4-bit，不精确加载，相当于生锈的螺丝刀，减小显存开销。特色🤓 傻瓜化： 以 配置文件 的形式封装了大部分微调场景，0基础的非专业人员也能一键开始微调。🍃 轻量级： 对于 7B 参数量的LLM，微调所需的最小显存仅为 8GB ： 消费级显卡✅，colab✅。
2024-01-19 23:04:36
843
1
原创 LLM大模型入门-基于 InternLM 和 LangChain 搭建知识库
开源词向量模型 Sentence Transformer:是一种基于Transformer架构的开源词向量模型，专为生成句子级别的嵌入（embeddings）而设计。这个模型是在BERT、RoBERTa、DistilBERT等预训练的Transformer模型的基础上进一步发展而来的。Sentence Transformers在许多自然语言处理（NLP）任务中非常有效，尤其是在那些需要理解句子整体意义的应用中，如语义文本相似度评估、聚类、文本检索等。特点。
2024-01-09 22:21:37
1013
原创 浦语大模型趣味Demo
新建开发机-> bash(in terminate)->克隆环境-> 查看环境在internlm-dm这个conda环境完善依赖，下载模型：模型类型：internlm 表明这是语言模型中的一个特定架构或版本。架构：InternLMForCausalLM 表明这个模型是为因果语言模型设计的，通常用于生成文本序列，在这种模型中，每个令牌的预测都基于之前的令牌。
2024-01-08 20:26:43
852
原创 LLM入门--大语言模型的综述
学习Bilibili课程(https://www.bilibili.com/video/BV1Rc411b7ns/)并记录听课笔记和项目认识过程。
2024-01-05 16:58:53
1063
1
原创 VOC数据集图片截取处理
对于现有的VOC格式的数据集，因为图片太大不好训练所以需要把图片进行分割。但是分割图片后继续标注图片需要大量的工作量，所以需要把对应的标签进行提取转换，并保存为新分割图对应的标签。本代码还可以选择某一类标签进行迁移。
2023-05-07 17:09:57
412
原创 yolov4 darknet模型转OPENVINO的IR模型reshape出错
ERROR:cannot reshape array of size 181944 into shape(1,22743,4)出错的原理看这里：https://blog.csdn.net/Netceor/article/details/107330685但是我实际是转模型的，只能看到这里的报错，print的相关信息已在tu中代码里注释了：此时报错是第三步骤：#linux default OpenVINO path# 1. weights转换成pb模型python convert_weights
2021-08-13 15:34:09
447
2
原创 Darknet Yolov3编译没有生成libdarknet.so
Darknet Yolov3编译没有生成libdarknet.so正常下载编译报错正常下载编译我是在NVIDIA JETSON XAVIER NX下载编译的，基本过程参照https://github.com/doubleZ0108/IDEA-Lab-Summer-Camp/tree/master/doc/Daily-Notes也有很多命令操作看到是官方文档https://pjreddie.com/darknet/yolo/主要用的是NVIDIA JETSON XAVIER NX。Makefile
2021-03-18 16:27:50
1436
原创 matlab中wavread函数错误改用方法
matlab中wavread函数错误改用方法很多人在用matlab时因为新的matlab版本不能用wavread函数而不能使用语音处理，这里给出了改进方法，可以在之前的代码上做修改：代码之前.// An highlighted block[y, fs, nbits]=wavread(['trainning\' speakerData(i,1).name]);文件名由'trainning...
2018-10-20 21:35:36
21883
17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人