- 博客(7)
- 资源 (20)
- 收藏
- 关注
RSS订阅原创 LMDeploy 量化部署 LLM&VLM实战——学习笔记
通过第四期课程《LMDeploy 量化部署 LLM&VLM实战》的学习，对LMDeploy量化部署有了进一步深刻认识，由于此时github不能正常访问，目前只看视频学习做笔记。课程文档：https://github.com/InternLM/Tutorial/blob/camp2/lmdeploy/README.md。接着就大模型部署所面临的挑战：计算量巨大、内存开销巨大、访问瓶颈及动态请求量大等几个维度困难度，并实例量化说明。课程主要从大模型部署背景、方法、LMDeploy简介和动手实践四个环节进行。
2024-04-14 10:28:05
150
1
原创 茴香豆：搭建你的 RAG 智能助理——学习笔记
RAG(Retrieval Augmented Generation)是一种结合了检索(Retrieval)和生成(Generation)的技术，旨在通过利用外部知识库来增强大型语言模型(LLMs)的性能。通过第三期课程《茴香豆：搭建你的 RAG 智能助理》的学习，对于RAG知识有一定了解、了解由书生浦语团队开发并开源的“茴香豆”产品。“茴香豆”的核心特点主要有免费开源、高效准确、领域知识、部署成本低、安全性高、扩展性强等。简单介绍了RAG的工作原理，主要涉及向量数据库、检索、文本生成等。
2024-04-07 20:16:53
267
原创 轻松玩转书生·浦语大模型趣味 Demo——学习笔记+实操作业
通过第二期课程《轻松玩转书生·浦语大模型趣味 Demo》的学习和实战过程的不断总结和交流，基本对大模型有了进一步深刻认识，按照课堂文档一步步操作体验感觉不错。中间有点小插曲、通过 PowerShell 配置端口映射时、密码粘贴三五次未成功，多次尝试后总算成功了。总结：通过几个实战操作、对于书生·浦语大模型有了深入了解、并深受启发。第一次未勾选“数据分析”第二次勾选“数据分析”
2024-04-06 11:35:37
373
1
原创 书生·浦语大模型全链路开源体系——学习笔记
InternLM2作为一个开源的大型语言模型（LLM），报告从模型性能、 预训练和优化技术、长文本依赖性、对齐策略、模型发布、数据准备、创新的RLHF训练技术、长序列训练、容错性、交互式训练、模型结构、基础设施、 性能分析、数据污染讨论等多个维度和基准测试中展示了其优越的性能。展示了InternLM 2.0的优越性能。课程还简单介绍了InternEvo、XTuner、LMDeploy、Lagent和AgentLego等一系列开源工具箱，这些工具箱不仅提升了大模型的性能，也拓宽了其应用边界。
2024-04-05 17:00:30
220
1
原创 SWF文件结构研究
代码位置结构含义备注0.1.2固定为46 57 53，也就是字母‘F’‘W’‘S’ 也有的文件为43 57 53，也就是字母‘C’‘W’‘S’“F”表示未压缩，“C”表示压缩式的，“W”无特殊意义“S”无特殊意义3文件版本号可根据此值与当前播放器控件的版本号比较，看是否需要更新4.5.6.7文
2008-12-25 13:59:00
3156
1
电子战中的数字射频存储技术DRFM for EW.pdf
2020-06-24
UM220软件协议Protocol-Spe-Draft-Ed3.pdf
2020-06-24
复杂环境下雷达CFAR检测与分布式雷达CFAR检测研究.nh
2019-12-09
zynq-7000可编程Soc软件开发人员指南.pdf
2019-11-01
RobotFrameWork使用简介.pptx
2019-10-30
QJ 1729A-1996航天天线测试方法.pdf
2019-10-30
5g为人工智能与智能制造赋能.pdf
2019-10-30
区块链知识汇总
2019-10-30
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人