- 博客(210)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 干掉程序员，百度是认真的！！
▼最近直播超级多，预约保你有收获昨天百度 2024 Create 开发者大会上，李彦宏再次强调了这个观点：“过去，开发者用代码改变世界；未来，自然语言将成为通用编程语言。你只要会说话，就可以成为一名开发者，用自己的创造力改变世界”。李彦宏说：“今天，你不会写代码，也可以做出一个应用。不用编程，也可以做出一个 AI Agent 智能体。AI 正在掀起一场创造力革命，未来开发应用就会像拍短视频一样...
2024-04-17 08:18:35
311
原创 AI Agent 智能体，厉害了！
▼最近直播超级多，预约保你有收获吴恩达在红杉美国 AI 峰会上分享了他对 AI Agent 智能体的看法，主要包括以下3点：基于大模型的 AI Agent 工作流、AI Agent 工作流效果、AI Agent 的四种设计模式。—1—基于大模型的 AI Agent 工作流我很期待与大家分享我在 AI Agent 智能体中看到的令人兴奋的趋势，我认为每个 AI 从业者都应该关注这个趋势。目前，我...
2024-04-16 08:18:24
535
原创 今年这形势......真心奉劝大家还是多留一手准备吧！
▼最近直播超级多，预约保你有收获—1—大家还是多留一手准备上周消息爆出大厂又开始裁员和降薪了...当前形势下，大家还是要多留一手准备冲一冲这个新兴领域人才缺口极大随着 ChatGPT 大热“AI 大模型”无疑是最火爆的话题！Google、百度、腾讯等巨头互联网公司，无不在布局人工智能技术和市场，甚至开出200K*15超高年薪，挖掘 AI 大模型人才！作为普通的我们，如何不被时代抛弃，享受 AI ...
2024-04-15 08:18:43
157
原创 待会删！26.7 Star！LangChain-Chatchat 开源知识库来了
▼最近直播超级多，预约保你有收获LangChain-Chatchat 是基于 ChatGLM 等大语言模型与 LangChain 等应用框架实现，开源、可离线部署的 RAG 检索增强生成大模型知识库项目。最新版本为v0.2.10，目前已收获 26.7k Stars，非常不错的一个开源知识库项目。项目地址：https://github.com/chatchat-space/Langchain-C...
2024-04-14 08:18:56
742
原创 老乡鸡竟然在Gitee上开源了。。。
▼最近直播超级多，预约保你有收获国产开源平台 Gitee 上最新一个的贡献者竟然是老乡鸡⋯⋯它的开源项目是对全部菜品做了溯源，从原料到供应商再到烹饪方法，完整公开，甚至表示只要遵循报告指导，任何顾客都可以在家做出和店里一样味道的菜，这里没有任何需要保密的所谓核心配方。—1—软件架构做菜和写程序一样，做菜时，我们需要挑选合适的食材???? ，就像写程序时选择合适的算法和数据结构。调料的配比就如同代码中...
2024-04-13 08:18:58
347
原创 长文本杀不死RAG！SQL+向量 AI 数据库开源了！
、▼最近直播超级多，预约保你有收获RAG 的出现使得大模型能从大规模的知识库中精确地抽取信息，并生成实时、专业、富有洞察力的答案。伴随而来的是 RAG 系统的核心功能向量数据库也得到了迅速发展，按照向量数据库的设计理念我们可以将其大致分为三类：专用向量数据库、关键字和向量结合的检索系统、SQL 向量数据库。专用向量数据库以 Pinecone/Milvus 为代表。关键字和向量检索系统以 Elast...
2024-04-12 08:18:18
368
原创 27.5K Stars！开源AI程序员，可独立完成95%的开发任务
、▼最近直播超级多，预约保你有收获相信 IT 同学都使用过 AI 编程工具（比如：清华智谱 CodeGeex 2）来生成一部分代码，但是，你考虑过让 AI 完成整个项目吗？GPT Pilot 就是一个开源项目，它希望为世界上第一位人工智能开发伙伴，可独立完成95%的开发任务，它就是：GPT Pilot—1—GPT Pilot 是什么？GPT Pilot 不仅仅是生成代码，它还能构建应用程序！它是...
2024-04-11 10:02:18
891
原创 【RAG进阶实践】引入Rerank技术，让RAG效果更上一层楼
▼最近直播超级多，预约保你有收获RAG 检索增强生成技术这篇《一文搞懂 RAG 检索增强生成》做了详细介绍，一个典型的 RAG 案例如下图所示，包含3个步骤：索引：将文档库分割成较短的 Chunk，并通过 Embedding 编码器构建向量索引。检索：根据 Prompt 问题和 Chunks 的相似度检索相关文档片段。生成 ：以检索到的上下文为增强条件，最终生成 Prompt 问题的回答。今天我...
2024-04-10 08:18:33
996
原创 AI大模型时代，35岁+程序员都去哪了？
▼最近直播超级多，预约保你有收获在 AI 大潮中，AI 大模型如同一艘巨轮，引领着技术的前进方向。然而，随着这股浪潮的汹涌，人们开始关注那些35岁以上的程序员，在这个快速变化的时代中，面临着怎样的挑战和机遇？本文将带您深入了解程序员的职场发展之路，探索如何在 AI 大模型时代中乘风破浪。—1—技术更新迭代，经验丰富成金首先，我们要认识到，AI 大模型技术的更新迭代并不意味着35岁以上的程序员就会...
2024-04-09 08:18:34
785
原创 离谱！一边裁员，一边60K*16高薪挖人！
▼最近直播超级多，预约保你有收获—1—60K*16高薪挖人 AI 大模型最新成果炸裂！AI 大模型技术已经能理解和模拟现实世界，AGI（通用人工智能）又向前迈了一大步！“AI 大模型”无疑是最火爆的话题！Google、百度、腾讯等等巨头互联网公司，无不在布局 AI 技术和市场，甚至开出60K*16超高年薪，挖掘 AI 大模型人才！作为普通程序员，如何不被时代抛弃，享受 AI 技术带来的红利？！如...
2024-04-08 08:18:38
339
原创 Spring AI 来了，打造Java生态大模型应用开发新框架！
▼最近直播超级多，预约保你有收获尽管 Python 长期主导 AI 大模型应用开发领域，但 Java 并未熄火！Spring AI 来了，正式告别实验期，迈向广泛应用新阶段！这意味着 Spring 生态体系的广大开发者，迎来 AI 大模型应用开发的新里程。—1—Spring AI 开发框架设计理念Spring AI 是一个 AI 工程师的应用框架，它提供了一个友好的 API 和开发 AI 应用的...
2024-04-07 08:18:09
792
原创 LangChain 作者谈 Agent 智能体未来
▼最近直播超级多，预约保你有收获在刚刚结束的红杉资本 AI 峰会上，六分钟时间，LangChain 作者 Harrison Chase 分享了 Agent 智能体的未来发展方向，并指出 Agent 智能体的三大关键方向：规划（Planning）、用户体验（UX）、记忆（Memory）。—1—规划（Planning）规划（Planning）是指 Agent 智能体能够预先考虑多个执行步骤，并确定最...
2024-04-05 08:18:11
534
原创 9.2K Stars！IT-Tools 个人在线工具箱
、▼最近直播超级多，预约保你有收获—1—IT-Tools 助力开发人员和 IT 工作者IT-Tools (下图所示）一个为开发人员和 IT 工作者提供方便的在线工具集合的开源项目，包含了加密、转换器、Web、开发、图片和视频等百种工具，功能齐全，一键部署，非常方便。IT-Tools 是基于 Vue3 实现的，采用 Naive UI 组件库开发，支持 Docker + K8S 私有化部署。项目开源...
2024-04-04 08:18:36
363
原创 网易RAG问答知识库开源了，Star 6K！！
、▼最近直播超级多，预约保你有收获—1—RAG 问答知识库 QAnything 开源了网易开源了自研的 RAG 引擎 QAnything。该引擎允许用户上传 PDF、图片、Word、Excel、PowerPoint 等多种格式的文档，并实现类似于 ChatGPT 的互动问答功能，其中每个答案都能精确追溯到相应的文档段落来源。QAnything 支持纯本地部署，上传文档数量无上限，问答准确率高。正...
2024-04-03 08:18:35
440
原创 向量数据库+知识图谱构建高效 RAG 系统
▼最近直播超级多，预约保你有收获—1—向量数据库：数据的智能化存储向量数据库是一种新型的数据库系统，它的核心特点是将数据转换成数学上的向量形式进行存储和处理。想象一下，你走进一家图书馆，里面摆满了各种各样的书籍。如果你想找到一本特定的书，比如关于 AI 大模型的书，你可能会去图书分类目录中查找“IT”这个分类，然后根据索引找到相关书籍的存放位置。现在，如果我们把每本书的内容都转换成一串数字（这串...
2024-04-02 08:18:32
607
原创 大模型在线推理优化：GPU资源和推理框架如何选择？
▼最近直播超级多，预约保你有收获—1—大模型在线推理 GPU 资源如何选择？大模型在线推理需要多少 GPU 资源，取决于大模型本身的参数，计算公式为：部署显存（单位 GB ）= 参数量（单位 B）* A。（A 为参数精度，参数精度 FP32时 A=4，参数精度 FP16时 A=2）。在 ChatGLM-6B 大模型上实测，显存推算基本符合上述计算公式。目前市场上常见的大模型参数规模有7B、13B...
2024-04-01 16:06:21
646
原创 如何使用LangChain和LangGraph大幅提升RAG效果
▼最近直播超级多，预约保你有收获—1—LangChain 的2大核心概念1、面向过程架构设计的 Chains（链）：基于大模型编写的程序，遵循预定义的步骤和规则，并且不可灵活调整，用于执行任务，比如：自动 SQL 编写或多轮对话等。2、面向目标架构设计的 Agents（智能体）：基于大模型的推理能力，对任务做出规划，然后使用第三方工具（比如：搜索工具、代码解释器、业务 API 等）完成规划子任务...
2024-03-27 08:18:56
1014
原创 大模型应用的6种架构模式，你知道几种？
▼最近直播超级多，预约保你有收获架构设计模式已成为程序员的重要技能。然而，当我们转向大模型应用领域，情况可能会有所不同。面对新兴技术，比如：生成式 AI，我们尚缺乏成熟的设计模式来支撑这些解决方案。根据多年的架构设计经验，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，比如：成本问题、延迟问题以及生成的幻觉等问题。—1—路由分发架构模式当用户输...
2024-03-26 08:18:59
722
原创 96W，确实可以封神了！！
▼最近直播超级多，预约保你有收获—1—AI 大模型如何助力高薪？随着 ChatGPT 大热“AI 大模型”无疑是最火爆的话题！Google、百度、腾讯等等巨头互联网公司，无不在布局人工智能技术和市场，甚至开出80K"16超高年薪，挖掘 AI 大模型人才！作为普通程序员，如何不被时代抛弃，享受 AI 技术带来的红利？！如果你也遇到以下问题：公司业绩下行，先裁程序员应景，每日战战兢兢每天疲于会议撕 ...
2024-03-25 07:39:04
113
原创 轻松上手 LangChain 开发框架之 Agent 技术 ！！
▼最近直播超级多，预约保你有收获—1—Agent 技术剖析Agent 这一模块在 LangChain 的使用过程中也是十分重要的。官方文档是这样定义它的：“The core idea of agents is to use a language model to choose a sequence of actions to take. In chains, a sequence of acti...
2024-03-24 08:18:24
468
原创 一台MacBook搞定大模型知识库运行！！
▼最近直播超级多，预约保你有收获—1—为什么要在 MacBook 上搭建知识库？最核心最重要的是我们手上的文档资料出于安全要求，不能随便上传到云服务，也就无法实际验证知识库的实际效用。另外对于 IT 同学来说，自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现，也是出于对技术的探索本能使然。使用的 MacBook 配置如下，对大模型经过量化处理（比如：int8）后...
2024-03-23 08:18:26
305
原创 轻松上手 LangChain 6大模块之 Chains
▼最近直播超级多，预约保你有收获—1—LangChain 6大模块是什么？LangChain 是 AI 大模型应用开发框架，由6个模块组成，分别为：Model IO、Retrieval、Chains、Memory、Agents 和 Callbacks。Model IO：AI 应用的核心部分，其中包括输入、Model和输出。Retrieval：该功能与向量数据库密切相关，是在向量数据库中搜索与问题...
2024-03-22 08:18:44
857
原创 基于GPTs和RAG构建大模型应用程序
▼最近直播超级多，预约保你有收获—1—基于GPTs构建大模型应用GPTs 是 OpenAI 发布用于创建定制版 ChatGPT 的应用程序形态，实际上是基于大模型的应用程序，即：AI Agent。或者说白了非常类似于智能手机里的App。只不过它的开发过程极其简单，基本不需要编程。所以这个 GPTs 的开发非常踊跃，短短两个月时间用户已经发布了将近10万个GPTs。任何人都可以通过 OpenAI ...
2024-03-21 08:19:01
855
原创 多模态 RAG 应用设计与实现
▼最近直播超级多，预约保你有收获—1—多模态是什么？多模态本质上赋予大模型除了文本之外，同时感知、聆听和理解多种格式数据的能力，就像我们人类所做的那样。我们应该能够将不同类型的数据混合在一起，同时展示给大模型，并对其进行提问：“嘿，几天前我给你发了一张棕色小狗的照片。你能帮我找到那张照片吗？” 然后大模型给我们那张照片的细节，并找出照片。我们希望大模型能像人类那样理解事物，变得非常擅长处理和响应...
2024-03-20 08:19:01
316
原创 大模型应用开发为什么要采用面向目标架构？
▼最近直播超级多，预约保你有收获—1—面向目标架构设计是什么？我们来看一个案例：假设你需要设计完成一个用户系统。如果采用面向过程架构来设计，你需要以下几个步骤：第一步、对用户系统进行需求分析和领域建模，确定具体的功能需求和性能需求；第二步、针对分析后的需求进行架构设计，是采用微服务架构还是云原生架构？假如这步选择了微服务架构；第三步、对微服务架构进行选型，是采用 Spring Cloud 开发框...
2024-03-19 10:02:23
379
原创 2024年发现大模型更火了！
▼最近直播超级多，预约保你有收获—1—2024年发现大模型更火了！24年开工后，AI 大模型热度不减反增，因为大模型应用在企业已经真正落地，对 IT 同学来说，掌握好 AI 大模型的技能就变成越来越重要！由于 AI 大模型应用技术比较新，业界也没什么参照标准，打造 AI 大模型技术的知识图谱和学习路线并非一件容易的事，我和团队花费了6个多月时间，边实践边打造了业界首份 AI 大模型知识图谱和学习...
2024-03-18 08:18:42
298
原创 某大厂程序员因Bug，被要求返还全部年终奖！
▼最近直播超级多，预约保你有收获—1—不应该如此极端对待程序员！！近日某厂员工爆料，公司程序员因线上流量异常事故，被公司进行处罚。处罚的结果是被要求将去年发的4万多年终奖归还给公司。更加令人震惊的是，如果逾期不还，还将以每天万分之五的利息收取滞纳金，换句话说，就是一天要收取20元的滞纳金。该员工还称，公司 HR 还扬言三个月内还是不还就免费开除。这一消息一经传出，立刻激起了程序员的强烈反响。许...
2024-03-17 08:18:46
358
原创 大模型人才今年的薪资。。。
▼最近直播超级多，预约保你有收获—1—AI 大模型如何助力高薪？随着 ChatGPT 大热“AI 大模型”无疑是最火爆的话题！Google、百度、腾讯等等巨头互联网公司，无不在布局人工智能技术和市场，甚至还有超高年薪，挖掘 AI 大模型人才！作为普通程序员，如何不被时代抛弃，享受 AI 技术带来的红利？！如果你也遇到以下问题：公司业绩下行，先裁程序员应景，每日战战兢兢每天疲于会议撕 X，只能加班...
2024-03-15 17:16:59
335
原创 让天下没有难学的大模型！！
▼最近直播超级多，预约保你有收获最近在我的直播间，陆续有同学想要大模型技术应用的全景图，我和团队花了些时间整理出大模型技术以及应用的知识图谱，下面做个详细介绍，对了，别忘记领取文末的彩蛋。—1—大模型的预训练技术大模型的预训练技术（Pre-traning）是大模型性能的根基，这部分技术门槛和成本门槛都很高，我们只需要简单了解就行，包含以下几个核心技术：Transformer 人工神经网络架构、...
2024-03-14 17:20:41
356
原创 大白话ChatGPT技术
▼最近直播超级多，预约保你有收获今晚直播：《ChatGPT架构设计与应用案例实践》—1—ChatGPT 架构设计剖析ChatGPT 总体架构由三大部分构成：预训练（Pre-training）架构、微调（Fine-tuning）架构、推理（Reasoning）架构。其中预训练架构建立在 Transformer 神经网络基础上，构建出一个 Base Model，微调架构加入了10万级别的人工样本，...
2024-03-12 19:19:31
316
原创 通俗易懂解释LLM大模型
▼最近直播超级多，预约保你有收获今晚直播：《动手做出一个ChatGPT》—1—大模型的两个重要文件大模型，是由海量的数据经过复杂训练而生成的模型，它们能够理解、记忆、生成人类的语言。我们将大模型进行拆解，进行形象的比喻，那么大模型本质上由两个核心组件构成：一个巨大的参数文件和一个运行这些参数的代码文件。第一、参数文件，可以视为这些大模型的“DNA”，它包含了千亿级的权重，这些权重值是通过大量数...
2024-03-11 19:28:03
360
原创 比尔盖茨：软件的未来是 Agent 智能体！
▼最近直播超级多，预约保你有收获今晚直播：《大模型应用 Agent 案例实战》—1—现有软件仍然笨拙比尔盖茨说尽管软件已经取得了许多进步，但软件仍然可能相当笨拙。比尔盖茨是这样说的：“I still love software as much today as I did when Paul Allen and I started Microsoft. But—even though it h...
2024-03-10 08:18:41
312
原创 一台MacBook搞定大模型知识库部署和运行！
▼最近直播超级多，预约保你有收获今晚直播：《企业知识库落地案例实战》—1—为什么要在 MacBook 上搭建知识库？最核心最重要的是我们手上的文档资料出于安全要求，不能随便上传到云服务，也就无法实际验证知识库的实际效用。另外对于 IT 同学来说，自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现，也是出于对技术的探索本能使然。使用的 MacBook 配置如下，对大...
2024-03-09 08:58:55
414
原创 一文搞懂微调技术和RAG技术区别
▼最近直播超级多，预约保你有收获今晚直播：《大模型ChatGLM3应用案例实战》—1—为什么要做微调和RAG的对比？通用大模型存在一定的幻觉问题，通过把企业私有的领域数据知识喂给通用大模型，从而降低了大模型的幻觉，这就是所谓的企业私有大模型，从技术层面来讲，实现企业私有大模型有2个技术手段：微调（Fine-tuning）、RAG（Retrieval Augmented Generation）检...
2024-03-08 16:08:52
1128
原创 OpenAI 将在 2027 年实现人类水平的 AGI ？完整 PDF 流出……
▼最近直播超级多，预约保你有收获今天直播：《代码解释器Agent案例实战》—1—OpenAI 2027 年实现人类水平的 AGI“OpenAI 从 2022 年 8 月就在训练 125 万亿参数的多模态模型，但由于推理成本过高而被取消”……这是最近硅谷乃至整个科技圈都在讨论的热门话题，内容均源自一份名为《Revealing OpenAI’s plan to create AGI by 2027》...
2024-03-06 08:18:53
452
原创 人人都需要一份AI大模型知识图谱和晋升路线！
▼最近直播超级多，预约保你有收获今晚直播：《RAG和GPTs产业Agent案例实战》—1—人人必备AI大模型知识图谱春节刚过，AI 大模型热度不减反增，基于大模型应用在企业已经开始产业落地，掌握好 AI 大模型的技能就变成如此重要！由于 AI 大模型应用技术比较新，业界也没什么参照标准，打造 AI 大模型技术的知识图谱和学习路线并非一件容易的事，我和团队花费了6个多月时间，边整理、边摸索、边实践...
2024-03-05 08:18:57
345
原创 搞定大模型知识库原来如此简单。。。
▼最近直播超级多，预约保你有收获今晚直播：《基于LLM构建知识库落地案例实战》—1—为什么要在 MacBook 上搭建知识库？最核心最重要的是我们手上的文档资料出于安全要求，不能随便上传到云服务，也就无法实际验证知识库的实际效用。另外对于 IT 同学来说，自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现，也是出于对技术的探索本能使然。使用的 MacBook 配置...
2024-03-04 08:18:47
434
原创 一文搞懂 LangChain 新利器：LangGraph
▼最近直播超级多，预约保你有收获今天直播：《RAG和GPTs构建Agent产业应用落地实战》—1—LangGraph 技术架构解读LangGraph 是一个有用于构建有状态和多角色的 Agents 应用，它并不是一个独立于 Langchain 的新框架，而是基于 Langchain 之上构建的一个扩展库，可以与 Langchain 现有的链（Chains）、LangChain Expressi...
2024-03-03 08:38:10
1507
原创 一文解读 OpenAI Sora 核心技术
▼最近直播超级多，预约保你有收获今天直播：《大模型Agent应用落地实战》—1—Sora 技术原理解读如果用一句话来描述 Sora 训练建模过程，那就是：将原始视频通过一个视觉编码器（visual encoder）编码到隐空间（latent space）形成隐时空块（spacetime latent patches），这些隐时空块（结合 text 信息）通过 transformer 做 diffu...
2024-03-01 08:18:22
900
原创 K8S， AI 大模型推理优化的新选择！
▼最近直播超级多，预约保你有收获今晚直播：《大模型Agent应用落地实战》—1—AI 大模型训练和推理Docker 容器和 Kubernetes 已经成为越来越多 AI 应用首选的运行环境和平台。一方面，Kubernetes 帮助用户标准化异构资源和运行时环境、简化运维流程；另一方面，AI 这种重度依赖 GPU 的场景可以利用 K8S 的弹性优势节省资源成本。在 AIGC/大模型的这波浪潮下，以 ...
2024-02-29 08:18:12
496
搜索入门搜索入门资料，绝对值得看！！！！！
2008-09-18
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人