- 博客(95)
- 收藏
- 关注
RSS订阅原创 大模型LLM深入浅出、主打通俗易懂
众所周知，如果想直接训练蓝色的原始模型，将是十分耗费资源，需要8张A100显卡(A100目前市场价格13万一个)，并且训练中耗费大量电力资源(OpenAI的chatGPT-3训练一次的成本约为140万美元)，而为了节省资源，LoRA思想是将右边橘色的两个模型，先分别初始化为高斯分布和0，训练的时候固定预训练语言模型的参数(蓝色部分)，只训练降维矩阵 A 与升维矩阵 B，而模型的输入输出维度不变，输出时将 BA 与预训练语言模型的参数叠加。根据上述已知信息，简洁和专业的来回答用户的问题。
2023-09-20 09:57:03
1876
原创 元宇宙、区块链 通俗易懂
所以我们假设有一个腾讯支持多人编辑的文档，文档里有10个sheet，10个将军分别在sheet页上编写自己的想法，是打还是不打，并且各个将军只能编辑自己的sheet页数据，同时也能查看其他将军sheet页的数据，每个sheet页记录了每个将军想法，是打还是不打，亦或者是其他各种想法（签名加密技术）上图中，密密麻麻的都是AMD高性能显卡，在不停的挖矿。系统会出一个计算题，节点会进行不断的计算，谁首先计算出结果，谁就能获得这个区块的交易打包权，以及这个区块的打包奖励，也就是比特币的奖励。1.以当前时代为背景。
2023-03-07 10:35:41
6006
3
原创 谈谈我对ai发展的看法
在GPT-3发布之前，最大的语言模型是微软在2020年推出的图灵Turing NLG, 参数达到170亿，仅是GPT-3的10% ，目前来看，GPT-3是全球最大数据参与的模型训练，它也是基于传统的NLP和机器学习的一种模型，依然使用神经网络架构，其中包含很多深度学习层，初始模型(监督训练) -> RLHF（Reward 模型） -> 深度自我学习，详细原理有兴趣可以爬梯子去官方一探究竟。但是得到的都是局部最优解，并非全局最优，训练时可能都无法收敛，有限数据还会带来泛化不足的问题。
2023-02-20 16:28:16
2290
原创 非对称加密算法java
public class GetSignFuncImpl implements GetSignFunc { private static final int MAX_ENCRYPT_BLOCK = 117; private static final int MAX_DECRYPT_BLOCK = 128; private static final String PUBLIC_KEY = "213213213213123dsvdvdsfdsfdsfsf"; @Over.
2022-05-25 14:30:51
369
原创 volatile怎么实现禁止重排序
private static volatile User user; //第一步 public ActivitySearchRequest getIns(){ if(Objects.isNull(user)){ //第二步 synchronized (PrimarySearchFacadeImpl.class){ //第三步 if(Objects.isNull(user)){ //第四步 ...
2022-04-26 14:00:27
648
原创 接口响应组装集合的分页
public static void fenye(List list,int pageNo, int pagesize){ List<Integer> subList= list.subList((pageNo-1)*pagesize,pagesize*(pageNo)); System.out.println(subList); }public static void main(String[] args) { List<.
2022-04-05 17:15:08
345
原创 JVM 调优实战
内存分配1.被 线程共享：堆：用来存放对象的，几乎所有对象都放在这里，被线程/栈共享堆也是垃圾回收的主要区域，又叫GC堆存放被NEW出来的对象方法区：方法区主要用来存储已被虚拟机加载的类的信息、常量、静态变量和即时编译器编译后的代码等数据。该区域是被线程共享的。2.非共享：虚拟机栈：用来存栈帧的，对象的引用。随着线程结束内存就释放，不需要垃圾回收。内存溢出，通过减小最大堆和栈容量来换取更多的线程。本地方法栈：和虚拟机栈一样，但是只为本地方法服务程序计数器：..
2022-04-05 16:18:18
550
原创 springBoot跨域
@Configurationpublic class CorsConfig implements WebMvcConfigurer { @Override public void addCorsMappings(CorsRegistry registry) { registry.addMapping("/**") .allowedOrigins("*") .allowCredentials(true) .
2021-05-07 15:06:59
199
原创 事件异步单服务层调用
/*** 业务逻辑**/public void test(){ //todo //..... //异步执行事件，方法直接返回true applicationEventPublisher.publishEvent(new asyEvent("123"));}/*** 监听**/import org.springframework.context.ApplicationEvent;@Getter@Setter@ToStringpublic cl...
2021-04-08 15:19:48
219
原创 docker搭建Nacos
1. 下载nacos镜像 docker pull nacos/nacos-server:1.3.12. mkdir -p /opt/nacos/init.d3. mkdir -p /opt/nacos/logs4. cd /opt/nacos/init.d5. 在custom.properties中编写如下： mnagement.endpoints.web.exposure.include=*6. 启动镜像 docker run -d -p 88.
2021-04-06 17:45:40
284
原创 接口重试
package com.kids.boss.retry;public class RetryDemo { public static void main(String[] args) { Boolean flag = false; int i = 0; while( !flag && i++ < 5){ try{ int a = 1/1; .
2021-03-25 15:57:46
334
原创 入参自动转换枚举
/*** 定义一个枚举**/@Getterpublic enum StatusType { SUCCESS("1","成功"), FAIL("2","失败"), PROCESSING("3","进行中"), ; StatusType(String code,String desc){ this.code = code; this.desc = desc; } private String code;..
2021-03-17 15:29:09
519
原创 java金额转换
public static void main(String[] args) { //分-万 Double amount = new BigDecimal(1512121).divide(new BigDecimal(10000), 4, BigDecimal.ROUND_HALF_UP).doubleValue(); System.out.println(amount); //分-千 Double amount1 = new .
2021-03-04 14:08:29
879
1
原创 JDK8 LocaDate相关用法
public static void main(String[] args) { //年 int year = LocalDate.now().getYear(); System.out.println(year); //月(英文) Month month = LocalDate.now().getMonth(); System.out.println(month); //日 .
2021-03-04 13:44:31
287
3
原创 Hadoop+HDFS+MapReduce使用总结
1.首先了解下hadoop：1.1分为三个重要模块： 分布式文件系统：HDFS —— 实现将文件分布式存储在很多的服务器上 分布式运算编程框架：MapReduce —— 实现在很多机器上分布式并行运算 分布式资源调度平台：Yarn —— 帮用户调度大量的mapreduce程序，并合理分配运算资源 1.2hadoop：相关框架Hadoop：Java编写的软件框架，以支持数据密集型分布式应用 ZooKeeper：高可靠性分布式协调系统 MapReduce：针...
2020-06-12 17:11:35
863
原创 分布式事务
分布式事务1.XA两阶段提交：引入协调者。三阶段提交，引入询问阶段XA是数据库的分布式事务，强一致性，在整个过程中，数据一张锁住状态，即从prepare到commit、rollback的整个过程中，一直把持折数据库的锁，如果有其他人要修改数据库的该条数据，就必须等待锁的释放，严重影响性能缺点：1.性能问题：XA协议遵循强一致性。在事务执行过程中，各个节点占用着数据库资源锁，只有当...
2020-04-11 18:50:45
313
原创 kafka安装
1.将kafka包 解压至/usr/local/下，新建一个logs文件夹2.修改 /config/server.properties 中的logs参数，值为 上一步创建的logs位置3.修改配置文件，当前是使用自己的zookeeper，修改./config/server.properties中的这四个地方listeners = PLAINTEXT://localhost:9092zoo...
2020-04-03 17:27:36
332
原创 雪花算法生成主键id demo
package com.kids.demo01.snow;//SnowFlake算法用来生成64位的ID，刚好可以用long整型存储，能够用于分布式系统中生产唯一的ID， 并且生成的ID有大致的顺序。//在这次实现中，生成的64位ID可以分成5个部分：// `0 - 41位时间戳 - 5位数据中心标识 - 5位机器标识 - 12位序列号`public class SnowFlake ...
2020-04-03 17:22:57
989
原创 lambda简单案列
package com.kids.demo01.lanbuda;import com.kids.demo01.entity.user;import java.util.ArrayList;import java.util.List;import java.util.Map;import java.util.stream.Collectors;//兰姆达表达式public cla...
2020-04-03 17:20:02
288
原创 GET和POST AES加密验签,body加解密步骤
需求：根据name和age查询数据，需要验签(只讲逻辑) 假设参数：?name=316314643131654&age=15&AppID=98233030&iv=9406238369428fe3c305c9195f4a6f5a&sign=xxxx 1.首先获取get方式传入的参数，其中有固定的一个必传参数AppId，通过AppId去数据库中取...
2019-11-12 17:45:53
2443
原创 AES 加解密模式CBC + 填充模式PKCS5Padding + 128位加解密
对称加解密算法AES +加解密模式CBC+ 填充模式PKCS5Padding + 128位加解密 1.对称加密: 加密者和解密者用的是同一串秘钥 2.AES有四种加解密模式：CBC、EBC、CFB、OFB 。CBC模式下，加密时，是对明文进行分组加密的，每组大小一致，到 最后一组时，可能长度不够，这个时候就需要填充到一样长度，就有了下面的填充模式。 ...
2019-11-12 15:06:59
5899
原创 Hbase命令增删查改
启动： ./bin/start-hbase.sh关闭: ./bin/stop-hbase.sh查询版本 version进入shell命令： /bin/hbase shell退出： quit列出所有表：list建表名t1,f1和f2列族： create 't1', {NAME => 'f1', VERSIONS => 1}, {NAME => 'f2...
2019-06-21 09:59:28
603
1
原创 CentOS安装mysql
1.将下载的包上传至服务器，并解压 tar -xvf MySQL-5.5.44-1.linux2.6.x86_64.rpm-bundle.tar2.安装客户端 rpm -ivh MySQL-client-5.5.44-1.linux2.6.x86_64.rpm 如果报错信息为: 那么, 先安装下面这个依赖，再安装client ...
2019-06-17 14:28:29
160
原创 oracle创造亿级别数据过程
create table EMP(EMPNO NUMBER(8) PRIMARY KEY,ENAME VARCHAR2(20),MGR NUMBER(20),HIREDATE DATE);create table che(id NUMBER(8) PRIMARY KEY,name VARCHAR2(20),HIREDATE DATE);declarei int...
2019-04-28 10:10:04
742
原创 千万数据线程转储
public void saveByThreadPool() { //获取千万级数据 List<Data> datas = Repository.query(); if (datas == null || datas.size() == 0) { log.info("目前没有需要处理的数据"); ...
2019-04-25 09:32:24
151
原创 Yum安装nginx
安装：yum -y install nginx1创建目录，引用目录关系mkdir -p /etc/nginx/stream.d/;echo "include /etc/nginx/stream.d/*.conf;" >> /etc/nginx/nginx.conf2编写conf配置文件cat > /etc/nginx/stream.d/stream.conf ...
2019-01-21 16:51:25
260
原创 nginx基础配置文件+域名跳转服务器内部tomcat
user root;worker_processes 1;events { worker_connections 1024;}http { include mime.types; default_type application/octet-stream; sendfile on; keepalive_time...
2019-01-18 17:04:23
416
原创 脚本编写学习
1.if [ true ]; then echo "有值" else echo "没有值"fi 2.shell=$1xshell=$2if [ ${shell} ];then echo "${shell} ${xshell}" else echo "我走了" ...
2019-01-18 15:46:00
4086
1
原创 Liunx防火墙相关使用
执行以下命令后，恢复running：systemctl stop firewalld;pkill -f firewalld;systemctl start firewalld出错请打开systemctl start iptables.service1、firewalld的基本使用启动： systemctl start firewalld查看状态： systemctl stat...
2019-01-18 14:09:23
280
原创 liunx上EalsticSearch安装步骤，亲测可用
#安装javayum -y install java#安装wgetyum -y install wget#安装eswget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.6.3.tar.gz#解压至 /usr/localtar -zxvf elasticsearch-5.6.3....
2019-01-17 14:01:37
282
原创 VMWare虚拟机调试 桥接和NAT 网络
查看VM本机ip： ip a本文介绍 VMWare虚拟机调试 桥接和NAT 两种网络//若本机ip： 192.168.40.2381.设置虚拟机的方式：桥接 -->nmtui-->设置ipv4的ip (网段和本机一样，192.168.40.100/24) ...
2019-01-14 10:19:26
1052
2
原创 存储过程 百万级数据编造
//mysql中 创建存储过程脚本， loop_times （入参）DROP PROCEDURE IF EXISTS proc_api ; CREATE PROCEDURE proc_api (IN loop_times INT)BEGINDECLARE var INT DEFAULT 0;WHILE var < loop_times DOSET var = var ...
2018-12-03 12:25:03
243
原创 springBoot中Excel导出
依赖<dependency> <groupId>org.apache.poi</groupId> <artifactId>poi</artifactId> <version>3.10.1</version></dependency>//工具类pac
2018-12-01 11:13:04
474
原创 接口的加密解密
接口加密1.接口参数加密（基础加密）2.接口参数加密+接口时效性验证（一般达到这个级别已经非常安全了）3.接口参数加密+时效性验证+私钥（达到这个级别安全性固若金汤）4.接口参数加密+时效性验证+私钥+Https（我把这个级别称之为金钟罩，世间最安全莫过于此）加密算法（对称加密和非对称加密）：对称加密：加密数据用的密钥，跟解密数据用的密钥是一样的。非对称加密：加密数据用...
2018-11-14 15:58:23
5009
原创 Docker安装mongodb
docker search mongodocker pull mongo:3.2docker run -d --name mongo -p 27017:27017 -v $PWD/db:/data/db -d mongo:3.2docker ps docker run -it mongo:3.2 mongo --host 172.17.0.1
2018-11-14 15:54:08
157
原创 docker安装mysql+tomcat
Docker安装mysqldocker search mysqldocker pull mysql:5.6docker images |grep mysqldocker run -p 3306:3306 --name mymysql -v $PWD/conf:/etc/mysql/conf.d -v $PWD/logs:/logs -v $PWD/data:/var/lib/my...
2018-11-14 15:48:28
317
原创 阿里云ESC安装docker
添加yum源。# yum install epel-release –y# yum clean all# yum list安装并运行Docker。# yum install docker-io –y# systemctl start docker检查安装结果。# docker info Docker基本用法：docker search 关键词 在Do...
2018-11-14 15:41:54
786
转载 23种设计模式（通俗易懂，白话翻译）
创建型模式1、FACTORY—追MM少不了请吃饭了，麦当劳的鸡翅和肯德基的鸡翅都是MM爱吃的东西，虽然口味有所不同，但不管你带MM去麦当劳或肯德基，只管向服务员说“来四个鸡翅”就行了。麦当劳和肯德基就是生产鸡翅的Factory工厂模式：客户类和工厂类分开。消费者任何时候需要某种产品，只需向工厂请求即可。消费者无须修改就可以接纳新产品。缺点是当产品修改时，工厂类也要做相应的修改。如：如何创建及如...
2018-10-09 15:15:29
2304
2
原创 base64的加密解密
import sun.misc.BASE64Decoder;import sun.misc.BASE64Encoder;import java.io.UnsupportedEncodingException;public class Base64 { public String getBase64(String str) { byte[] b = null;...
2018-10-08 11:02:36
211
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人