- 博客(21)
- 收藏
- 关注
RSS订阅原创 从FasterTransformer源码解读开始了解大模型（1.1）一个decoder-only的模型长啥样
对于一个没有接触过LLM的初学者来说，如果想要了解一个大模型的推理框架，首先应该知道大模型整个的工作原理是怎样的，知道transformers的结构是怎么生成词的，否则很容易会在读代码的过程中越读越迷糊，进入一种“我在哪里？我在看什么？这一段是做什么的”困惑状态，所以在此先推荐从来没有接触过相关知识的同学去读一下Attention is all you need的论文原文。
2024-04-06 20:53:10
1062
原创 从FasterTransformer源码解读开始了解大模型（1.0）了解FasterTransformer
FasterTransformer（下文简称FT或者ft）是一个用于大语言模型的推理引擎。目前ft的源代码里集成了bart，bert，gpt2（代码中叫multi_gpu_gpt）、t5等模型，如果有一定开发能力，还可以自己在ft里集成llama、chatglm等模型。通过对FT进行源码解读，可以学习到很多大模型的相关知识
2024-03-24 21:56:56
884
原创 从学龄前开始解读FFMPEG代码 之 avformat_find_stream_info函数四
avformat_find_stream_info函数解读文章的最后一篇，在最后这篇解读文章中会对最后的两次大循环进行解读。
2022-04-05 17:32:07
1798
1
原创 从学龄前开始解读FFMPEG代码 之 avformat_find_stream_info函数三
FFmpeg源码解读， avformat_find_stream_info第四次循环的分析，以及分析EOF情况的处理和编解码器codec的flush冲刷
2022-03-13 17:14:42
2023
原创 从学龄前开始解读FFMPEG代码 之 avformat_find_stream_info函数二
在开始循环前以及第一次循环内，avformat_find_stream_info都做了哪些事情，同时也提到avformat_find_stream_info这个函数就是通过多个循环来完成工作的，所以，接下来这一篇则继续按照讲解循环的形式来说明
2022-01-09 20:26:35
1361
原创 从学龄前开始解读FFMPEG代码 之 avformat_find_stream_info函数 一
从学龄前开始解读FFMPEG代码 之 avformat_find_stream_info函数 一开始学习前想说的话函数声明函数实现0-第一次循环前做的准备开始学习前想说的话avformat_find_stream_info是一个很长很复杂的函数，在开始学习前也查了很多相关资料来帮助阅读学习这个函数的源代码，在整个函数体中中，包含多次的循环操作，用于对读入的视频数据进行检查并获取到视频文件中的stream数据。总函数长度有五百多行，所以可能会分成多个文章部分来学习
2021-12-27 22:25:37
1443
原创 从学龄前开始解读FFMPEG代码 之 avformat_open_input函数read_probe和read_head
从学龄前开始解读FFMPEG代码 之 avformat_open_input函数 read_probe和read_head开始学习前想说的话avi格式视频要如何probe
2021-12-05 20:46:16
285
原创 从学龄前开始解读FFMPEG代码 之 avformat_open_input函数 三
从学龄前开始解读FFMPEG代码 之 avformat_open_input函数 三开始学龄前学习前想说的话init_input()使用三个函数做了什么最终回到了avformat_open_input中update_stream_avctx()的作用总结与最后的一些话开始学龄前学习前想说的话这一部分的内容是回到init_input函数，并在完成init_input函数的学习之后，解决avformat_open_input剩下的内容，其实在第二章中，搞懂了三个主要的函数，剩下的内容就不是很多了（坑了许久，
2021-11-21 22:29:17
1191
原创 从学龄前开始解读FFMPEG代码 之 avformat_open_input函数 二
从学龄前开始解读FFMPEG代码 之 avformat_open_input函数 二开始学龄前学习前想说的话av_probe_input_buffer2()的定义和功能avio_read()函数所做的事av_probe_input_format2()函数学习收尾的一些话开始学龄前学习前想说的话这一部分的内容主要是对两个函数av_probe_input_buffer2()，av_probe_input_format2()以及avio_read进行稍微详细一点的学习，以及补充一些函数中的其他内容。只有看懂了
2021-07-24 21:03:47
608
4
原创 从学龄前开始解读FFMPEG代码 之 avformat_open_input函数 一
从学龄前开始解读FFMPEG代码 之 avformat_open_input函数 一在avformat_open_input()开始学龄前学习想说的话avformat_open_input()的定义avformat_open_input()的实现关于ID3v2关于FFmpeg中的错误类型返回值init_input()函数初探在avformat_open_input()开始学龄前学习想说的话这一函数的内容整体下来是非常的长的，所以需要捋清楚整个学习流程的过程也需要花费一点功夫。这也是整个学龄前学习过程中碰
2021-07-11 21:57:48
526
原创 从学龄前开始解读FFMPEG代码 之 AVDictionary结构体以及av_dict_set()相关函数
@[TOC]( 从学龄前开始解读FFMPEG代码 之 AVDictionary结构体以及av_dict_set()相关函数 )开始AVDictionary以及相关函数学习前想说的一些话首先声明源码是我在github上直接clone并checkout到了4.2的版本。关于这个结构体以及后续的相关函数的说明可能会进行多次添加修改（在阅读源码的整体学习过程中真的随时都有可能更新自己的认知）从AVDictionary开始AVDictionary结构体其实是FFmpeg提供的用于存储键值对的结构体，使用该结构
2021-07-04 16:32:50
2782
原创 从学龄前开始解读FFMPEG代码 之 AVFormatContext以及avformat_alloc_context()函数
@[TOC](从学龄前开始解读FFMPEG代码 之 AVFormatContext以及avformat_alloc_context()函数)开始avformatcontext以及对应alloc函数学习前想说的一些话AVFormatContext是用于打开/写入文件或者网络视频流等视频码流文件时使用的结构体，结构体内部有非常多的参数，所以会挑几个常见的或者主要的讲。而alloc函数内部则是有更深的底层函数，更深度的函数解读则需要另外花一些时间再开一篇文章…（大概率不会坑？）从AVFormatContex
2021-06-28 00:24:47
512
1
原创 从学龄前开始解读FFMPEG代码 之 avcodec_register_all函数
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、pandas是什么？示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码
2021-06-12 17:07:24
1143
4
原创 从学龄前开始解读FFMPEG代码 之 av_register_all函数
从学龄前开始解读FFMPEG代码 之 av_register_all函数开始FFMPEG学龄前知识学习之前想说的一些话从第一个函数开始之av_register_all()ff_thread_once()av_format_next_initav_format_init_next()关于muxer_list.c和demuxer_list.coutdev_list 和 indev_list以及跟avdevice_register_all()的关系开始FFMPEG学龄前知识学习之前想说的一些话自从接触到视频编
2021-05-30 20:16:10
508
2
原创 caffe版本的faster-RCNN配置全过程(rgb大神的那一款)＋问题汇总和解决方法
caffe版本的faster-RCNN配置全过程写在前面的话软件配置配置过程1.github上下载代码2. py部分模块的加载3.对caffe部分进行make写在前面的话本文章主要是对在服务器上配置caffe版本的 faster-RCNN 的全过程以及问题总结，最后达到的目标是将代码中的tools/demo.py成功运行起来。总的来收非常痛苦，能碰到的坑几乎全给我碰上了。不过，兵来将挡水来土掩...
2019-05-14 18:08:51
2525
原创 网络模型测试&本地访问远程服务器tensorboard
网络模型测试&本地访问远程服务器tensorboard训练网络结果和tensorboard查看网络结果测试通过tensorboard查看远程训练结果下一步计划训练网络结果和tensorboard查看在完成tf-faster-rcnn的训练之后，我们得到了最终的训练网络模型。我们可以尝试修改demo.py文件，来使用我们刚训练好的模型对数据进行识别测试。我们已经训练好的模型放在项目根目录...
2018-12-14 21:20:21
695
原创 使用fasterRCNN-tf 在GPU上训练自己的数据
fasterRCNN-tf训练自己的模型使用fasterRCNN-tf在GPU上训练自己的数据预训练模型数据格式代码修改参数调整运行训练代码调试和实际运行中出现的一些问题下一步计划使用fasterRCNN-tf在GPU上训练自己的数据经过之前环境的配置和demo的运行，现在尝试在实验室服务器环境中运行项目数据。使用的之前配置和各种软件在 https://blog.csdn.net/zzyinc...
2018-12-05 21:04:57
2546
原创 GPU服务器上的FasterRCNN-tf版配置和demo运行
GPU服务器上的FasterRCNN-tf版配置和demo运行在服务器上配置FSRCNN的运行服务器连接服务器基本配置项目布置和修改1.setup.py修改2.编译cython模块3.安装coco数据库4.下载预训练模型和配置软连接5.使用GPU运行DEMO测试结果下载下一步计划在服务器上配置FSRCNN的运行之前的工作以及demo以及实验都是在实验室的PC上完成的，由于硬件的限制，缺少GPU...
2018-12-03 22:05:08
2155
14
原创 tensorflow版本faster-rcnn-CPU, ubuntu, Python3.5配置记录
tensorflow版本faster-rcnn-CPU, ubuntu, Python3.5配置记录写在前面的话软硬件配置配置流程1.下载git上的源代码2.修改lib/setup.py文件3.修改lib/model/nms_wrapper.py文件4.修改lib/model/config.py文件连接使用cython下载使用COCO数据库下载并连接已经完成训练的数据模型运行demo.py文件下一...
2018-11-12 11:51:20
1875
5
原创 在pycharm中完成MNIST训练
MNIST数据训练入门MINST数据训练入门数据集介绍训练方法代码实现下一步学习计划实验时关于input_data.pyMINST数据训练入门通过该训练来进行第一个机器学习的数据训练过程，类似于编程语言中的helloworld.MNIST是入门级的CV数据集，包含手写的数字图片，从0~9.任务就是训练以使得机器能够识别图像中的数字内容。数据集介绍数据中包含60k的训练数据集（mnist....
2018-10-28 21:12:34
4669
1
原创 Win10下的Anaconda, TensorFlow以及Pycharm环境搭建和配置
Win10下的Anaconda, TensorFlow以及Pycharm环境的搭建和配置写在开头的话以下是正文部分写在文章末尾写在开头的话这篇文章是我的第一篇，主要记录和描述在实验室电脑上的TensorFlow学习的第一步，搭建相关开发环境的主要过程以下是正文部分主要搭建环境的软件配置为Windows10，Anaconda5.3.0， TensorFlow1.10.0，编译器为pyChar...
2018-10-24 12:53:36
1742
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人