|
|
1 课程介绍.mp4& Y2 x$ d1 Y. C9 |; B# m) ~/ E
2 注意力机制.mp4- U" N/ U$ ^( I/ M( A
3 自注意力机制.mp43 r$ F4 r6 b F, z
4 Transformer的架构概述.mp4
0 O' v0 D, Q6 ]3 U- z$ r: X5 Transformer Encoder的多头注意力.mp45 F/ l# u* V) T% C
6 Transformer Encoder的位置编码.mp4( D* U2 l" `( b
7 Transformer 残差链接、LayerNorm、FFN.mp4
; s% b5 ~$ w! d5 |. T4 b8 Transformer Decoder.mp49 u8 m# U A5 Y+ O0 w7 R1 g
9 Transformer 训练及性能.mp4
9 w r9 u2 U( x9 M" `: Z10 Transformer机器翻译工作流程.mp4
J6 A: w: m4 X# i0 `. T% W7 l! c p3 p11 Transformer的Encoder代码解读.mp4* Z( x5 U" f" i9 }
12 Transformer的Decoder代码解读.mp4
! @ u1 D! \# O13 Transformer的超参设置代码解读.mp4
0 a# O& `% \6 V" `( U14 Transformer的训练示例（人为随机数据）代码解读.mp4
5 b9 k) J' K! J" m15 Transformer的训练示例(德语-英语机器翻译)代码解.mp4" y4 n7 H+ k7 f0 S0 j, i! B
16 结合中文注释代码深入解读1.mp4
/ T1 Q& l) T4 @0 \9 q17 结合中文注释代码深入解读2.mp4
+ Y! N2 Y2 g5 r7 @9 y+ L18 LLM推理方式.mp4- w; }# N4 m9 n) s
19 文本生成模式.mp44 a- n7 e7 A, t
20 文本生成策略.mp4
7 L$ V1 |/ e j21 Token和分词器.mp4! f9 n/ G( K8 T
22 文本生成过程.mp4
f: \. i Z/ }! A! m2 {6 D! A23 prefill和解码阶段.mp4
& j' h& _ O( I+ j24 llama3文本生成过程.mp4
2 t6 N0 J/ `* A* @ O25 文本生成时的QKV含义.mp4
0 V+ E% k; U7 F& N+ `26 大模型开发阶段划分.mp4
+ H$ @" c# C( _: s; t, e1 C27 SFT微调.mp4
3 U" |) ~$ l+ @. A3 m2 Z9 @28 微调方法(全参、冻结参数、LoRA、QLoRA).mp4
" e# b: m$ F9 T* T8 N- Y9 |9 t$ ^29 LoRA微调.mp4; @ A$ g' F+ Z; o
30 QLoRA微调.mp4$ T; t0 z* L1 F5 Y2 j
31 llama模型进化史.mp4
3 \# A- R, O# k1 T32 llama3模型类型.mp4$ }! T$ e* ?3 ] m+ K% \8 e
33 llama大模型生态.mp4# x" ^( l3 o2 {: v6 K8 _8 ?9 f7 A
34 llama3模型架构.mp4
3 L1 |, i4 p B/ O+ m' H9 R35 RMSNorm归一化.mp4
0 S3 V" Z8 E2 t3 X+ y* ~4 w& S: |36 SwiGLU激活函数.mp4. e) x3 o# D- r; j0 u
37 RoPE旋转位置编码.mp4
( ?' _" G! a4 J* |38 GQA分组查询注意力.mp4
3 T' K& N u% P: g- |39 KVCache.mp4
9 d3 [/ E3 r! T( n7 j4 l- q8 L40 各文件功能.mp4
* @; |$ E$ ?* r/ @4 d" W41 completion和chat应用脚本代码解析.mp4
1 X+ j' `0 I( l3 ?/ T42 generation.py代码解析.mp4% `3 A1 G# E' T/ D5 X5 s
43 model.py代码解析.mp4
% ~6 \5 Q4 G* K* q$ K% c) b1 f44 tokenizer.py代码解析.mp49 v X, g7 R4 k
45 RMSNorm代码解析.mp4
. I* N( M) ]8 q46 SwiGLU代码解析.mp4
. l5 }4 O9 p S: Y! s2 ]+ N47 GQA代码解析.mp4# ] l8 f# I* F; N8 } N. l
48 RoPE代码解析.mp4
7 @9 `2 p! Y% i6 a: P4 h4 Z49 KVCache代码解析.mp4
0 G" j6 g% M' R% }50 阿里云实例创建.mp4
* {' c- }. q( M6 S/ [51 ollama介绍.mp4
* |* D6 O. r1 C( u3 s# A52 ollama安装.mp4
3 W1 q1 @5 |, q8 @+ x- }" J$ S% v53 llama3推理.mp4
/ k* F* b5 X" T }- d# w54 vLLM部署llama3.mp42 W7 W# x& E; [; ?; Y" L5 d0 B
55 llama_factory介绍.mp4" F* A9 H d/ ]; X
56 llama_factory安装及llama3模型下载.mp4" g# W; Z4 q) {% c# [. |
57 LoRA微调训练.mp4) t5 l+ _4 T: ~0 U1 \
58 llama3中文增强大模型推理.mp4
; z Q/ @4 T4 A; G! [8 K/ ~59 llama3中文增强大模型评估.mp4$ S5 C" C0 s7 }, z& C
60 lora文件合并.mp45 ]6 h0 t1 H' k' Q3 s9 w1 L8 J
61 数据集准备.mp4
- g q% h& t) e$ H$ s62 lora 微调.mp4) _8 E# p8 s$ @% e
63 llama3医疗问答大模型推理.mp4
8 c: h2 }+ l6 x! s% [1 U. d) j# l64 qlora微调 .mp4. {1 {% J/ V/ K( H4 f
65 qlora微调的医疗问答大模型推理.mp4/ N. F1 W7 v! ]0 E% {. Q3 R" s
课件资料.7z
( `1 V. l, p; o# \. P9 r% I1 w7 s7 s8 s7 \5 K
& n4 k6 u+ k1 \9 C% Z ~" C
7 J& Q4 V: h2 I7 ^4 T, X
温馨提示：为避免链接被和谐，请第一时间将资源保存到自己网盘中8 F1 _6 b" J8 m) n+ C% N# L
1 D4 ?8 i; U4 x/ M: w1 s6 E4 U网盘链接：https://pan.baidu.com/s/1rhkPfvVornKgrAORZv1YXQ 提取码搜索公众号“程序员编程社区”，回复 “ x2 ” 即可6 i4 d' X+ n2 b7 M; y# E
1 q) X: e8 C: S) c( Q" K
|
|
发表于 