数学建模社区-数学中国
标题:
中国人民大学《大语言模型》书籍中文版
[打印本页]
作者:
普大帝
时间:
2024-6-1 16:26
标题:
中国人民大学《大语言模型》书籍中文版
你好!我是陪你一起进阶人生的范老师!愿你成才!助你成长!
- m, p4 I, \' E- N0 z, e4 W
你好!我是数学中国范老师,AI大模型时代数学建模赛题的难度也是与日俱增的,不懂大模型即使去参赛也是很吃亏的,这是一本来自
中国人民大学大语言模型综述文章《A Survey of Large Language Models》团队的中文版书籍,本书整理呈现了大模型技术框架和路线图,是一本非常好的大模型入门书籍。主要分为四大部分:
1.背景与基础知识、2.预训练、3.微调与对齐、4.大模型使用,全文将算法、使用场景、使用方法与细节等都有介绍,还不懂大模型或者想进一步去提升的同学可以看一下。
3 P2 h/ `" q6 b( J K
8 S/ c b; M% [ t2 f, m' ?
注册登录后,联系工作人员修改权限,右上角点击签到就会随机赠送10点左右的体力值!点击文件图标可以立即下载文件。
工作人员QQ南方:3242420264 乔叶:1470495151 淡妆:1917509892,帮你快速审核+修改用户组后,可以右上角签到获取体力值,一次注册,日后大量数学建模资源即刻拥有
。
- c8 S0 x4 ^" v" R: ^$ u
中国人民大学《大语言模型》书籍中文版.pdf
(10.3 MB, 下载次数: 6, 售价: 5 点体力)
2024-6-1 16:18 上传
点击文件名下载附件
售价: 5 点体力
[记录]
下载积分: 体力 -2 点
/ S# w8 k: j9 ~; M- p: N
2024-6-1 16:25 上传
下载附件
(293.4 KB)
% f* U5 }% `0 I
以下是书籍大纲,如果有你感兴趣的内容,可以直接下载和阅读啦!
4 P# M2 ~5 d( y
第一部分 背景与基础知识 第一章 引言 - 1.1 语言模型的发展历程 - 1.2 大语言模型的能力特点 - 1.3 大语言模型关键技术概览 - 1.4 大语言模型对科技发展的影响 - 1.5 本书的内容组织 第二章 基础介绍 - 2.1 大语言模型的构建过程 - 2.2 扩展法则 - 2.3 涌现能力 - 2.4 GPT 系列模型的技术演变 第三章 大语言模型资源 - 3.1 公开可用的模型检查点或 API - 3.2 常用的预训练数据集 - 3.3 常用微调数据集 - 3.4 代码库资源
% H8 r4 r8 M% W. N3 R
+ k- z: n; {4 ~2 Q% }
第二部分 预训练 第四章 数据准备 - 4.1 数据来源 - 4.2 数据预处理 - 4.3 词元化 (分词) - 4.4 数据调度 第五章 模型架构 - 5.1 Transformer 模型 - 5.2 详细配置 - 5.3 主流架构 - 5.4 长上下文模型 - 5.5 新型模型架构 第六章 模型预训练 - 6.1 预训练任务 - 6.2 优化参数设置 - 6.3 可扩展的训练技术 - 6.4 模型参数量计算与效率分析 - 6.5 预训练代码实践
; p/ D8 w4 ?" X2 Z. U' s$ D* S
' _; V: I7 R. T6 R$ y
第三部分 微调与对齐 第七章 指令微调 - 7.1 指令数据的构建 - 7.2 指令微调的训练策略 - 7.3 参数高效的模型微调 - 7.4 代码实践与分析 第八章 人类对齐 - 8.1 人类对齐的背景与标准 - 8.2 基于人类反馈的强化学习 - 8.3 非强化学习的对齐方法 - 8.4 关于 SFT 和 RLHF 的进一步讨论
$ _; \0 p r T6 C
+ C9 M1 [6 I9 J1 O# a% U3 Y8 ]& B2 G8 e
第四部分 大模型使用 第九章 解码与部署 - 9.1 解码策略 - 9.2 解码加速算法 - 9.3 低资源部署策略 - 9.4 其他模型压缩方法 第十章 提示学习 - 10.1 基础提示 - 10.2 上下文学习 - 10.3 思维链提示 第十一章 规划与智能体 - 11.1 基于大语言模型的规划 - 11.2 基于大语言模型的智能体 第五部分 评测与应用 第十二章 评测 - 12.1 评测指标与评测方法 - 12.2 基础能力评测 - 12.3 高级能力评测 - 12.4 公开综合评测体系 第十三章 应用 - 13.1 大语言模型在研究领域的应用 - 13.2 大语言模型在专业领域的应用
6 u; U" s( z: ]- S7 ~. x0 Q
: w _+ V( V0 ^1 P& q
2024数学中国国赛数学建模夏令营通知与国赛参赛规则(可免体力下载)
1 Q6 \; g2 O- x% h+ [
http://www.madio.net/forum.php?mod=viewthread&tid=503375&fromuid=1702232
( Q9 I5 u! V5 p# t" \1 B
同学们每年一度的全国大学生数学建模竞赛,已定于9月5日开赛了。这其中关乎着很多人的保研与考研面试的命运,一张证书足以承载很多人未来的命运轨迹,其中或许就有你!为此我们特与内蒙古数学学会共同举办了本次“草原杯”国赛数学建模夏令营,任教老师均是10年以上实战经验与担任过国赛国家级奖项评委的老师,无论你是否是小白,都能在此得以快速提升,在此加强实力,并在国赛中得以发挥。夏令营期间除了每天6小时的正课,我们还会安排组队实战,并有国赛评委最终点评,让理论与实战都有保证。有兴趣的同学可以抓紧联系我们报名,凡是成功报名的同学,皆可获赠数学中国范老师整理制作的,备战2024国赛赛前、赛中、赛后系列学习资源。本次的资料中除了数学中国夏令营报名文件,还包含了本次国赛的参赛规则等赛前注意事项,有兴趣的同学可以下载看一下。
3 f$ d5 L7 X: E
2024-6-1 16:26 上传
下载附件
(166.6 KB)
" b% i6 ^9 [7 L' M
4 U8 _6 B# [1 c
' f( I1 i7 G* i9 z
$ n$ p4 E2 p5 S: I a/ H, q
) z6 Z. m5 g0 Y1 h0 a( B
. T$ o, |) i) _2 Z& o
作者:
changchaoshan
时间:
2024-6-5 20:41
不粗哦不粗,下来看看
) T6 C9 T6 f# ^. G a' o
欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)
Powered by Discuz! X2.5