构建大型语言模型（从头开始），视频版

Build a Large Language Model (From Scratch), Video Edition

  视频说明

在 Video Editions 中，叙述者阅读书籍，同时内容、图形、代码列表、图表和文本显示在屏幕上。就像有声读物一样，您也可以作为视频观看。

了解如何从头开始构建大型语言模型 （LLMs）！

在《构建大型语言模型（从头开始）》中，畅销书作家 Sebastian Raschka 将指导您逐步创建自己的 LLM。每个阶段都通过明文、图表和示例进行解释。您将从最初的设计和创建，到一般语料库的预训练，再到针对特定任务的微调。

构建大型语言模型（从头开始）将向您介绍如何：

• 规划并编写 LLM
• 准备适合 LLM
• 使用您自己的数据微调 LLMs 以进行文本分类
• 使用人工反馈以确保您的 LLM 遵循说明
• 将预训练的权重加载到 LLM 中

构建大型语言模型（从头开始）将带您进入 AI 黑匣子，以修补为生成式 AI 提供支持的内部系统。在完成 LLM时，您将深入了解 LLMs 的工作原理、限制和自定义方法。你的 LLM 可以在普通笔记本电脑上开发，并用作你自己的个人助理。

  关于技术
据报道，物理学家理查德·费曼 （Richard P. Feynman） 说：“我不明白任何我无法构建的东西。基于同样强大的原则，畅销书作家 Sebastian Raschka 将指导您逐步构建可以在笔记本电脑上运行的 GPT 风格的 LLM。这是一本引人入胜的书，涵盖了这个过程的每个阶段，从规划和编码到培训和微调。

  关于本书
构建大型语言模型（从头开始）是一次实用且非常令人满意的实践之旅，让您了解生成式 AI 的基础知识。无需依赖任何现有的 LLM 库，您将编写一个基本模型，将其发展为文本分类器，并最终创建一个可以遵循您的对话指令的聊天机器人。你会真正理解它，因为你自己构建了它！

  里面有什么

• 规划和编写一个与 GPT-2 相当的 LLM
•   加载预训练权重
• 构建完整的训练管道
• 微调 LLM 以进行文本分类
• 开发遵循人工指令的 LLMs

  关于读者
读者需要具备中级 Python 技能和一些机器学习知识。您创建的 LLM 可以在任何现代笔记本电脑上运行，并且可以选择使用 GPU。

  关于作者
Sebastian Raschka 是 Lightning AI 的一名高级研究工程师，他从事 LLM 研究和开发开源软件。

这本书的技术编辑是 David Caswell。