大模型是深度学习自然语言处理皇冠上的一颗明珠，也是当前AI和NLP研究与产业中最重要的方向之一。本书使用PyTorch 2.0作为学习大模型的基本框架，以ChatGLM为例详细讲解大模型的基本理论、算法、程序实现、应用实战以及微调技术，为读者揭示大模型开发技术。本书配套示例源代码、PPT课件。 《从零开始大模型开发与微调：基于PyTorch与ChatGLM》共18章，内容包括人工智能与大模型、PyTorch 2.0深度学习环境搭建、从零开始学习PyTorch 2.0、深度学习基础算法详解、基于PyTorch卷积层的MNIST分类实战、PyTorch数据处理与模型展示、ResNet实战、有趣的词嵌入、基于PyTorch循环神经网络的中文情感分类实战、自然语言处理的编码器、预训练模型BERT、自然语言处理的解码器、强化学习实战、只具有解码器的GPT-2模型、实战训练自己的ChatGPT、开源大模型ChatGLM使用详解、ChatGLM高级定制化应用实战、对ChatGLM进行高级微调。 《从零开始大模型开发与微调：基于PyTorch与ChatGLM》适合PyTorch深度学习初学者、大模型开发初学者、大模型开发人员学习，也适合高等院校人工智能、智能科学与技术、数据科学与大数据技术、计算机科学与技术等专业的师生作为教学参考书。

大模型是深度学习自然语言处理皇冠上的一颗明珠，也是当前AI和NLP研究与产业中最重要的方向之一。本书使用PyTorch 2.0作为学习大模型的基本框架，以ChatGLM为例详细讲解大模型的基本理论、算法、程序实现、应用实战以及微调技术，为读者揭示大模型开发技术。本书配套示例源代码、PPT课件。 《从零开始大模型开发与微调：基于PyTorch与ChatGLM》共18章，内容包括人工智能与大模型、PyTorch 2.0深度学习环境搭建、从零开始学习PyTorch 2.0、深度学习基础算法详解、基于PyTorch卷积层的MNIST分类实战、PyTorch数据处理与模型展示、ResNet实战、有趣的词嵌入、基于PyTorch循环神经网络的中文情感分类实战、自然语言处理的编码器、预训练模型BERT、自然语言处理的解码器、强化学习实战、只具有解码器的GPT-2模型、实战训练自己的ChatGPT、开源大模型ChatGLM使用详解、ChatGLM高级定制化应用实战、对ChatGLM进行高级微调。 《从零开始大模型开发与微调：基于PyTorch与ChatGLM》适合PyTorch深度学习初学者、大模型开发初学者、大模型开发人员学习，也适合高等院校人工智能、智能科学与技术、数据科学与大数据技术、计算机科学与技术等专业的师生作为教学参考书。

"《PyTorch深度学习与大模型部署及微调》根据大多数软件公司对AI大模型开发程序员的标准要求，结合范例程序，针对零基础人群，讲述了从“入门”到“能干活”所必需掌握的知识点。 《PyTorch深度学习与大模型部署及微调》内容涵盖了深度学习各种模型的知识点，包括Python和Pytorch的开发环境、神经网络预测技术、用卷积和残差神经网络分类图片的技术、数据预处理和数据增强、用生成对抗网络识别图片的技术、用循环神经网络和Transformer 网络分析文本的技术、用VIT模型分类图片的技术、人脸识别和目标物体识别的技术、音频处理技术，以及DeepSeek本地化部署和微调技术等。 "

本书全面、系统地介绍从神经网络到Transformer的相关知识，为读者构建大模型打好基础，本书写了一个27MB参数的大模型，详细地为读者展示大模型构建的过程。本书共20章，第1、2章介绍神经网络的基础与典型神经网络，带领读者手推前向与反向传播、写一个神经网络；第3、4、5章介绍编解码-神经网络架构、Tokenlization与数学基础；第6、7、8、9章详细介绍Transformer各模块的基本原理；第10章介绍Transformer模型的超参数，并在第11章给出Transformer实现代码；第12、13、14章介绍Transformer面试常见问题、最新模型及Transformer模型的各种变体；第15到20章是GPT模型构建实战，包括MiniMind大模型案例构建、MiniMind代码详解、MiniMind安装、MiniMind训练、MiniMind微调、Minimind推理。 本书通俗易懂，入门门槛低，适合理工科学生、刚走上工作岗位的开发人员、准备了解或转型从事生成式AI的从业人员、计算机相关专业的学生、准备参加大厂算法面试等人员阅读，也适合相关高等院校作为教材。

"《从零构建大模型:算法、训练与微调》是一本系统且实用的大模型构建指南，旨在引领读者从基础知识起步，逐步深入探索大模型的算法原理、训练方法及微调技术。《从零构建大模型:算法、训练与微调》共12章，涵盖了Transformer模型的基础理论，如Seq2Seq模型、分词、嵌入层和自注意力机制等关键概念；并深入剖析了GPT模型的核心实现与文本生成过程，以及BERT模型的预训练和微调技术。同时，也对ViT（视觉Transformer）模型的架构、训练方法，以及高阶微调策略如Adapter Tuning和P-Tuning进行了详尽讲解。此外，还系统地介绍了数据处理、数据增强、模型性能优化（包括混合精度训练和分布式训练）、对比学习、对抗训练、自适应优化器、动态学习率调度，以及模型蒸馏与剪枝技术等多个方面。最后，通过应用案例，展示了模型训练和微调的完整流程，助力读者将理论知识转化为实践技能。 全书注重理论与实践的结合，适合希望系统掌握大模型构建、训练和优化的研发人员、高校学生，也适合对自然语言处理、计算机视觉等领域的大模型开发有兴趣的读者。还可作为培训机构和高校相关课程的教学用书。"

"《从零构建大模型:算法、训练与微调》是一本系统且实用的大模型构建指南，旨在引领读者从基础知识起步，逐步深入探索大模型的算法原理、训练方法及微调技术。《从零构建大模型:算法、训练与微调》共12章，涵盖了Transformer模型的基础理论，如Seq2Seq模型、分词、嵌入层和自注意力机制等关键概念；并深入剖析了GPT模型的核心实现与文本生成过程，以及BERT模型的预训练和微调技术。同时，也对ViT（视觉Transformer）模型的架构、训练方法，以及高阶微调策略如Adapter Tuning和P-Tuning进行了详尽讲解。此外，还系统地介绍了数据处理、数据增强、模型性能优化（包括混合精度训练和分布式训练）、对比学习、对抗训练、自适应优化器、动态学习率调度，以及模型蒸馏与剪枝技术等多个方面。最后，通过应用案例，展示了模型训练和微调的完整流程，助力读者将理论知识转化为实践技能。 全书注重理论与实践的结合，适合希望系统掌握大模型构建、训练和优化的研发人员、高校学生，也适合对自然语言处理、计算机视觉等领域的大模型开发有兴趣的读者。还可作为培训机构和高校相关课程的教学用书。"

本书详尽地覆盖了多模态大模型的算法原理和应用实战，提供了丰富的微调技术细节和实际案例，适合对多模态大模型有兴趣的技术人员深入学习及应用。 本书分为两篇： 算法原理篇 详细介绍了先进的深度学习模型，包括Transformer、GPT系列、深度生成模型，从基本架构、训练方法到特定应用，包括但不限于Seq2Seq结构、位置编码、注意力机制、残差连接、变分自编码器、GAN、ViT、CLIP、Stable Diffusion、各模型训练实践的知识点。此外，探讨了预训练模型的涌现能力、模型参数和通信数据量的估算，以及分布式训练的各种技术，如数据并行、模型并行和混合精度训练等。 应用实战篇 聚焦于深度学习模型的实际应用，特别是文本和图像生成，以及代码生成的应用实战。通过具体实战项目，如利用Stable Diffusion进行图像生成和Code Llama进行代码生成，提供了微调技术的详细细节，介绍了LangChain等大模型应用框架。

本书详尽地覆盖了多模态大模型的算法原理和应用实战，提供了丰富的微调技术细节和实际案例，适合对多模态大模型有兴趣的技术人员深入学习及应用。 本书分为两篇： 算法原理篇 详细介绍了先进的深度学习模型，包括Transformer、GPT系列、深度生成模型，从基本架构、训练方法到特定应用，包括但不限于Seq2Seq结构、位置编码、注意力机制、残差连接、变分自编码器、GAN、ViT、CLIP、Stable Diffusion、各模型训练实践的知识点。此外，探讨了预训练模型的涌现能力、模型参数和通信数据量的估算，以及分布式训练的各种技术，如数据并行、模型并行和混合精度训练等。 应用实战篇 聚焦于深度学习模型的实际应用，特别是文本和图像生成，以及代码生成的应用实战。通过具体实战项目，如利用Stable Diffusion进行图像生成和Code Llama进行代码生成，提供了微调技术的详细细节，介绍了LangChain等大模型应用框架。

《大模型算法：强化学习、微调与对齐》系统地讲解了大模型技术、训练算法（包括强化学习、RLHF、PPO、GRPO、DPO、SFT与CoT蒸馏等）、多种效果优化措施及其实践。全书以大语言模型（LLM）为核心，内容广泛且深入，绝大部分同样适用于视觉语言模型（VLM）和多模态语言模型（MLLM）。本书适合AI算法与工程领域的从业者、相关专业的学生，以及希望深入了解大模型技术、且具备一定AI基础的读者阅读。 本书特色： 【1】原创巨献 100+ 全彩架构图，深入浅出，直击算法核心。 【2】由企业一线资深算法工程师撰写，融入了企业级实践经验，深度契合大厂所用所需。 【3】多次进入京东AI图书榜 Top 5，行业力作。 【4】研发与面试利器，大模型算法、强化学习一网打尽。

这是一本案例驱动的LLM应用开发指南，适合具备一定编程基础的开发者阅读。通过本书，读者可以在短时间内掌握多种类型的LLM应用的开发方法，以及基于现实中的业务场景设计并实现符合用户真实诉求的AI系统。对此，本书提供了丰富的“即插即用”的案例代码和最佳实践。 本书分为8章，全面阐述LLM应用的技术体系、开发模式和落地案例，具体内容如下： 第1章 先介绍LLM的基本概念和应用场景，然后介绍LLM应用开发的核心技术，并引出主流的集成性开发框架。 第2～8章 分析大语言模型应用的场景案例，即基于常见业务场景，梳理LLM应用的系统架构和实现过程，并采用主流的开源框架完成案例场景的开发落地。每章讲解一个系统案例，包含翻译器工具、通用的文档检索助手、纠错型RAG应用、智能化的简历匹配服务、多模态处理器、定制化Agent开发、混合Agent架构设计7个具体的案例。针对每一个案例，都提供具体的应用场景分析和系统架构设计，强调其背后通用的设计思想和应用方法。同时，案例中结合LangChain、LangChain4j、LlamaIndex这3款主流的开发框架，详细介绍其功能特性、使用方法和开发实现。