本书综合性讲解HuggingFace社区提供的工具集datasets和transformers，书中包括最基础的工具集的用例演示，也包括具体的项目实战，以及预训练模型的底层设计思路和实现原理的介绍。通过本书的学习，读者可以快速掌握HuggingFace工具集的使用方法，掌握自然语言处理项目的一般研发流程，并能研发自己的自然语言处理项目。 本书共14章，分为工具集基础用例演示篇（第1~6章），详细讲解HuggingFace工具集的基本使用方法。中文项目实战篇（第7~12章），通过几个实战项目演示使用HuggingFace工具集研发自然语言处理项目的一般流程。预训练模型底层原理篇（13~14章），详细阐述了预训练模型的设计思路和计算原理。 本书将使用最简单浅显的语言，带领读者快速地了解HuggingFace工具集的使用方法。通过本书中实战项目的学习，读者可以掌握一般的自然语言处理项目的研发流程。通过本书中预训练模型底层原理的学习，能够让读者知其然也知其所以然，做到融会贯通。 本书适合有PyTorch编程基础的读者阅读，也适合作为对自然语言处理感兴趣的读者的参考图书。

本书综合性讲解HuggingFace社区提供的工具集datasets和transformers，书中包括最基础的工具集的用例演示，也包括具体的项目实战，以及预训练模型的底层设计思路和实现原理的介绍。通过本书的学习，读者可以快速掌握HuggingFace工具集的使用方法，掌握自然语言处理项目的一般研发流程，并能研发自己的自然语言处理项目。 本书共14章，分为工具集基础用例演示篇（第1~6章），详细讲解HuggingFace工具集的基本使用方法。中文项目实战篇（第7~12章），通过几个实战项目演示使用HuggingFace工具集研发自然语言处理项目的一般流程。预训练模型底层原理篇（13~14章），详细阐述了预训练模型的设计思路和计算原理。 本书将使用最简单浅显的语言，带领读者快速地了解HuggingFace工具集的使用方法。通过本书中实战项目的学习，读者可以掌握一般的自然语言处理项目的研发流程。通过本书中预训练模型底层原理的学习，能够让读者知其然也知其所以然，做到融会贯通。 本书适合有PyTorch编程基础的读者阅读，也适合作为对自然语言处理感兴趣的读者的参考图书。

本书是介绍自然语言处理（NLP）和深度学习的实战书。NLP已成为深度学习的核心应用领域，而深度学习是NLP研究和应用中的必要工具。本书分为3部分：第一部分介绍NLP基础，包括分词、TF-IDF向量化以及从词频向量到语义向量的转换；第二部分讲述深度学习，包含神经网络、词向量、卷积神经网络（CNN）、循环神经网络（RNN）、长短期记忆（LSTM）网络、序列到序列建模和注意力机制等基本的深度学习模型和方法；第三部分介绍实战方面的内容，包括信息提取、问答系统、人机对话等真实世界系统的模型构建、性能挑战以及应对方法。 本书面向中高级Python开发人员，兼具基础理论与编程实战，是现代NLP领域从业者的实用参考书。

本书对自然语言处理中的各种形式模型进行了系统的梳理，分别讨论了基于短语结构语法的形式模型、基于合一运算的形式模型、基于依存和配价的形式模型、基于格语法的形式模型、基于词汇主义的形式模型、语义自动处理的形式模型、语用自动处理的形式模型、隐马尔可夫模型、统计机器翻译的形式模型。 本书说理透彻、语言流畅、实例丰富、深入浅出，适合于从事自然语言处理教学和研究的科研人员、大学师生阅读，也可以作为人工智能、计算语言学等课程的教学参考。

本书对自然语言处理中的各种形式模型进行了系统的梳理，分别讨论了基于短语结构语法的形式模型、基于合一运算的形式模型、基于依存和配价的形式模型、基于格语法的形式模型、基于词汇主义的形式模型、语义自动处理的形式模型、语用自动处理的形式模型、隐马尔可夫模型、统计机器翻译的形式模型。 本书说理透彻、语言流畅、实例丰富、深入浅出，适合于从事自然语言处理教学和研究的科研人员、大学师生阅读，也可以作为人工智能、计算语言学等课程的教学参考。

自然语言处理被誉为“人工智能皇冠上的明珠”。深度学习等技术的引入为自然语言处理技术带来了一场革命，尤其是近年来出现的基于预训练模型的方法，已成为研究自然语言处理的新范式。本书在介绍自然语言处理、深度学习等基本概念的基础上，重点介绍新的基于预训练模型的自然语言处理技术。本书包括基础知识、预训练词向量和预训练模型三大部分：基础知识部分介绍自然语言处理和深度学习的基础知识和基本工具；预训练词向量部分介绍静态词向量和动态词向量的预训练方法及应用；预训练模型部分介绍几种典型的预训练语言模型及应用，以及预训练模型的最新进展。除了理论知识，本书还有针对性地结合具体案例提供相应的PyTorch代码实现，不仅能让读者对理论有更深刻的理解，还能快速地实现自然语言处理模型，达到理论和实践的统一。本书既适合具有一定机器学习基础的高等院校学生、研究机构的研究者，以及希望深入研究自然语言处理算法的计算机工程师阅读，也适合对人工智能、深度学习和自然语言处理感兴趣的学生和希望进入人工智能应用领域的研究者参考。

自然语言处理被誉为“人工智能皇冠上的明珠”。深度学习等技术的引入为自然语言处理技术带来了一场革命，尤其是近年来出现的基于预训练模型的方法，已成为研究自然语言处理的新范式。本书在介绍自然语言处理、深度学习等基本概念的基础上，重点介绍新的基于预训练模型的自然语言处理技术。本书包括基础知识、预训练词向量和预训练模型三大部分：基础知识部分介绍自然语言处理和深度学习的基础知识和基本工具；预训练词向量部分介绍静态词向量和动态词向量的预训练方法及应用；预训练模型部分介绍几种典型的预训练语言模型及应用，以及预训练模型的最新进展。除了理论知识，本书还有针对性地结合具体案例提供相应的PyTorch代码实现，不仅能让读者对理论有更深刻的理解，还能快速地实现自然语言处理模型，达到理论和实践的统一。本书既适合具有一定机器学习基础的高等院校学生、研究机构的研究者，以及希望深入研究自然语言处理算法的计算机工程师阅读，也适合对人工智能、深度学习和自然语言处理感兴趣的学生和希望进入人工智能应用领域的研究者参考。

本书以ChatGPT为核心，从零开始介绍其背后的自然语言处理（NLP）和深度学习技术。通过深入讲解，读者可以系统地学习如何理解和构建类似ChatGPT的智能对话系统。本书涵盖从基础理论到高级应用的广泛内容，读者不仅能够掌握ChatGPT的原理，还能实际应用这些技术开发出自己的对话系统。 本书分为12章，涵盖的主要内容包括：NLP基础知识；词袋模型和TF-IDF；词向量和词嵌入；神经网络与深度学习在NLP中的应用；Transformer模型及其工作原理；文本生成技术；ChatGPT简介及其重要性；ChatGPT的模型架构；ChatGPT的训练和优化；伦理与安全问题以及未来的发展趋势。 本书内容通俗易懂，案例代码丰富，实用性强，特别适合对自然语言处理、大语言模型构建和对ChatGPT底层原理感兴趣的入门读者和进阶读者阅读，也适合计算机科学、人工智能、数据科学等相关领域的从业人员和研究者阅读。此外，本书也可作为高校和培训机构的教材。

本书重点介绍了神经网络模型在自然语言处理中的应用。首先介绍有监督的机器学习和前馈神经网络的基本知识，如何将机器学习方法应用在自然语言处理中，以及词向量表示（而不是符号表示）的应用。然后介绍更多专门的神经网络结构，包括一维卷积神经网络、循环神经网络、条件生成模型和基于注意力的模型。后，讨论树形网络、结构化预测以及多任务学习的前景。

将深度学习方法应用于各种自然语言处理任务可以将你的计算算法在速度和准确性方面提升到一个全新的水平。本书首先介绍自然语言处理领域的基本构件，接着介绍了使用最先进的神经网络模型可以解决的问题。随着学习的深入，读者将学习卷积神经网络、递归神经网络和迭代神经网络，此外还包括长期短期记忆网络（LSTM）。在后面的章节中，读者将能够使用自然语言处理技术开发应用程序，例如注意力模型和集束搜索（Beam Search）。