本书深入阐述了大语言模型的基本概念和算法、研究前沿以及应用，涵盖大语言模型的广泛主题，从基础到前沿，从方法到应用，涉及从方法论到应用场景方方面面的内容。首先，本书介绍了人工智能领域的进展和趋势；其次，探讨了语言模型的基本概念和架构、Transformer、预训练目标和解码策略、上下文学习和轻量级微调、稀疏专家模型、检索增强型语言模型、对齐语言模型与人类偏好、减少偏见和有害性以及视觉语言模型等内容；最后，讨论了语言模型对环境的影响。 本书内容全面、系统性强，适合高年级本科生和研究生、博士后研究人员、讲师以及行业从业者阅读与参考。

本书深入阐述了大语言模型的基本概念和算法、研究前沿以及应用，涵盖大语言模型的广泛主题，从基础到前沿，从方法到应用，涉及从方法论到应用场景方方面面的内容。首先，本书介绍了人工智能领域的进展和趋势；其次，探讨了语言模型的基本概念和架构、Transformer、预训练目标和解码策略、上下文学习和轻量级微调、稀疏专家模型、检索增强型语言模型、对齐语言模型与人类偏好、减少偏见和有害性以及视觉语言模型等内容；最后，讨论了语言模型对环境的影响。 本书内容全面、系统性强，适合高年级本科生和研究生、博士后研究人员、讲师以及行业从业者阅读与参考。

大语言模型正以惊人的速度重塑世界，引发一场全新的智能革命。从 ChatGPT 的横空出世，到各行各业的颠覆式变革，大语言模型不仅仅是技术热点，更是我们理解未来、把握机遇的关键所在。 这本书将带你深入这场变革的核心。你将了解： 1.大语言模型的原理与应用：探索 Transformer 等核心技术原理，揭开大语言模型的神秘面纱。 2.智能革命的影响力：洞悉大语言模型在医疗、法律、教育、编程、艺术等领域的广泛应用和深远影响，看它如何提升效率、催生新职业，又带来哪些挑战。 3.超越技术的思考：引领你探讨智能、思维与意识的本质，以及大语言模型对这些核心概念的冲击和启发。 这场由大语言模型驱动的智能革命已经到来，不了解它，你就可能错过未来。这本书不仅为你揭示大语言模型的技术奥秘，更重要的是，它将帮助你在充满不确定性的时代，看清智能发展的浪潮，把握住属于你的机遇。

本书展现了大语言模型技术的整体框架和路线图，内容讲解力求简明、准确、实用，主要目的在于为相关行业或研究领域提供大模型技术的中文参考资料，推动我国相关人工智能技术的发展。全书共13章，内容涉及大模型的背景和基础知识、资源、预训练、微调与对齐、大模型使用以及模型评测等，同时还提供了相关的代码示例与实验工具包。 本书可供具有深度学习基础的读者阅读与使用，既可作为高等学校人工智能、大数据、计算机类等专业教材，也可作为相关研究与从业人员的参考用书。

大语言模型正以惊人的速度重塑世界，引发一场全新的智能革命。从 ChatGPT 的横空出世，到各行各业的颠覆式变革，大语言模型不仅仅是技术热点，更是我们理解未来、把握机遇的关键所在。 这本书将带你深入这场变革的核心。你将了解： 1.大语言模型的原理与应用：探索 Transformer 等核心技术原理，揭开大语言模型的神秘面纱。 2.智能革命的影响力：洞悉大语言模型在医疗、法律、教育、编程、艺术等领域的广泛应用和深远影响，看它如何提升效率、催生新职业，又带来哪些挑战。 3.超越技术的思考：引领你探讨智能、思维与意识的本质，以及大语言模型对这些核心概念的冲击和启发。 这场由大语言模型驱动的智能革命已经到来，不了解它，你就可能错过未来。这本书不仅为你揭示大语言模型的技术奥秘，更重要的是，它将帮助你在充满不确定性的时代，看清智能发展的浪潮，把握住属于你的机遇。

本书旨在帮助非计算机专业本科生快速掌握大语言模型（LLM）的入门知识和实用技术。全书共8章，阐述了LLM如何助力解决日常生活与科研中的难题，并深度挖掘了提示工程、检索增强技术以及LLM在智能体领域的应用等实用技巧。同时，书中还涵盖了LLM的应用环境、风险与安全技术，强调理性使用LLM技术的重要性。借助简洁易懂的语言和实际案例，读者既能洞悉LLM的核心理念，又能熟练驾驭其实战应用，深切感受科技创新如何无缝融入日常学习、工作和生活，助力快速获取信息和提高工作效率。 本书适合作为普通高等学校非计算机专业本科生人工智能类通识课或选修课教材或参考书，也可供对大语言模型技术与应用感兴趣的读者参考阅读。

随着ChatGPT等大语言模型的迅速发展，大语言模型已经成为人工智能领域发展的快车道，不同领域涌现出各种强大的新模型。开发者想要独立构建、部署符合自身需求的大语言模型，需要理解大语言模型的实现框架和基本原理。 本书梳理大语言模型的发展，首先介绍Transformer模型的基本原理、结构和模块及在NLP任务中的应用；然后介绍由只编码（Encoder-Only）到只解码（Decoder-Only）的技术路线发展过程中对应的 BERT、GPT等大语言模型；接下来介绍大语言模型在部署、训练、调优过程中涉及的各种关键技术，如自动并行、预训练与微调、RLHF等，并提供相应的实践指导；最后以开源大语言模型BLOOM和LLaMA为样例，介绍其架构和实现过程，帮助读者理解并构建、部署自己的大语言模型。本书还提供了基于MindSpore框架的丰富样例代码。 本书适合人工智能、智能科学与技术、计算机科学与技术、电子信息工程、自动化等专业的本科生和研究生阅读，同时也为从事大语言模型相关工作的软件开发工程师和科研人员提供翔实的参考资料。

随着ChatGPT等大语言模型的迅速发展，大语言模型已经成为人工智能领域发展的快车道，不同领域涌现出各种强大的新模型。开发者想要独立构建、部署符合自身需求的大语言模型，需要理解大语言模型的实现框架和基本原理。 本书梳理大语言模型的发展，首先介绍Transformer模型的基本原理、结构和模块及在NLP任务中的应用；然后介绍由只编码（Encoder-Only）到只解码（Decoder-Only）的技术路线发展过程中对应的 BERT、GPT等大语言模型；接下来介绍大语言模型在部署、训练、调优过程中涉及的各种关键技术，如自动并行、预训练与微调、RLHF等，并提供相应的实践指导；最后以开源大语言模型BLOOM和LLaMA为样例，介绍其架构和实现过程，帮助读者理解并构建、部署自己的大语言模型。本书还提供了基于MindSpore框架的丰富样例代码。 本书适合人工智能、智能科学与技术、计算机科学与技术、电子信息工程、自动化等专业的本科生和研究生阅读，同时也为从事大语言模型相关工作的软件开发工程师和科研人员提供翔实的参考资料。

这是一本从工程化角度讲解大语言模型的核心技术、构建方法与前沿应用的著作。首先从语言模型的原理和大模型的基础构件入手，详细梳理了大模型技术的发展脉络，深入探讨了大模型预训练与对齐的方法；然后阐明了大模型训练中的算法设计、数据处理和分布式训练的核心原理，展示了这一系统性工程的复杂性与实现路径。 除了基座模型的训练方案，本书还涵盖了大模型在各领域的落地应用方法，包括低参数量微调、知识融合、工具使用和自主智能体等，展示了大模型在提高生产力和创造性任务中的卓越性能和创新潜力。此外，书中进一步介绍了大模型优化的高级话题和前沿技术，如模型小型化、推理能力和多模态大模型等。最后，本书讨论了大模型的局限性与安全性问题，展望了未来的发展方向，为读者提供了全面的理解与前瞻性的视角。 无论是人工智能领域的研究员、工程师，还是对前沿技术充满好奇的读者，本书都将是您了解和掌握大模型技术的必备指南。

《大语言模型：原理与工程实践》用10 章对大语言模型进行全面且深入的介绍。首先对大语言模型的基本概念进行介绍。其次，从大语言模型的基础技术、预训练数据构建、预训练技术等方面展开讨论，帮助读者深入了解大语言模型的构建和训练过程。然后，详细介绍有监督微调和强化对齐等技术，以及如何评估大语言模型的性能。外，介绍提示工程和工程实践等方面的内容，帮助读者了解大语言模型的应用和实际操作过程。最后，介绍如何从零开始微调大语言模型，辅以代码示例，帮助读者更好地应用这些技术。 通过阅读本书，读者可以获得全面且深入的大语言模型的知识框架。无论您是研究人员、工程师，还是产品经理，都能从中获得有价值的知识。