剧情简介：本书着眼于人工智能自身的安全问题，旨在将当前人工智能安全的基础问题、关键问题、核心算法进行归纳总结。本书的定位是学习人工智能安全的入门书籍，因此先详细介绍了人工智能安全相关的基础知识，包括相关的基础算法和安全模型，使得读者明确人工智能面临的威胁，对人工智能安全有一个大体的概念和初步认识。然后将人工智能系统的主要安全威胁分为模型安全性威胁和模型与数据隐私威胁两大类。模型安全性威胁主要包括投毒攻击、后门攻击、对抗攻击、深度伪造。模型与数据隐私威胁主要包括窃取模型的权重、结构、决策边界等模型本身信息和训练数据集信息。
本书在介绍上述经典攻击技术的同时，也介绍了相应的防御方法，使得读者通过这些攻击了解人工智能模型的脆弱性，并对如何防御攻击的方法、如何增强人工智能模型的鲁棒性有一定的思考。本书主要从隐私保护的基本概念、数据隐私、模型窃取与防御三个维度来介绍通用的隐私保护定义与技术、典型的机器学习数据隐私攻击方式和相应的防御手段，并探讨了模型窃取攻击及其对应的防御方法，使得读者能够直观全面地了解模型与数据隐私并掌握一些经典算法的整体实现流程。这本书还介绍了真实世界场景中不同传感器下的对抗攻击和相应的防御措施以及人工智能系统对抗博弈的现状。相比于数字世界的攻击，真实世界的攻击更需要引起人们的关注，一旦犯罪分子恶意利用人工智能系统的漏洞，将会给人们的生产生活带来安全威胁，影响大家的人身安全、财产安全还有个人隐私。读者可以通过阅读此书的知识内容及相关经典案例了解掌握人工智能系统面临的攻防技术，了解如何在前人的基础上，研究出针对各种攻击的防御方法，为可信人工智能助力。
本书适合期望入门人工智能安全的计算机相关专业的学生、技术工作者，人工智能领域的从业人员，对人工智能安全感兴趣的人员，致力于建设可信人工智能的人员。
类型：计算机 / 人工智能
作者：李进 / 谭毓安
