本书依据高等学校人工智能、数据科学类课程体系改革的总体要求，参考教育部发布的《高等学校人工智能创新行动计划》编写。本书以优化为主线，贯穿机器学习系统的建模与实现，系统搭建“理论一模型一算法一系统一应用”的多层次知识结构，注重从抽象理论走向工程实现，强调理论的可实践性，同时引入前沿研究成果，体现教材的先进性。 本书系统论述了以优化理论为基础的机器学习系统建模与性能优化全过程。全书内容涵盖最优化理论，动态系统与优化，多属性决策系统与优化，随机森林系统、深度学习系统与优化，分布式机器学习系统与优化，联邦学习系统与优化等内容，重点体现优化方法在各类机器学习系统中的贯通作用与应用价值，最后通过案例分析，突显理论与工程的紧密结合。 本书适合作为普通高等院校人工智能、机器学习、智能系统优化、系统科学等方向的高年级本科生、研究生的教材，也可供从事智能制造、数据建模与系统优化的工程技术人员参考。

在数字化与智能化加速发展的背景下，作为人工智能主要技术之一的机器学习，被广泛应用于工业、医疗、金融等领域，成为推动国家创新与产业升级的关键力量。优化理论作为机器学习系统建模与性能提升的重要支撑，正日益凸显其价值。面对多目标冲突、大规模数据、分布式计算与隐私保护等挑战，优化方法在构建高效、智能、可解释的学习系统中的作用，已成为高校教学与科研的重要方向。
本书依据高等学校人工智能、数据科学类课程体系改革的总体要求，参考教育部发布的《高等学校人工智能创新行动计划》编写。本书区别于传统教材的按模型或算法分类，本书以优化为主线,贯穿静态、动态、多目标及分布式和联邦学习任务，融合理论知识与工程实践，构建从理论建模到系统设计的完整知识体系。
本书特点如下：
（1）教学导向明确：紧密对接课程教学目标与能力培养要求，强调基础理论与工程实践的双重支撑。
（2）体系结构合理：内容由浅入深，从静态最优化逐步深入动态系统、多目标决策、深度学习、分布式与联邦系统。
（3）案例驱动教学：每章配有实际案例或系统模型，强化学生对抽象算法与实际场景之间的联结。
（4）前沿技术融合：引入当前研究热点，拓展学生的技术视野。
本书围绕优化理论驱动的机器学习系统构建与应用展开，系统介绍了从最优化理论基础到动态系统，再到多属性决策的优化方法，逐步引导读者理解多目标和时间依赖优化问题。结合随机森林和深度学习，深入探讨模型训练中的优化策略与算法机制。针对大规模数据处理，介绍了分布式计算环境下的并行优化方法，随后聚焦隐私保护下的联邦学习，分析分布式数据协同训练的关键优化挑战与技术路径。全书构建了一个从理论到应用、从单机到分布式再到联邦学习的完整机器学习系统优化知识体系，旨在为人工智能和数据科学领域的研究者与实践者提供实用参考。
为适应教学实践，本书建议课程总课时为48，包括理论教学与实验案例研讨两部分。其中，专题讲授约40课时，系统讲解优化理论与机器学习系统模型；课堂互动约2课时，用于知识深化与问题探讨；实验讨论约4课时，侧重理论实践结合；案例分析与汇报约2课时，结合真实数据场景开展综合训练。
本书附带电子教案、教学课件、课程视频等资源，读者可登录中国铁道出版社教育资源数字化平台（https://www.tdpress.com/5leds）下载。建议读者具备线性代数、概率论、数学分析和编程基础，推荐先修“最优化方法”“人工智能导论”“数值分析”或“机器学习基础”等课程，以更好地理解本书内容。
本书由上海理工大学党亚峥、高岩任主编，其中，第1章至第5章由党亚峥编写，第6章由高岩编写，第7章由高岩与上海伊埃姆西节能工程技术有限公司赵晓东、朱俊共同编写，党亚峥负责全书统稿。
在本书的编写过程中，得到了项目资助单位的支持，也收到了多位专家在内容审订和结构安排方面的宝贵建议。在此一并表示感谢。同时，也感谢席琪琦、刘康和陈莉三位同学在资料整理和内容打磨中的协助。
限于编者水平，书中难免存在不足，敬请广大读者批评指正，以不断完善。

编 者
2025年5月

第1章最优化理论11.1概述11.2基本知识81.3线搜索方法171.4无约束优化问题221.5约束优化的罚函数法29小结43习题43第2章动态系统与优化442.1概述442.2动态系统462.3动态规划502.4动态系统中的动态规划702.5案例分析72小结78习题78第3章多属性决策系统与优化803.1基本概述803.2决策分析823.3多属性决策问题的数学描述923.4数据处理方法933.5初始方案筛选方法973.6权重确定方法983.7多属性决策问题的基本求解方法102小结112习题112第4章随机森林系统、深度学习系统与优化1144.1基本概述1144.2决策树1164.3随机森林系统1204.4深度学习系统123小结155习题156第5章分布式机器学习系统与优化1575.1基本概述1575.2数据与模型并行1595.3数据与模型聚合1635.4分布式机器学习算法1655.5收敛性分析170小结173习题173第6章联

党亚峥，博士，硕士生导师，上海理工大学管理学院，专业方向为智能优化。主讲研究生课程“最优化理论”“高级运筹学”“概率统计”，本科生课程“运筹学”“统计学”“时间序列分析”。近年来积极从事智能优化与运筹学领域的教学与科研工作，发表多篇论文，出版教材《分布式机器学习》。 高岩，教授，博士生导师，上海理工大学管理学院，曾任管理学院常务副院长、现任上海系统科学研究院副院长，国务院学科评议组（系统科学）成员。2002年任博导，主要研究方向为系统分析与优化，招收系统科学、数学、控制科学等跨专业研究生。1992年获霍英东青年教师奖，2009年获全国优秀教师称号，凸显其在教学科研领域的双重成就。作为系统科学学科带头人，其跨学科背景与国际化学术轨迹，为系统分析与集成领域提供了重要学术支撑。

（1）体系完整，循序渐进：从基础理论到前沿技术，系统构建机器学习系统优化知识框架，帮助读者由浅入深掌握核心方法。


（2）案例驱动，贴近实战：结合随机森林、深度学习等典型场景案例，解析优化策略，提升解决实际问题的能力。


（3）聚焦前沿，紧跟趋势：深度探讨分布式机器学习、联邦学习等前沿领域，揭秘隐私保护与效率提升的关键技术。


（4）学用结合，高效赋能：理论与实践紧密结合，助力读者将知识快速转化为学术研究与产业落地的实操技能。