02 · AI、机器学习和深度学习有什么区别？ - ML & Deep Learning
所属知识库：Agent 全栈技术地图
所属领域：01 · AI
所属章节：01 · 什么是 AI？如何发展？ - Fundamentals
文档类型：基础理论研究
版本：v1.0
更新日期：2026 年 10 月 27 日
核心问题：人工智能、机器学习和深度学习分别是什么？它们之间有什么关系？机器学习与深度学习如何工作，又有哪些技术差异？
专题导读
上一篇《什么是人工智能？》已经建立了 AI 的基本定义。这一篇重点研究人工智能（AI）、机器学习（Machine Learning，ML）和深度学习（Deep Learning，DL）之间的关系，进一步解释它们分别采用什么技术方法、如何工作，以及为什么现代大语言模型主要建立在深度学习基础上。
文章将按照「概念与关系 → 机器学习机制 → 深度学习机制 → 技术比较 → 典型应用 → Agent 技术关联」展开，并保留正文引用和参考文献。
一、研究概述
人工智能（Artificial Intelligence，AI）、机器学习（Machine Learning，ML）和深度学习（Deep Learning，DL）是人工智能领域中三个经常同时出现的概念。
它们之间存在明确的研究范畴关系，但并不是三个相互独立的技术，也不能简单理解为人工智能发展的三个连续阶段。
从通常采用的技术分类来看：
深度学习属于机器学习，机器学习属于人工智能。
可以用以下结构表示：
人工智能（Artificial Intelligence）
│
├── 符号推理与知识表示
├── 搜索与规划
├── 其他人工智能方法
│
└── 机器学习（Machine Learning）
│
├── 决策树
├── 支持向量机
├── 概率学习方法
├── 集成学习
│
└── 深度学习（Deep Learning）
│
├── 卷积神经网络（CNN）
├── 循环神经网络（RNN）
├── Transformer
└── 其他深度神经网络这张图表达的是技术范畴的包含关系，并不表示各类方法之间完全独立。
例如，神经网络可以与强化学习结合，搜索与规划也可以利用机器学习模型提供的信息。
理解三者的关系，需要分别回答三个问题：
- AI：我们希望计算机实现哪些智能能力？
- ML：计算机如何通过数据或经验学习完成任务的方法？
- DL：如何利用多层神经网络学习复杂的数据表示与映射关系？
这三个问题分别对应研究领域、学习方法和具体技术路线。
二、什么是人工智能（AI）？
人工智能是研究和构建能够执行智能任务的计算系统的广泛技术领域。
这些任务包括感知、知识表示、推理、学习、规划、决策和自然语言处理等。
人工智能的实现方式并不局限于机器学习。
例如，一个使用逻辑规则和搜索算法解决问题的系统，即使没有经过数据训练，也可能属于人工智能研究范畴。
Russell 和 Norvig 在《Artificial Intelligence: A Modern Approach》中，将理性智能体作为组织人工智能研究的重要框架，并系统介绍了搜索、逻辑、概率推理、学习和决策等不同技术方向。[1]
因此，AI 是一个研究领域，而不是某一种固定算法。
2.1 不依赖机器学习的 AI
以经典路径规划为例。
假设一个机器人需要从起点移动到终点，系统可以通过搜索算法在已知地图中寻找可行路径。
如果环境模型和搜索规则已经明确，系统可能不需要通过训练数据学习路径规划能力。
类似地，某些专家系统可以根据人工编写的知识和规则进行判断。
这些系统说明：
机器学习是实现人工智能的重要方法，但不是人工智能的必要条件。
2.2 AI 与自动化软件的关系
人工智能与传统自动化软件存在交叉，但不能完全等同。
一个根据固定规则执行文件复制的程序，通常属于普通自动化软件。
一个通过搜索、推理或学习机制处理复杂问题的系统，则可能属于人工智能应用。
不过，二者之间并不存在适用于所有情况的简单判定标准。
实际软件系统也可能同时使用规则、算法和机器学习模型。
三、什么是机器学习（Machine Learning）？
机器学习是人工智能的重要分支，主要研究如何使计算系统通过数据或经验改善任务表现。
与直接编写所有判断规则不同，机器学习通常通过训练过程，从数据中学习输入与输出之间的关系。
Tom Mitchell 在《Machine Learning》中提出了一个经典的定义框架：可以通过任务（Task）、经验（Experience）和性能指标（Performance）描述一个学习问题。如果程序在某类任务上的表现随着经验增加而改善，就可以认为它在该任务上发生了学习。[2]
3.1 机器学习的基本工作过程
一个典型的监督学习过程可以表示为：
训练数据
│
▼
数据预处理
│
▼
选择模型与学习算法
│
▼
模型训练
│
│ 根据预测误差调整模型
▼
模型评估
│
▼
训练完成的模型
│
▼
接收新的输入
│
▼
生成预测结果例如，开发一个房价预测模型。
开发者可以收集房屋面积、位置、建筑年份和历史成交价格等数据。
模型通过训练学习这些变量与房价之间的统计关系。
训练完成后，当输入一套新房屋的信息时，模型可以预测其价格。
这里的关键在于：
模型不是通过开发者逐条编写所有房价判断规则，而是通过训练数据学习预测关系。
3.2 机器学习中的三个核心要素
机器学习通常涉及数据、模型和学习算法。
数据（Data）
数据为模型提供学习经验。
数据的数量、质量、分布和代表性都会影响训练结果。
模型（Model）
模型是用于表示输入与输出关系的计算结构。
例如，线性回归模型、决策树、支持向量机和神经网络。
学习算法（Learning Algorithm）
学习算法通过训练数据调整模型，使其在指定目标上获得更好的表现。
不同模型采用不同的训练与优化方法。
3.3 训练与推理
机器学习需要区分两个重要过程。
训练（Training）：通过数据和优化方法学习模型参数或结构。
推理（Inference）：使用训练完成的模型处理新的输入。
例如：
训练阶段：
历史邮件数据
↓
机器学习算法
↓
垃圾邮件分类模型
推理阶段：
新的电子邮件
↓
垃圾邮件分类模型
↓
分类结果需要注意，训练与推理的具体形式取决于模型类型。
有些机器学习方法具有明确的离线训练过程，而有些方法可以进行在线学习或增量更新。
四、机器学习有哪些主要类型？
机器学习可以按照训练数据、学习目标和反馈方式进行分类。
其中，监督学习、无监督学习和强化学习是三个重要的研究范式。
此外，自监督学习也是现代深度学习和基础模型训练中的重要方法。
这些分类并不总是完全互斥。
4.1 监督学习（Supervised Learning）
监督学习使用带有目标信息的训练数据，让模型学习输入与目标输出之间的关系。
例如：
| 输入 | 目标输出 |
|---|---|
| 一封电子邮件 | 垃圾邮件 |
| 一张动物照片 | 猫 |
| 一套房屋信息 | 房屋价格 |
监督学习常见任务包括分类和回归。
分类（Classification）：预测离散类别，例如垃圾邮件识别。
回归（Regression）：预测连续数值，例如房价预测。
4.2 无监督学习（Unsupervised Learning）
无监督学习通常利用没有人工提供目标标签的数据，发现其中的结构或规律。
例如，将客户按照购买行为进行分组。
常见任务包括聚类、降维和异常检测。
无监督学习的重点不是预测预先指定的标签，而是从数据中发现有用的结构。
4.3 自监督学习（Self-Supervised Learning）
自监督学习通过数据本身构造训练目标，使模型能够利用大量未经过人工逐项标注的数据学习表示。
例如，语言模型可以通过预测文本序列中的 Token 进行训练。
这种训练方式不需要为每一个训练样本人工编写对应的语义标签。
现代大语言模型的预训练广泛使用自监督学习方法。
4.4 强化学习（Reinforcement Learning）
强化学习研究智能体如何通过与环境交互，学习能够提高长期收益的行动策略。
其基本过程可以表示为：
智能体（Agent）
│
│ 选择行动
▼
环境（Environment）
│
│ 返回观察与奖励
▼
智能体更新策略
│
└──────→ 继续交互例如，一个游戏智能体可以通过不断尝试不同操作，根据游戏反馈调整行动策略。
强化学习与监督学习的一个重要区别在于，强化学习通常需要考虑行动对未来状态和长期收益的影响。
Sutton 和 Barto 的《Reinforcement Learning: An Introduction》系统介绍了这一研究领域的基本概念与方法。[3]
4.5 四种学习方式的比较
| 学习方式 | 主要数据或反馈来源 | 核心目标 | 典型应用 |
|---|---|---|---|
| 监督学习 | 输入与目标输出 | 学习预测关系 | 分类、回归 |
| 无监督学习 | 未标注数据 | 发现数据结构 | 聚类、降维 |
| 自监督学习 | 从数据自身构造训练目标 | 学习有效表示 | 语言模型预训练 |
| 强化学习 | 环境交互与奖励信号 | 学习行动策略 | 游戏智能体、机器人控制 |
实际 AI 系统可能结合多种学习方法。
例如，现代语言模型的训练可能同时涉及自监督预训练、监督微调和基于偏好反馈的优化。
五、什么是深度学习（Deep Learning）？
深度学习是机器学习的重要分支，主要研究如何利用多层神经网络从数据中学习复杂的表示和映射关系。
深度学习的关键特征是表示学习（Representation Learning）。
传统机器学习方法在很多任务中依赖人工设计的特征，而深度学习能够通过多层神经网络学习不同抽象层次的数据表示。
LeCun、Bengio 和 Hinton 在 2015 年发表的《Deep Learning》中，系统介绍了深度学习通过多层计算结构学习数据表示的基本思想。[4]
5.1 什么是神经网络？
人工神经网络（Artificial Neural Network）是一类由相互连接的计算单元构成的模型。
一个简单的前馈神经网络可以表示为：
输入层
│
▼
隐藏层 1
│
▼
隐藏层 2
│
▼
输出层每一层接收前一层的输出，通过参数化计算和非线性变换生成新的表示。
训练过程中，模型根据目标函数调整参数，使输出逐渐符合训练目标。
5.2 为什么需要多层结构？
多层结构使模型能够逐步组合不同层次的信息表示。
例如，在图像识别任务中，神经网络可能从局部边缘和纹理等低层特征出发，逐步形成更复杂的视觉表示。
不过，这种分层特征解释是一种典型的直观理解，并不意味着所有神经网络都会按照完全相同的方式组织特征。
深度学习的优势之一，是能够通过训练自动学习对任务有用的表示。
5.3 深度学习如何训练？
许多深度神经网络使用反向传播（Backpropagation）计算损失函数相对于模型参数的梯度，并结合梯度下降类优化方法更新参数。
简化过程如下：
输入训练数据
│
▼
前向传播（Forward Pass）
│
▼
计算预测结果
│
▼
计算损失（Loss）
│
▼
反向传播（Backpropagation）
│
▼
计算参数梯度
│
▼
优化器更新参数
│
└──────→ 下一轮训练通过大量训练迭代，模型逐步调整参数。
需要注意，反向传播是训练许多神经网络的重要方法，但并不是所有机器学习算法都使用反向传播。
神经网络的内部机制将在后续 M2 · Neural Networks 中进一步研究。
六、深度学习有哪些主要模型架构？
深度学习包含多种神经网络架构，不同架构适用于不同的数据结构和任务需求。
6.1 多层感知机（MLP）
多层感知机（Multilayer Perceptron）是典型的前馈神经网络。
它由输入层、一个或多个隐藏层和输出层构成。
MLP 可以用于分类、回归以及其他神经网络中的特征变换。
6.2 卷积神经网络（CNN）
卷积神经网络（Convolutional Neural Network）通过卷积等操作处理具有空间结构的数据。
它在图像分类、目标检测和其他计算机视觉任务中具有重要应用。
CNN 通过局部连接和参数共享等机制，能够有效处理图像中的空间特征。
6.3 循环神经网络（RNN）
循环神经网络（Recurrent Neural Network）是一类用于处理序列数据的神经网络。
它通过循环连接维护序列处理过程中的状态。
RNN 及其变体曾广泛应用于自然语言处理、语音识别和时间序列建模。
6.4 Transformer
Transformer 是一种以注意力机制为核心的神经网络架构。
Vaswani 等人在 2017 年发表的《Attention Is All You Need》中提出了 Transformer 架构。[5]
Transformer 能够通过注意力机制建模序列中不同位置之间的关系，并支持较高程度的并行计算。
现代许多大语言模型都建立在 Transformer 或其变体之上。
6.5 扩散模型（Diffusion Models）
扩散模型是一类重要的生成模型。
其典型方法通过学习逐步去除噪声的过程生成数据。
扩散模型在图像生成等任务中获得了广泛应用。
Ho、Jain 和 Abbeel 在 2020 年发表的《Denoising Diffusion Probabilistic Models》是这一方向的重要研究论文之一。[6]
6.6 主要架构比较
| 模型架构 | 核心机制 | 典型应用 |
|---|---|---|
| MLP | 多层前馈计算 | 分类、回归、特征变换 |
| CNN | 卷积与空间特征处理 | 图像识别、视觉任务 |
| RNN | 循环连接与序列状态 | 序列建模、时间序列 |
| Transformer | 注意力机制 | 语言模型、多模态模型 |
| Diffusion Models | 学习去噪生成过程 | 图像及其他内容生成 |
需要注意，表中的架构并不是严格互斥的。
例如，Transformer 内部也可能包含 MLP 结构；扩散模型也可以使用不同类型的神经网络作为其核心计算组件。
因此，Transformer 更偏向网络架构，而扩散模型主要描述一类生成建模方法。
七、传统机器学习与深度学习有什么区别？
深度学习属于机器学习，因此两者并不是完全对立的技术。
日常讨论中的“传统机器学习与深度学习比较”，通常指非深度神经网络方法与深度神经网络方法之间的差异。
7.1 技术比较
| 比较维度 | 传统机器学习方法 | 深度学习方法 |
|---|---|---|
| 典型模型 | 线性模型、决策树、SVM、随机森林 | CNN、RNN、Transformer |
| 特征处理 | 经常依赖人工特征工程 | 能够学习复杂数据表示 |
| 数据需求 | 某些任务中较少数据即可有效训练 | 大型模型通常需要更多训练数据 |
| 计算资源 | 许多模型训练成本较低 | 大型网络通常需要更多计算资源 |
| 模型复杂度 | 从简单到复杂均有 | 通常具有大量可训练参数 |
| 可解释性 | 某些模型较容易解释 | 复杂深度网络通常更难解释 |
| 典型应用 | 表格预测、分类、风险分析 | 视觉、语言、语音与生成任务 |
这些差异描述的是常见情况，并不是绝对规则。
例如，小型神经网络可以在有限数据上训练，而某些传统机器学习模型也可能具有很高的复杂度。
7.2 为什么深度学习在现代 AI 中如此重要？
深度学习的重要性主要来自其表示学习能力，以及它与大规模数据、计算资源和现代训练方法的结合。
对于图像、语言和音频等复杂数据，人工设计全部有效特征通常非常困难。
深度神经网络能够通过训练学习多层次表示，从而支持复杂的信息处理任务。
随着 GPU 等计算资源的发展，以及大规模数据和模型训练方法的进步，深度学习逐渐成为许多现代 AI 应用的重要基础。
但这并不意味着深度学习适合所有任务。
例如，在某些结构化表格数据预测任务中，梯度提升树等传统机器学习方法仍然具有较强竞争力。[7]
因此，技术选型应根据任务、数据、计算资源和评价结果决定。
八、大语言模型属于哪一种技术？
大语言模型（Large Language Model，LLM）是理解现代 AI 与 Agent 技术的重要对象。
从技术分类来看，现代主流大语言模型通常属于深度学习模型。
许多大语言模型使用 Transformer 架构，通过大规模文本或多模态数据训练，获得语言处理与生成能力。
可以通过以下关系理解：
人工智能（AI）
│
▼
机器学习（ML）
│
▼
深度学习（DL）
│
▼
Transformer 等神经网络架构
│
▼
大语言模型（LLM）这是一条典型的技术实现路径，并不表示所有语言模型都必须使用 Transformer。
8.1 大语言模型如何学习？
现代自回归语言模型的预训练通常使用下一个 Token 预测等自监督学习目标。
例如：
输入：
人工智能正在改变软件开发的
预测：
方式通过大量类似训练任务，模型学习语言结构、词语关系以及数据中的多种模式。
实际训练远比这个示例复杂，涉及大规模数据处理、模型优化和分布式计算。
8.2 为什么大语言模型能够处理多种任务？
大规模预训练使模型能够学习较为通用的语言表示和任务模式。
因此，同一个模型可以通过不同输入完成问答、摘要、翻译、分类、代码生成等多种任务。
这种能力与传统针对单一任务训练的模型有所不同。
不过，模型能够生成某类任务的输出，并不意味着它能够稳定、准确地完成所有相关任务。
8.3 大语言模型与 Agent
现代 LLM Agent 通常使用大语言模型作为智能能力来源。
Agent 可以利用模型理解任务、分析信息、生成计划或提出工具调用请求。
但模型本身不负责全部软件执行过程。
实际工具执行、状态保存、权限控制和任务管理仍需要相应的软件机制支持。
因此，理解机器学习与深度学习，是后续研究大语言模型和 Agent 的重要基础。
九、机器学习与深度学习如何应用于实际系统？
机器学习和深度学习可以作为独立模型使用，也可以作为完整软件系统中的能力组件。
9.1 传统机器学习应用
例如，一个企业希望预测客户流失风险。
系统可以使用客户历史行为数据训练分类模型。
当输入某个客户的信息时，模型返回流失风险预测。
业务系统再根据预测结果决定是否执行后续操作。
9.2 深度学习应用
例如，一个文档处理系统需要识别图片中的文字并分析内容。
系统可以使用视觉模型提取文字信息，再使用语言模型进行分类和摘要。
9.3 Agent 应用
例如，一个研究 Agent 需要收集资料并生成报告。
它可以使用大语言模型分析任务，通过搜索工具获取资料，再根据模型输出组织下一步行动。
在这个过程中，深度学习模型提供信息处理能力，而 Agent System 提供任务执行环境。
因此：
机器学习和深度学习提供的是具体的智能计算方法，完整软件系统负责将这些方法转化为可用的业务功能。
十、如何选择机器学习与深度学习方法？
在实际开发中，技术选择应当从任务需求出发。
可以重点考虑以下因素。
10.1 任务类型
如果任务主要涉及结构化表格数据预测，可以优先考虑传统机器学习方法，并通过实验验证效果。
如果任务涉及复杂图像、自然语言、音频或内容生成，深度学习通常值得优先研究。
10.2 数据条件
需要考虑训练数据的数量、质量、标注情况和分布特征。
深度学习模型通常需要较多训练数据，但预训练模型和迁移学习可以显著改变具体任务的数据需求。
10.3 计算资源
不同方法对 CPU、GPU、内存和训练时间的要求不同。
对于计算资源有限的项目，使用已有预训练模型或传统机器学习方法可能更加合适。
10.4 可解释性与可靠性
在某些应用场景中，需要解释模型为什么作出某个预测。
此时，模型的可解释性、稳定性和可验证性可能比模型复杂度更加重要。
10.5 开发与维护成本
需要综合考虑数据准备、模型训练、部署、监控、更新和长期维护成本。
对于 Agent 开发，很多情况下不需要自行训练基础模型，而是直接通过 API 或本地推理服务使用已有模型。
因此，Agent 开发者通常需要优先掌握模型调用和工程集成，而不是从零训练大型神经网络。
十一、核心结论
人工智能、机器学习和深度学习之间存在明确的研究范畴关系：
AI ⊃ ML ⊃ DL
人工智能是研究如何实现智能任务的广泛技术领域。
机器学习是人工智能的重要分支，研究如何通过数据或经验改善任务表现。
深度学习是机器学习的重要分支，主要通过多层神经网络学习复杂的数据表示。
三者之间的核心区别可以概括为：
| 概念 | 核心定位 | 主要研究问题 |
|---|---|---|
| AI | 智能技术研究领域 | 如何让计算系统执行智能任务？ |
| ML | 数据驱动的学习方法 | 如何通过数据或经验改善任务表现？ |
| DL | 基于深度神经网络的学习方法 | 如何学习复杂的数据表示与映射关系？ |
现代大语言模型通常建立在深度学习基础上，许多使用 Transformer 架构，并通过大规模训练获得语言处理能力。
对于 Agent 技术研究而言，理解这一关系能够帮助区分人工智能领域、模型实现方法和具体软件应用。
AI 是研究领域，机器学习是重要技术路线，深度学习是其中的一类方法，而 Agent 则进一步研究如何组织智能能力来完成目标驱动的任务。
十二、参考文献与延伸阅读
[1] Russell, S. J., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
人工智能经典教材，系统介绍人工智能的主要研究方向与方法。
官方教材网站：Artificial Intelligence: A Modern Approach
[2] Mitchell, T. M. (1997). Machine Learning. McGraw-Hill.
机器学习经典教材，提出基于任务、经验和性能改善理解机器学习的定义框架。
[3] Sutton, R. S., & Barto, A. G. (2018). Reinforcement Learning: An Introduction (2nd ed.). MIT Press.
强化学习经典教材，介绍智能体与环境交互、奖励和策略学习。
官方电子版：Reinforcement Learning: An Introduction
[4] LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep Learning. Nature, 521, 436–444.
深度学习领域的重要综述，介绍多层神经网络和表示学习。
论文：Deep Learning — Nature
[5] Vaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems, 30.
提出 Transformer 架构，是现代大语言模型的重要基础文献。
论文：Attention Is All You Need
[6] Ho, J., Jain, A., & Abbeel, P. (2020). Denoising Diffusion Probabilistic Models. Advances in Neural Information Processing Systems, 33.
扩散生成模型的重要研究论文。
论文：Denoising Diffusion Probabilistic Models
[7] Grinsztajn, L., Oyallon, E., & Varoquaux, G. (2022). Why do tree-based models still outperform deep learning on typical tabular data? Advances in Neural Information Processing Systems, 35.
研究树模型与深度学习方法在典型表格数据任务上的表现差异。
论文：Why do tree-based models still outperform deep learning on typical tabular data?
[8] Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.
系统介绍深度学习的数学基础、神经网络结构和训练方法。
官方在线教材：Deep Learning Book
十三、关联研究
| 关联文档 | 研究内容 |
|---|---|
| 01 · 什么是人工智能？ | AI 的定义、研究对象与技术边界 |
| 03 · AI 主要发展阶段 | AI、机器学习和深度学习的发展过程 |
| 04 · 生成式人工智能 | 生成式 AI 的定义与技术类型 |
| M1 · AI 模型是什么？它由什么构成？ | AI 模型的基本结构 |
| M2 · 神经网络如何学习和处理信息？ | 神经网络与反向传播 |
| M3 · Transformer 如何处理和生成信息？ | Transformer 架构与注意力机制 |
| M4 · 大语言模型是如何构建的？ | LLM 的模型结构与训练 |
| M6 · AI 模型如何通过训练获得能力？ | 预训练与后训练 |
| 02 · Agent → 01 · 什么是 Agent？ | Agent 的定义与技术边界 |