Skip to content

04 · 什么是生成式人工智能? - Generative AI ​

所属知识库:Agent 全栈技术地图
所属领域:01 · AI
所属章节:01 · 什么是 AI?如何发展? - Fundamentals
文档类型:基础理论与技术研究
版本:v1.0
更新日期:2026 年 10 月 27 日
核心问题:什么是生成式人工智能?它与传统 AI 有什么区别?生成模型如何工作?主要有哪些技术类型?生成式 AI 与大语言模型、基础模型和 Agent 有什么关系?

专题导读 ​

前三篇已经建立了人工智能的基本概念、主要技术路线和历史发展脉络。这一篇将集中研究生成式人工智能的技术本质,重点解释它与传统预测式 AI 的区别、主要生成模型的工作机制,以及大语言模型、多模态生成和 Agent 之间的关系。

文章按照「概念定义 → 技术原理 → 模型类型 → 训练与生成 → 能力与应用 → Agent 技术关联」展开。研究范围更新至 2026 年 10 月,同时区分成熟的技术原理与仍在发展的应用方向。

一、研究概述 ​

生成式人工智能(Generative Artificial Intelligence,简称 Generative AI 或 GenAI)是人工智能的重要研究与应用方向,主要研究如何通过计算模型生成文本、图像、音频、视频、代码及其他形式的内容。

与主要输出分类标签、预测数值或决策结果的 AI 应用相比,生成式 AI 的突出特点是能够产生具有一定结构和复杂度的新内容。

例如,传统图像分类模型可以判断一张照片中是否存在猫,而图像生成模型则可以根据文本描述生成一张猫的图片。

但需要注意,生成式 AI 与传统 AI 并不是严格互斥的两类技术。

许多生成模型同样可以用于分类、表示学习和其他预测任务,而一些传统概率模型也具有生成数据的能力。

因此,理解生成式 AI 的关键,不是简单地将其与传统 AI 对立,而是研究:

模型如何学习数据的统计规律,并利用这些规律生成符合特定条件的新内容?

生成式 AI 的技术发展经历了长期积累。早期概率生成模型、变分自编码器、生成对抗网络、自回归模型和扩散模型等研究,共同推动了现代生成式 AI 的发展。

近年来,大语言模型和多模态基础模型进一步扩展了生成式 AI 的应用范围,使同一个模型能够通过自然语言指令完成多种生成任务。

本篇将从生成模型的基本原理出发,系统梳理生成式 AI 的主要技术类型、工作机制、能力边界及其在现代 Agent 技术体系中的作用。

二、什么是生成式人工智能? ​

2.1 基本定义 ​

生成式人工智能是一类以生成内容为重要能力的人工智能技术。

从机器学习角度看,许多生成模型通过学习训练数据中的统计结构,建立能够产生新样本的计算机制。

例如,一个经过大量文本训练的语言模型,可以根据输入内容生成后续文本。

一个经过大量图像训练的图像生成模型,可以根据文本提示或其他条件生成图像。

生成式 AI 的输出通常具有以下特点:

  • 输出可以是文本、图像、音频、视频、代码或其他数据形式。
  • 生成结果受到模型训练、输入条件和生成策略的共同影响。
  • 相同输入可能产生不同输出,具体取决于模型与解码设置。
  • 生成内容可能具有新颖性,但不保证真实性、正确性或原创性。

这里的“生成”并不意味着模型像人类一样进行创造,也不意味着模型必然理解其输出内容。

在技术研究中,更准确的做法是分析模型如何表示数据规律,以及如何通过计算过程生成输出。

2.2 什么是生成模型? ​

生成模型(Generative Model)是生成式 AI 的重要技术基础。

在概率建模中,生成模型通常试图学习数据的概率分布或某种能够产生数据样本的机制。

假设训练数据来自某个未知分布:

x∼pdata(x)

模型通过训练,尝试学习一个能够近似该数据分布的生成机制:

pθ(x)

其中:

  • x 表示数据样本;
  • pdata 表示真实数据分布;
  • pθ 表示由模型参数 θ 决定的概率模型。

训练完成后,模型可以利用学到的规律生成新的样本。

不过,并不是所有生成模型都显式计算完整的数据概率密度。例如,生成对抗网络通常通过隐式生成机制产生样本。

因此,上述概率表达适合建立基本理解,但不能作为所有生成模型的统一数学定义。

2.3 条件生成 ​

现代生成式 AI 经常采用条件生成(Conditional Generation)。

模型不仅学习数据本身的规律,还根据特定条件生成输出。

例如:

text
输入条件:
一只站在雪地里的狐狸,像素艺术风格

        ↓

图像生成模型

        ↓

输出:
符合描述的狐狸像素插画

条件可以是文本、图像、音频、结构化信息或其他数据。

从概率角度,可以将条件生成理解为学习:

pθ(x∣c)

其中,c 表示生成条件。

例如,文本生成模型根据已有文本生成后续内容,图像生成模型根据文字描述生成图像。

条件生成是现代生成式 AI 能够通过自然语言指令完成任务的重要基础。

三、生成式 AI 与传统预测式 AI 有什么区别? ​

生成式 AI 和预测式 AI 经常被用于描述不同的应用类型。

但从严格技术分类来看,这种区分主要反映任务目标和输出形式,而不是完全不同的算法体系。

3.1 预测式 AI ​

预测式 AI 通常根据输入数据输出分类、数值或其他预测结果。

例如:

text
输入:
一封电子邮件

        ↓

分类模型

        ↓

输出:
垃圾邮件

常见任务包括分类、回归、风险预测和异常检测。

3.2 生成式 AI ​

生成式 AI 主要根据训练规律和输入条件产生新的内容。

例如:

text
输入:
请写一封邀请客户参加设计展览的邮件

        ↓

语言生成模型

        ↓

输出:
一封完整的邀请邮件

两类应用的主要区别如下:

比较维度预测式 AI生成式 AI
主要任务分类、预测、判断内容生成、数据合成
典型输出标签、数值、概率文本、图像、音频、视频、代码
常见模型分类器、回归模型自回归模型、GAN、VAE、扩散模型
输入方式特征或数据样本数据、提示词或其他生成条件
评价重点准确率、误差、校准等质量、相关性、多样性、真实性等
主要风险预测偏差、泛化失败虚构内容、生成偏差、不符合约束

需要强调,二者之间存在交叉。

例如,语言模型在训练过程中可以执行下一个 Token 预测任务,但它的实际应用表现为文本生成。

因此,预测可以是生成过程的一部分,生成也可以建立在预测机制之上。

四、生成式 AI 的核心技术原理是什么? ​

虽然不同生成模型采用不同架构,但许多现代生成式 AI 系统都可以从训练、条件输入和生成三个环节理解。

4.1 第一环节:通过训练学习数据规律 ​

模型首先利用训练数据学习某种统计结构或生成机制。

例如,语言模型可以通过大量文本学习词语之间的关系、语言结构和常见表达模式。

图像生成模型可以通过图像数据学习视觉特征、物体结构和图像分布。

这一过程通常涉及模型参数优化。

4.2 第二环节:接收生成条件 ​

训练完成后,模型可以接收新的输入。

输入可能包括:

  • 文本提示词;
  • 图像参考;
  • 音频片段;
  • 已有文本上下文;
  • 结构化控制条件。

不同模型支持的条件类型不同。

例如,文本到图像模型通常接收文本描述,而图像编辑模型可能同时接收原始图像和修改指令。

4.3 第三环节:执行生成过程 ​

模型根据训练得到的参数和当前输入,执行相应的生成计算。

例如,自回归语言模型通常逐步预测后续 Token。

扩散生成模型则可以通过迭代去噪过程生成数据。

因此,不同生成模型的生成机制并不相同。

一个简化的通用过程可以表示为:

text
训练阶段

训练数据
    │
    ▼
模型训练
    │
    ▼
学习数据规律
    │
    ▼
训练完成的生成模型


生成阶段

用户输入或生成条件
    │
    ▼
生成模型
    │
    ▼
执行生成计算
    │
    ▼
输出生成内容

这一结构适合建立整体认知。

具体的模型架构、训练目标和生成算法,将在后续 Model Architecture 专题中进一步研究。

五、生成式 AI 有哪些主要技术类型? ​

现代生成式 AI 包含多种技术路线。

其中,自回归模型、变分自编码器、生成对抗网络和扩散模型是具有代表性的生成建模方法。

这些方法可以结合不同的神经网络架构实现。

5.1 自回归模型(Autoregressive Models) ​

自回归模型通过已有序列信息预测后续元素,并逐步生成完整序列。

例如,语言模型可以根据已有 Token 预测下一个 Token。

其基本过程可以表示为:

text
输入:
人工智能正在改变

        ↓

预测下一个 Token

        ↓

人工智能正在改变软件

        ↓

继续预测

        ↓

人工智能正在改变软件开发的方式

自回归模型可以将序列的联合概率分解为一系列条件概率:

p(x1,…,xn)=∏t=1np(xt∣x1,…,xt−1)

现代许多大语言模型采用自回归生成方式。

自回归模型的优势在于能够自然地处理序列生成任务。

但逐步生成也可能带来延迟和误差累积等问题。

5.2 变分自编码器(Variational Autoencoders,VAE) ​

变分自编码器是一类基于潜变量建模的生成模型。

它通常包含编码器和解码器两个部分。

编码器将输入数据映射到潜在表示的概率分布,解码器则根据潜变量生成数据。

简化结构如下:

text
输入数据
   │
   ▼
编码器
   │
   ▼
潜变量分布
   │
   ▼
采样潜变量
   │
   ▼
解码器
   │
   ▼
生成数据

VAE 的重要特点,是通过概率潜变量学习数据的潜在结构。

Kingma 和 Welling 在 2013 年提出的《Auto-Encoding Variational Bayes》是这一方向的重要研究成果。[1]

VAE 可用于数据生成、表示学习和其他生成建模任务。

5.3 生成对抗网络(Generative Adversarial Networks,GAN) ​

生成对抗网络由 Goodfellow 等人在 2014 年提出。[2]

GAN 通常包含两个相互竞争的模型:

生成器(Generator):尝试生成类似真实数据的样本。

判别器(Discriminator):尝试区分真实数据与生成数据。

基本结构如下:

text
随机输入
   │
   ▼
生成器
   │
   ▼
生成样本
   │
   ▼
判别器 ◄──── 真实样本
   │
   ▼
判断真假
   │
   ▼
训练反馈

通过对抗训练,生成器逐步改善生成样本的质量。

GAN 在图像生成和图像处理领域产生了重要影响。

但其训练可能面临不稳定、模式崩溃等问题。

5.4 扩散模型(Diffusion Models) ​

扩散模型是一类重要的生成模型。

典型扩散模型通过学习去噪过程,从随机噪声逐步生成数据。

例如:

text
随机噪声
   │
   ▼
去噪步骤 1
   │
   ▼
去噪步骤 2
   │
   ▼
去噪步骤 3
   │
   ▼
……
   │
   ▼
生成图像

Ho、Jain 和 Abbeel 在 2020 年发表的《Denoising Diffusion Probabilistic Models》是这一方向的重要研究论文。[3]

扩散模型在图像生成等任务中获得了广泛应用。

其具体实现可能涉及不同的噪声过程、采样算法和神经网络架构。

5.5 主要生成模型比较 ​

技术类型核心机制典型应用主要特点
自回归模型根据已有序列逐步预测后续元素文本、代码、序列生成适合序列建模
VAE学习潜变量分布并通过解码器生成数据生成、表示学习具有概率潜变量结构
GAN生成器与判别器对抗训练图像生成、图像处理能够生成高质量样本
扩散模型学习逐步去噪的生成过程图像、视频及其他生成任务通过迭代过程生成内容

需要注意,这些分类并不完全处于同一抽象层级,也并非互斥。

例如,自回归描述一种概率分解和生成方式,而 Transformer 是一种神经网络架构。

扩散模型也可以使用 Transformer 作为内部计算网络。

因此,研究生成式 AI 时,需要区分生成建模方法、神经网络架构和具体应用模型。

六、大语言模型与生成式 AI 有什么关系? ​

大语言模型(Large Language Model,LLM)是现代生成式 AI 中的重要技术类别。

许多现代大语言模型建立在 Transformer 架构基础上,并通过大规模预训练获得语言处理能力。

但生成式 AI 并不等同于大语言模型。

生成式 AI 还包括图像、音频、视频和其他形式的生成模型。

6.1 大语言模型的基本生成机制 ​

许多现代自回归语言模型通过预测后续 Token 生成文本。

例如:

text
用户输入:
请解释什么是人工智能。

        ↓

语言模型处理输入

        ↓

预测并生成后续 Token

        ↓

逐步形成完整回答

Token 是模型处理文本时使用的基本单位之一。

它可能对应一个词、词的一部分、标点符号或其他文本片段。

模型通过训练学习 Token 序列中的统计关系,并在生成阶段根据上下文产生输出。

6.2 为什么一个语言模型能够完成多种任务? ​

大规模预训练使模型能够学习较为通用的语言表示和任务模式。

因此,同一个模型可以通过不同输入完成:

  • 问答;
  • 摘要;
  • 翻译;
  • 文本分类;
  • 信息提取;
  • 代码生成;
  • 文档分析。

这些任务可能具有不同的输出形式,但可以通过统一的语言交互接口组织。

这也是现代大语言模型成为通用 AI 应用基础的重要原因。

6.3 大语言模型是否只负责生成? ​

并不是。

虽然许多大语言模型通过生成 Token 的方式输出结果,但它们也可以被用于分类、判断、信息提取和其他任务。

例如:

text
输入:
请判断这条评论的情感倾向。

模型输出:
积极

从应用角度看,这是一个分类任务。

从模型执行角度看,它仍可能通过生成 Token 的方式输出分类结果。

因此,模型的生成机制与应用任务类型需要区分。

七、生成式 AI 与基础模型有什么区别? ​

基础模型(Foundation Models)和生成式 AI 是两个相关但不同的概念。

基础模型主要描述模型的训练方式、通用能力和适配特征。

生成式 AI 主要描述模型的内容生成能力和应用方向。

Bommasani 等人在 2021 年发表的《On the Opportunities and Risks of Foundation Models》中,系统讨论了基础模型的概念及其技术影响。[4]

7.1 基础模型的核心特点 ​

基础模型通常通过大规模数据训练,并能够适应多种下游任务。

例如,一个基础语言模型可以通过不同提示词或适配方法支持问答、摘要、翻译和分类等任务。

7.2 生成式 AI 的核心特点 ​

生成式 AI 主要关注模型生成内容的能力。

例如,文本生成、图像生成和音频生成。

7.3 两者的关系 ​

许多现代生成式 AI 应用建立在基础模型之上。

但并不是所有基础模型都以内容生成为主要任务。

例如,某些基础模型主要用于学习通用表示,并通过适配支持分类、检索或其他任务。

因此:

基础模型强调模型的通用性与适配能力,生成式 AI 强调内容生成能力。

二者存在大量交叉,但不是完全相同的概念。

八、多模态生成式 AI 是什么? ​

多模态生成式 AI 是生成式 AI 的重要发展方向。

它能够处理或生成多种数据模态,例如文本、图像、音频和视频。

8.1 什么是模态? ​

模态(Modality)是信息的表现形式。

在 AI 研究中,常见模态包括:

  • 文本;
  • 图像;
  • 音频;
  • 视频;
  • 传感器数据;
  • 空间与动作数据。

不同模态具有不同的数据结构和处理方式。

8.2 多模态生成的典型形式 ​

输入输出典型任务
文本文本文章生成、问答
文本图像文生图
图像 + 文本图像图像编辑
文本音频语音合成
音频文本语音转写
文本视频视频生成
图像 + 文本文本图像理解与问答
文本 + 图像 + 音频多模态输出多模态交互

需要注意,并不是所有多模态模型都属于生成式 AI。

例如,一个只负责图像分类和文本匹配的多模态模型,可能主要用于表示学习或判别任务。

8.3 多模态生成的技术意义 ​

多模态能力扩展了 AI 的输入和输出形式。

它使 AI 不再局限于文本交互,而能够参与视觉设计、语音交互、视频制作和其他任务。

对于 Agent 技术而言,多模态能力还可以支持环境感知。

例如,一个具有视觉能力的 Agent 可以分析软件界面,并结合工具执行机制完成操作。

但多模态能力本身并不等于 Agent 的自主执行能力。

九、生成式 AI 如何训练和生成输出? ​

生成式 AI 的训练与生成是两个不同过程。

9.1 预训练(Pre-training) ​

预训练通常利用大规模数据,使模型学习通用的数据规律和表示。

例如,语言模型可以通过大规模文本数据学习语言结构和 Token 之间的关系。

不同模型的预训练目标可能不同。

自回归语言模型可以使用下一个 Token 预测。

扩散模型则可以通过学习去噪任务获得生成能力。

9.2 后训练(Post-training) ​

后训练是指在预训练基础上进一步调整模型行为和能力的训练过程。

对于现代语言模型,后训练可能包括:

  • 监督微调;
  • 指令微调;
  • 偏好优化;
  • 强化学习;
  • 特定领域适配。

后训练可以改善模型的指令遵循、输出格式、任务表现和其他行为特征。

但不同模型采用的具体方法并不相同。

9.3 推理与生成(Inference & Generation) ​

训练完成后,模型可以接收新的输入并生成输出。

对于自回归语言模型,生成过程通常涉及逐步选择后续 Token。

对于扩散模型,生成过程通常涉及多次迭代计算。

生成阶段的算法和参数设置,会影响输出质量、随机性、延迟和计算成本。

9.4 生成结果为什么可能不同? ​

生成式 AI 的输出受到多种因素影响。

例如:

  • 模型参数;
  • 输入提示词;
  • 上下文内容;
  • 解码策略;
  • 随机采样;
  • 生成长度;
  • 外部工具和检索结果。

因此,相同提示词不一定产生完全相同的输出。

不过,生成式 AI 并不必然是随机的。某些模型和推理配置可以产生较为确定的结果。

十、生成式 AI 具备哪些主要能力? ​

生成式 AI 的能力取决于模型架构、训练数据、训练方法和具体应用环境。

从实际任务角度,可以将其主要能力概括为以下几类。

10.1 内容生成 ​

生成文本、图像、音频、视频和代码等内容。

例如,生成文章草稿、设计插画或编写程序代码。

10.2 内容转换 ​

将已有内容转换为另一种形式。

例如:

  • 翻译;
  • 摘要;
  • 文本改写;
  • 图像风格转换;
  • 语音转文字;
  • 文本转语音。

10.3 信息组织与提取 ​

根据输入内容生成结构化信息。

例如,从合同中提取关键字段,或将研究资料整理为表格。

10.4 知识问答与解释 ​

根据模型已有知识或外部检索结果回答问题。

例如,解释某项技术原理或总结研究文献。

但模型生成的回答不一定准确,需要结合来源和任务要求验证。

10.5 代码生成与软件开发辅助 ​

生成代码、解释程序、分析错误和提出修改建议。

当模型与文件系统、终端和测试工具结合时,还可以参与更加完整的软件工程任务。

10.6 复杂任务辅助 ​

现代生成式模型还可以参与任务分析、方案制定和多步骤问题求解。

但这些能力通常需要结合模型本身的推理表现,以及外部工具、状态管理和执行机制。

因此,生成式 AI 的能力范围已经超出单纯的内容创作,但并不能将所有复杂任务执行能力都归因于生成机制本身。

十一、生成式 AI 有哪些主要局限? ​

生成式 AI 的能力虽然持续发展,但仍然存在明确的技术局限。

11.1 生成内容不保证真实 ​

语言模型可能生成语法流畅、结构完整,但事实错误的内容。

这种现象通常被称为幻觉(Hallucination)。

因此,不能仅根据表达流畅程度判断内容是否可靠。

11.2 生成结果不保证符合所有约束 ​

模型可能遗漏指令、违反格式要求或产生不符合任务条件的内容。

对于需要严格结构和规则的任务,通常需要额外的验证机制。

11.3 模型知识可能存在时效性问题 ​

模型的参数知识主要来自训练过程。

对于训练之后发生的事件,模型可能缺乏相关信息。

通过搜索、数据库和 RAG 等方法,可以为模型提供外部信息,但仍然需要验证来源质量。

11.4 复杂推理可能出现错误 ​

生成式模型可以处理数学、编程和复杂问题求解任务,但并不保证所有推理过程和结论都正确。

推理模型的发展改善了部分任务表现,但并没有消除错误。

11.5 数据偏差与生成风险 ​

训练数据中的偏差可能影响模型输出。

此外,生成式 AI 还涉及隐私、版权、虚假内容、安全和其他社会风险。

11.6 计算资源与成本 ​

大型生成模型的训练和推理通常需要较多计算资源。

实际应用需要考虑模型调用成本、延迟、吞吐量和部署条件。

因此,生成式 AI 的工程应用不仅需要关注生成质量,也需要考虑可靠性、安全性和成本。

十二、生成式 AI 与 Agent 有什么关系? ​

生成式 AI 是现代 LLM Agent 的重要技术基础,但二者不是相同的概念。

12.1 生成式 AI 提供模型能力 ​

生成式模型可以理解任务、生成文本、分析信息、编写代码或提出行动建议。

例如:

text
用户输入:
帮我研究某个行业的发展情况。

        ↓

语言模型

        ↓

输出:
研究计划与分析建议

在这个过程中,模型主要负责处理输入并生成输出。

12.2 Agent 组织任务执行 ​

Agent 可以进一步结合模型、工具、状态和执行机制完成任务。

例如:

text
用户任务
   │
   ▼
Agent
   │
   ├── 使用模型理解任务
   ├── 制定执行步骤
   ├── 调用搜索工具
   ├── 分析检索结果
   ├── 判断是否继续
   └── 生成最终报告
   │
   ▼
任务成果

模型提供语言处理和其他智能计算能力。

Agent 的运行机制则负责组织任务过程,并通过工具与外部环境交互。

12.3 为什么生成式 AI 推动了现代 Agent 发展? ​

现代生成式 AI,尤其是大语言模型,具备较强的自然语言交互能力。

开发者可以通过自然语言描述任务,并让模型生成计划、工具调用请求或结构化输出。

这使模型更容易与软件系统结合。

例如,一个 Agent 可以使用语言模型分析用户目标,再根据模型输出选择工具。

但需要注意:

模型能够生成工具调用请求,并不意味着它能够直接执行工具。

实际执行仍然需要外部程序、运行环境和权限机制支持。

12.4 生成式 AI 与 Agent 的核心区别 ​

比较维度生成式 AIAgent
核心研究对象内容生成与生成模型目标驱动的决策与行动
主要能力生成文本、图像、代码等组织任务、选择行动、使用工具
技术基础生成模型及相关算法模型、规则、工具、状态与执行机制
是否需要工具不一定取决于 Agent 类型和任务
是否需要持续执行不一定某些 Agent 需要
典型应用文本生成、图像生成、问答研究 Agent、Coding Agent、任务自动化

Agent 并不一定需要生成式 AI。

传统 Agent 可以通过规则、搜索或强化学习实现。

同样,生成式 AI 应用也不一定具有 Agent 的目标驱动和自主行动机制。

因此,二者之间是技术能力与应用机制的关系,而不是简单的包含关系。

十三、2024—2026 年生成式 AI 的主要发展方向 ​

截至 2026 年 10 月,生成式 AI 的发展已经不再局限于提升文本和图像生成质量。

多个技术方向正在持续发展。

13.1 推理模型 ​

推理模型更加关注复杂问题求解能力。

相关研究涉及推理阶段计算、强化学习、验证机制和复杂任务评估。

这一方向扩展了生成式模型在数学、编程和多步骤任务中的应用能力。

13.2 多模态与实时交互 ​

模型逐渐能够处理更加丰富的输入和输出形式。

文本、图像、语音和视频等模态的结合,使 AI 能够支持更自然的人机交互。

13.3 工具增强模型 ​

模型可以通过软件提供的接口生成工具调用请求。

工具执行结果可以进一步作为模型输入,使模型参与多步骤任务。

13.4 Computer Use ​

具有视觉和行动能力的 AI 系统,可以通过图形界面与软件交互。

这扩展了生成式模型在现有软件环境中的应用方式。

13.5 Coding Agent ​

生成式模型与代码仓库、终端和测试工具结合,使 AI 能够参与更加完整的软件开发流程。

这一方向体现了模型生成能力与软件执行机制的结合。

13.6 生成式 AI 的系统工程 ​

随着模型应用复杂度提高,开发者需要更加重视:

  • 模型调用与路由;
  • 上下文管理;
  • 外部知识检索;
  • 工具执行;
  • 输出验证;
  • 安全与权限;
  • 运行监控;
  • 成本与性能优化。

这些能力并不是生成模型内部结构的一部分,而是将生成式 AI 应用于真实软件系统所需要的工程机制。

十四、如何理解生成式 AI 在整个技术体系中的位置? ​

在本知识库中,生成式 AI 位于 AI 技术领域内部。

它为现代 LLM Agent 提供重要的模型能力,但完整 Agent 技术体系还涉及其他技术。

可以通过以下结构理解:

text
人工智能(AI)
│
├── 符号推理与规划
│
├── 机器学习
│   │
│   └── 深度学习
│       │
│       ├── 判别式模型
│       │
│       └── 多种生成模型
│           │
│           ├── 自回归模型
│           ├── VAE
│           ├── GAN
│           └── 扩散模型
│
└── 其他 AI 方法


生成式 AI 能力
       │
       ▼
Agent
       │
       ▼
Agent System
       │
       ▼
Agent Platform

需要注意,这张图是本知识库采用的概念组织方式,并不代表所有 Agent 都必须使用生成式 AI,也不代表所有 Agent System 都必须建设 Agent Platform。

从研究范围来看:

AI 研究智能能力如何实现。

生成式 AI 研究如何生成内容及相关模型技术。

Agent 研究如何围绕目标组织决策与行动。

Agent System 研究如何将 Agent 与运行环境、工具和其他软件组件组织为完整系统。

Agent Platform 研究如何统一创建、管理、运行和治理多个 Agent 应用。

这一分类有助于区分模型技术、智能体机制和软件系统架构。

十五、核心结论 ​

生成式人工智能是人工智能的重要研究与应用方向,主要研究如何通过计算模型生成文本、图像、音频、视频、代码及其他形式的内容。

它的发展建立在概率建模、机器学习、深度学习和多种生成模型研究基础上。

理解生成式 AI,需要建立以下认识。

第一,生成式 AI 主要描述内容生成能力,而不是某一种固定算法。

第二,生成模型通常通过训练学习数据的统计规律,并利用这些规律产生新的样本。

第三,自回归模型、VAE、GAN 和扩散模型是具有代表性的生成建模方法,但它们并不完全属于同一分类层级。

第四,大语言模型是现代生成式 AI 的重要技术类别,但生成式 AI 并不等同于大语言模型。

第五,基础模型与生成式 AI 是相关但不同的概念。 基础模型强调大规模预训练与多任务适配,生成式 AI 强调内容生成能力。

第六,生成式 AI 的能力已经扩展到多模态交互、复杂问题求解和软件开发辅助等任务,但生成结果仍然需要验证。

第七,生成式 AI 为现代 LLM Agent 提供重要的智能能力基础,而 Agent 进一步研究如何组织这些能力完成目标驱动的任务。

对于 Agent 技术研究而言,生成式 AI 的重要意义不仅在于内容生成,还在于它为软件系统提供了能够通过自然语言交互、处理复杂信息并参与任务执行的通用模型能力。

十六、参考文献与延伸阅读 ​

以下文献主要选择生成模型、基础模型和现代 Agent 相关的原始论文与权威研究资料。

16.1 生成模型基础 ​

[1] Kingma, D. P., & Welling, M. (2014). Auto-Encoding Variational Bayes. International Conference on Learning Representations (ICLR).
提出变分自编码器的重要研究。预印本于 2013 年公开。
论文:Auto-Encoding Variational Bayes

[2] Goodfellow, I., et al. (2014). Generative Adversarial Nets. Advances in Neural Information Processing Systems, 27.
提出生成对抗网络(GAN)。
论文:Generative Adversarial Nets

[3] Ho, J., Jain, A., & Abbeel, P. (2020). Denoising Diffusion Probabilistic Models. Advances in Neural Information Processing Systems, 33.
扩散生成模型的重要研究论文。
论文:Denoising Diffusion Probabilistic Models

16.2 基础模型与大语言模型 ​

[4] Bommasani, R., et al. (2021). On the Opportunities and Risks of Foundation Models.
系统讨论基础模型的概念、能力与风险。
论文:On the Opportunities and Risks of Foundation Models

[5] Vaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems, 30.
提出 Transformer 架构。
论文:Attention Is All You Need

[6] Brown, T. B., et al. (2020). Language Models Are Few-Shot Learners. Advances in Neural Information Processing Systems, 33.
介绍 GPT-3 及其上下文学习能力。
论文:Language Models Are Few-Shot Learners

[7] Ouyang, L., et al. (2022). Training Language Models to Follow Instructions with Human Feedback. Advances in Neural Information Processing Systems, 35.
研究利用人类反馈改善语言模型指令遵循能力的方法。
论文:Training Language Models to Follow Instructions with Human Feedback

16.3 生成式 AI 与 Agent ​

[8] Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations (ICLR).
研究如何结合语言模型的推理与行动。预印本于 2022 年公开。
论文:ReAct

[9] Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems, 36.
研究语言模型如何学习调用外部工具。
论文:Toolformer

[10] Anthropic. (2024). Building Effective Agents.
讨论 Agent 工作流、工具使用和系统设计方法。
官方技术文章:Building Effective Agents

16.4 综合参考资料 ​

[11] Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.
深度学习经典教材,系统介绍神经网络、概率建模和生成模型。
官方在线教材:Deep Learning Book

[12] Stanford Institute for Human-Centered Artificial Intelligence. (2026). AI Index Report 2026.
提供人工智能技术能力、研究进展、产业发展和社会影响等方面的年度研究资料。
官方报告:Stanford AI Index

十七、关联研究 ​

关联文档研究内容
01 · 什么是人工智能?AI 的定义、研究对象与技术边界
02 · AI、ML 与深度学习AI、机器学习与深度学习的关系
03 · AI 主要发展阶段生成式 AI 的历史与技术背景
05 · 能力与局限当前 AI 的主要能力及局限
M1 · AI 模型是什么?它由什么构成?模型结构与基本组成
M3 · Transformer 如何处理和生成信息?Transformer 架构
M4 · 大语言模型是如何构建的?LLM 的结构与训练
M5 · AI 模型如何理解和处理不同模态?多模态模型
M6 · AI 模型如何通过训练获得能力?预训练与后训练
M7 · AI 模型如何生成输出?模型推理与解码
E1 · 如何通过 API 调用 AI 模型?模型 API
E5 · 如何让模型调用外部工具?Function Calling
02 · Agent → 01 · 什么是 Agent?Agent 的定义与技术边界