跳到正文

更多文章

影响力日常操作系统:21天习惯养成计划 从技能雇佣者到价值创造者 互惠账户的运营 影响力的三层架构 组织的注意力经济学
大语言模型全景解析

本文来源于数据从业者全栈知识库,更多体系化内容请访问知识库。

核心理念

大语言模型就像一个”读过全世界图书馆的人”——它没有真正理解世界,但它见过太多文字,以至于能给出看起来非常”懂”的回答。

为什么要了解大语言模型?

2022年底ChatGPT的发布,标志着AI进入了一个新时代。如今(2025年),大语言模型已经:

  • 成为数亿人的日常工具
  • 正在改变几乎所有行业的工作方式
  • 催生了全新的职业(如Prompt工程师)
  • 成为企业数字化转型的核心技术
2025年的现实

不了解LLM,就像2000年不了解互联网、2010年不了解移动互联网一样,可能会错过一个时代。


一、大语言模型是什么?

1.1 从”语言模型”到”大语言模型”

语言模型的本质很简单:预测下一个词

预测下一个词

输入:“今天天气真…”

语言模型的内心活动:

  • “好” → 概率 40%
  • “不错” → 概率 30%
  • “热” → 概率 15%
  • “差” → 概率 10%
  • 其他 → 概率 5%

输出:“好”(选择概率最高的,或按概率随机选)

“大”在哪里?

维度小模型(2018年前)大模型(GPT-3之后)
参数量百万~千万百亿~万亿
训练数据GB级TB~PB级
训练成本几千美元几百万~上亿美元
能力表现单一任务通用多任务
参数量类比
  • 1亿参数 ≈ 小学生的知识量
  • 100亿参数 ≈ 大学生的知识量
  • 1万亿参数 ≈ 博士+多年工作经验的专家

1.2 大模型的”涌现能力”

当模型大到一定程度,会突然”涌现”出小模型不具备的能力:

graph LR
    A[模型规模增大] --> B[涌现能力]
    B --> C[思维链推理]
    B --> D[少样本学习]
    B --> E[指令遵循]
    B --> F[代码生成]
    B --> G[多语言能力]
涌现能力的神奇之处

10亿参数模型:问”为什么天是蓝的?”→ 胡说八道

1000亿参数模型:问”为什么天是蓝的?”→ 正确解释瑞利散射原理

没有人专门训练它学物理,但它”读”了太多书,自然就”懂”了。


二、大模型的技术原理(通俗版)

2.1 Transformer:大模型的”骨架”

所有主流大模型都基于 Transformer架构。

一句话理解Transformer

传统模型像”从头到尾读句子”,Transformer像”一眼看全文,同时关注所有词之间的关系”。

核心机制:自注意力(Self-Attention)

graph TD
    subgraph "处理句子:小明喜欢吃苹果"
        A[小明] --> B[喜欢]
        B --> C[吃]
        C --> D[苹果]

        A -.->|注意力| B
        A -.->|注意力| C
        A -.->|注意力| D
        B -.->|注意力| A
        B -.->|注意力| C
        B -.->|注意力| D
    end

每个词在处理时都会”看看”其他所有词,决定应该关注谁。

理解”它”指代什么

苹果公司发布了新手机,的股价上涨了”

自注意力机制会发现:

  • “它”与”苹果公司”的关联度:0.85(很高)
  • “它”与”手机”的关联度:0.12(较低)
  • 结论:“它” = “苹果公司”

2.2 预训练 + 微调:两阶段学习

graph LR
    subgraph "第一阶段:预训练"
        A[海量文本<br/>网页/书籍/代码] --> B[学习语言规律<br/>通用知识]
    end

    subgraph "第二阶段:对齐/微调"
        B --> C[人类反馈<br/>指令数据]
        C --> D[学会遵循指令<br/>安全有用]
    end

    D --> E[可用的AI助手]
阶段目标类比
预训练学习语言和知识上学读书,博览群书
SFT(监督微调)学会按指令回答参加培训,学习如何工作
RLHF(人类反馈强化学习)变得有用、安全、诚实入职后接受反馈,改进表现

2.3 大模型的”知识”从哪来?

重要认知

大模型不是数据库,它不存储原文,而是将知识”压缩”进参数中。

graph TD
    A[训练数据来源] --> B[网页文本]
    A --> C[书籍文献]
    A --> D[代码仓库]
    A --> E[对话数据]
    A --> F[百科知识]

    B --> G[学会网络用语、时事]
    C --> G1[学会专业知识、逻辑]
    D --> G2[学会编程、代码]
    E --> G3[学会对话、情商]
    F --> G4[学会事实、常识]
为什么大模型有时会”胡说八道”?

因为它的本质是”预测下一个词”,不是”检索事实”。

问:“中国第一位诺贝尔物理学奖得主是谁?”

  • 大模型的思考方式:根据训练数据中的模式,“中国+诺贝尔+物理”最常一起出现的人名是…
  • 可能的问题:如果训练数据有错误,或者它”记混”了,就会给出错误答案

这就是为什么需要 RAG技术 来解决”幻觉”问题。


三、2025-2026年主流大模型图谱

3.1 国际主流模型

模型公司特点适用场景
GPT-4oOpenAI多模态、速度快、性价比高日常对话、写作、编程
o1 / o3OpenAI思维链推理、数学/代码专业强、慢但深度强复杂推理、数学竞赛、科学计算
Claude 3.5 SonnetAnthropic代码能力顶尖、长上下文、企业级安全编程、企业应用、文档分析
Gemini 2.0 FlashGoogle原生多模态、速度极快、与Google生态集成搜索增强、多模态任务、实时应用
Llama 3.3 70BMeta开源旗舰、媲美闭源、可私有部署企业私有化、二次微调
DeepSeek R1深度求索开源推理模型、性能媲美 o1、成本极低推理任务、研究、私有部署
2025年的两个分水岭

推理模型(o1/o3/R1)的崛起:2024年9月 OpenAI 发布 o1,标志着 LLM 从”快速回答”进化到”慢思考深度推理”。DeepSeek R1(2025年1月)以开源方式复现了相当的推理能力,在代码和数学上达到 o1 同级水平,且成本仅为 OpenAI 的1/10。这对整个行业的格局产生了深远影响。

3.2 国产主流模型

模型公司特点适用场景
DeepSeek V3 / R1深度求索开源、推理超强、代码顶级、性价比极高推理、编程、私有部署
通义千问 Qwen2.5阿里开源全系列、多语言强、128K上下文国际化场景、多语言、二次微调
文心一言 4.0百度中文理解强、与百度生态整合中文写作、企业应用
Kimi 1.5月之暗面超长上下文、推理能力显著提升长文档分析、文献综述
混元腾讯多模态、社交场景优化内容创作、企业应用
智谱 GLM-4智谱AI学术背景、工具调用稳定研究、企业 Agent

3.3 开源 vs 闭源

graph TD
    subgraph "闭源模型"
        A[GPT-4] --> A1[能力最强]
        A --> A2[API付费使用]
        A --> A3[无法私有部署]
        A --> A4[数据安全顾虑]
    end

    subgraph "开源模型"
        B[Llama/Qwen/DeepSeek] --> B1[可私有部署]
        B --> B2[可微调定制]
        B --> B3[数据不出域]
        B --> B4[需要算力资源]
    end
2025年趋势

开源模型与闭源模型的能力差距正在快速缩小。对于大多数企业应用场景,开源模型已经足够好。

3.4 模型选择决策树

graph TD
    A[选择大模型] --> B{数据敏感?}
    B -->|是| C{有GPU资源?}
    B -->|否| D{任务类型?}

    C -->|是| E[开源部署<br/>Llama3/Qwen2.5/DeepSeek]
    C -->|否| F[私有云 API<br/>阿里云/腾讯云]

    D -->|复杂推理/数学/代码| G[推理模型<br/>o1/o3 或 DeepSeek R1]
    D -->|日常写作/对话| H[GPT-4o / Claude 3.5]
    D -->|多模态| I[Gemini 2.0 Flash]
    D -->|成本敏感| J[GPT-4o mini / 国产API]

    E --> K{需要推理能力?}
    K -->|是| L[DeepSeek R1]
    K -->|否| M[Qwen2.5 / Llama3]

四、大模型的能力边界

4.1 大模型擅长什么?

能力表现应用场景
文本生成写作、改写、扩写、缩写公文、营销文案、邮件
代码编程写代码、解释代码、Debug编程辅助、自动化脚本
翻译多语言互译、本地化跨语言沟通、文档翻译
问答知识问答、解释概念客服、知识库查询
推理逻辑推理、数学计算分析、决策支持
摘要长文档提炼要点会议纪要、报告摘要
创意头脑风暴、创意生成产品设计、内容策划

4.2 大模型不擅长什么?

能力边界
局限原因解决方案
知识过时训练数据有截止日期RAG 联网搜索
幻觉问题会”编造”不存在的事实RAG + 人工核验
数学计算本质是文本预测,不是计算器调用外部工具
实时信息无法获取最新数据联网插件/RAG
私有知识不知道你公司的内部文档RAG + 微调
长期记忆上下文窗口有限外部记忆系统

4.3 “幻觉”问题详解

什么是幻觉?

问:“《三体》的作者是谁?他获得过什么奖?”

好的回答:刘慈欣,获得过雨果奖。

幻觉回答:刘慈欣,获得过雨果奖、星云奖、诺贝尔文学奖。 (星云奖和诺贝尔文学奖是编造的)

幻觉产生的原因

graph TD
    A[为什么会幻觉?] --> B[训练目标:预测下一个词]
    A --> C[不是:检索事实]
    A --> D[模式匹配 vs 知识理解]

    B --> E[遇到不确定的问题]
    E --> F["选择「最像正确答案」的文本"]
    F --> G[可能是错的,但很流畅]

减少幻觉的方法

  1. 使用RAG:让模型基于检索到的真实文档回答 → 详见RAG章节
  2. 要求引用来源:让模型说明信息出处
  3. 设置temperature=0:减少随机性
  4. 人工核验:关键信息必须人工确认

五、2025-2026年关键趋势

推理模型(Reasoning Model)成为新范式

区别于传统 LLM 的”直接回答”,推理模型会”先想一想”(Chain of Thought),在复杂任务上大幅领先。

直觉模型 vs 推理模型

传统 LLM 像”脱口而出”,推理模型像”拿起草稿纸算一算再回答”。对于需要多步逻辑的问题,后者准确率显著更高。

代表模型:OpenAI o1/o3、DeepSeek R1、Qwen QwQ

开源追平闭源

DeepSeek R1、Llama 3.1 405B、Qwen 2.5 72B 等开源模型在多数基准上已追平 GPT-4 级别,企业私有化部署的门槛大幅降低。

对企业的实际意义

过去”私有化 = 效果打折”,如今开源旗舰模型已可以在不损失多少能力的前提下完全部署在自有服务器上,数据不出域成为可行选项。

模型成本断崖式下降

时间代表模型Input 价格(约)
2023年GPT-4~$30 / M token
2024年GPT-4o~$5 / M token
2025年同等能力模型$0.5 - 2 / M token

两年间降幅超过 90%,AI 应用的边际成本接近于零。

多模态成标配

  • 文本 + 图片:已是当前主流模型的基础能力(GPT-4o、Claude 3.5、Gemini)
  • 视频理解:逐步落地,Gemini 2.0 和 Qwen-VL 已支持视频输入分析

六、大模型的应用模式

6.1 四种主要应用模式

graph TD
    A[大模型应用模式] --> B[直接对话]
    A --> C[RAG增强]
    A --> D[Agent智能体]
    A --> E[微调定制]

    B --> B1[简单问答<br/>通用任务]
    C --> C1[知识库问答<br/>企业应用]
    D --> D1[自动执行任务<br/>复杂流程]
    E --> E1[特定领域<br/>专业术语]
模式说明适用场景复杂度
直接对话开箱即用通用问答、写作
Prompt工程精心设计提示词提升特定任务效果
RAG检索+生成企业知识库、客服
Agent模型+工具+规划自动化工作流
微调在特定数据上训练专业领域、私有知识

6.2 企业级应用架构

graph TB
    subgraph "用户层"
        A[Web界面]
        B[API接口]
        C[企业应用集成]
    end

    subgraph "应用层"
        D[Prompt管理]
        E[对话管理]
        F[权限控制]
    end

    subgraph "能力层"
        G[RAG引擎]
        H[Agent框架]
        I[模型路由]
    end

    subgraph "模型层"
        J[GPT-4]
        K[Claude]
        L[私有部署模型]
    end

    subgraph "数据层"
        M[向量数据库]
        N[知识库]
        O[对话历史]
    end

    A --> D
    B --> D
    C --> D
    D --> G
    D --> H
    G --> I
    H --> I
    I --> J
    I --> K
    I --> L
    G --> M
    G --> N

七、使用大模型的最佳实践

7.1 提示词基础(Prompt入门)

好的提示词 = 好的结果

同一个模型,不同的提示词,效果可能天差地别。

基础原则

原则说明示例
明确角色告诉AI扮演什么角色”你是一位资深数据分析师”
清晰任务具体说明要做什么”请分析这份数据并给出3点建议”
提供上下文给出必要的背景信息”我们是一家电商公司,主要卖…”
指定格式说明输出格式”请用表格形式呈现”
给出示例展示期望的输出”类似这样:…”
提示词对比

糟糕的提示词: “帮我写个方案”

优秀的提示词: “你是一位经验丰富的项目经理。请帮我撰写一份数据中台建设方案,要求:

  1. 面向的读者是公司高管
  2. 包含:项目背景、目标、实施路径、预期收益
  3. 篇幅控制在2000字左右
  4. 使用商业化的正式语言

背景信息:我们是一家中型零售企业,目前数据分散在多个系统中…”

更多技巧详见 → Prompt Engineering

7.2 常见使用场景

场景一:写作辅助

角色:你是一位专业的商业写作专家
任务:帮我改写以下邮件,使其更加专业、礼貌
原文:[粘贴原文]
要求:
- 保持原意
- 语气正式但不生硬
- 控制在200字以内

场景二:代码辅助

我需要用Python实现以下功能:
功能描述:从Excel读取数据,按部门汇总销售额,生成柱状图
要求:
- 使用pandas和matplotlib
- 添加必要的注释
- 考虑异常处理

场景三:数据分析

你是一位数据分析师。请分析以下销售数据:
[粘贴数据]
请完成:
1. 识别主要趋势和模式
2. 找出异常值并解释可能原因
3. 给出3条可执行的业务建议

7.3 安全与合规注意事项

使用大模型的红线
  1. 不要输入敏感数据:密码、API Key、个人隐私信息
  2. 不要完全信任输出:关键决策需人工核验
  3. 注意版权问题:AI生成内容的版权归属需关注
  4. 遵守公司政策:很多公司有AI使用规范
  5. 注意数据出境:使用国外API需考虑数据合规

八、大模型的未来趋势(2025展望)

8.1 技术趋势

graph TD
    A[2025年大模型趋势] --> B[多模态融合]
    A --> C[Agent智能体]
    A --> D[小模型崛起]
    A --> E[端侧部署]
    A --> F[行业大模型]

    B --> B1[图文音视频统一理解]
    C --> C1[自主规划、调用工具]
    D --> D1[高效、低成本、专精]
    E --> E1[手机/PC本地运行]
    F --> F1[金融/医疗/法律专用]

8.2 应用趋势

趋势说明影响
AI原生应用从头基于AI设计的产品改变产品形态
Copilot模式AI作为人类的智能助手提升效率10倍+
Agent自动化AI自主完成复杂任务自动化更多工作
个性化AI每个人有自己的AI助手个性化服务
AI民主化人人都能用AI、训练AI降低门槛

8.3 对从业者的影响

给数据从业者的建议
  1. 学会与AI协作:AI是工具,不是替代品
  2. 掌握Prompt Engineering:这是与AI沟通的”语言”
  3. 理解RAG和Agent:企业级应用的核心技术
  4. 保持学习:这个领域每月都有新突破
  5. 发挥人类优势:判断力、创造力、同理心

九、本章小结

核心要点回顾
  1. 大模型本质:基于Transformer,通过预测下一个词来工作
  2. 主流模型:GPT-4、Claude、文心、通义千问、DeepSeek等
  3. 能力边界:擅长文本任务,但有幻觉问题、知识过时等局限
  4. 应用模式:直接对话 → Prompt工程 → RAG → Agent
  5. 2025趋势:多模态、Agent、小模型、端侧部署
金句

“大模型不会取代人,但会使用大模型的人会取代不会使用的人。“


学习路径建议

graph LR
    A[本文:LLM全景] --> B[Prompt工程]
    B --> C[RAG技术]
    C --> D[AI Agent]
    D --> E[实际项目实践]

推荐下一步

  • Prompt Engineering - 学会与大模型高效对话
  • RAG技术 - 解决幻觉问题,构建知识库应用
  • AI Agent - 让AI自主完成复杂任务

延伸阅读

  • 深度学习基础 - 理解Transformer的技术原理
  • 向量数据库 - RAG的核心基础设施
  • NLP基础 - 大模型的前置知识
  • MLOps - 如何部署和管理大模型

本文节选自数据从业者全栈知识库。知识库包含 2300+ 篇体系化技术文档,覆盖数据分析、数据工程、数据治理、AI 等全栈领域。了解更多 →

Elazer (石头)
Elazer (石头)

11 年数据老兵,从分析师到架构专家。用真实经历帮数据人少走弯路。

加入免费社群

和数据从业者一起交流成长

了解详情 →

成为会员

解锁全部内容 + 知识库

查看权益 →
← 上一篇 职场认知 13|从数据服务到数据资产:数据产品化思维的完整方法论 下一篇 → 数据分析师如何撰写高影响力分析报告:让CEO当场拍板的4大规范