黎明｜AI 模型能力如何被生产

TLDR

• 先记住一张「智能流水线」图：人才 → 资金 → 算力 → 组织协同 → 数据工程 → 模型研发 → 测评对齐。黄色总图往下拆，后续分析都围着它转。
• AI 公司决定性资产是人才，其次是资金；算力与数据是物理与养料。老牌大厂（腾讯、阿里等）卡在组织协作跟不上高强度迭代，而非缺钱缺卡。
• 参数最多 ≠ 最好；别只看公众号/短视频/单一榜单。「投资是认知的变现」——要看论文、真用、理解注意力机制与专家数等。
• 预训练造通用智力，后训练/对齐造专长与边界（指令遵循、安全栅栏、领域偏好）。国内大量公司走蒸馏捷径吃美国顶尖模型产出的高质量数据，省掉前面清洗配比环节，但也有版权与合规风险。
• 工程效率是真壁垒：同配置下能跑更多实验、版本可追踪、故障可切机；草台班子版本乱、资源空置、交不出稳定版。DeepSeek 被看好的点：同架构下用研究能力解决通讯/算子/吞吐/成本问题。
• 五维稀缺性：独特数据 · 算法/人才 · 算力获取 · 工程效率 · 生态迁移成本。通用模型拼架构与全领域知识；行业模型拼私有数据、流程理解与客户定制。
• ASR 有噪声；专名已尽量校正（DeepSeek、RLHF、Anthropic、通义千问、姚顺雨、罗福莉等）；不确定处标〔存疑〕。不编造课外观点。

总框架 · 智能流水线

课内反复强调：先把这张「地图式流水线」刻进脑子，再往下拆数据 / 研发 / 测评。

1. 决定层：人才（=技术）→ 资金（没钱人也不来、干不起来）→ 算力（物理基础；第1站已讲，本课少展开）→ 组织协同机制（「智能流水线」能否跑顺）。
2. 生产层：数据工程（合法、稳定、可清洗配比、可验证）→ 模型研发（选目标模型类型 → 配「药方」→ 预训练 → 验证 → 后训练/微调循环）→ 测评对齐（能不能上榜、能不能安全好用）。
3. 定位：此层仍是 AI Lab 玩法，产出半成品，尚未直接面向终端用户——但它是整个平台能力的关键。
4. 组织判断：非 AI-native 的老登组织难跟上「N 条路径同时训、动辄月级交付」的节奏；字节张一鸣亲自下场被用来说明「再观望可能错过浪潮」。一款顶模级投入可到「为什么需要 100 亿」的量级——大部分公司干不了。
5. 反例串：MiniMax「失速」可用「流水线没跑顺」解释〔课内点到，未展开因果细节〕；腾讯多团队并行训模型却各自向同一供应商买数据、数据不共享——草台协同的内部笑话。

课内金句口径：每个时代都是时代的产物，时代由人组成——需要新组织与新人，而不是旧组织换皮。

数据工程 · 养料与合规

数据不是越多越好，要成为生产资料

1. 合法、稳定、可持续获取的高质量数据；可加工、清洗、分类、配比；格式可训、结构不乱；最终可验证——任一环断了，炼丹就翻车。
2. 配比如配药：预训练要多样性（全领域覆盖 → 「AI 很全面」的来源）；偏 coding 的模型则 coding 数据更多更精。配比差 → 产出差可以很大。
3. 蒸馏捷径：中国公司普遍蒸馏美国顶尖模型——对方已跑完大规模训练，蒸馏出的问答几乎可直接当高质量训练集，跳过前面 1–4 步清洗配比。OpenAI 也曾点名批评他人蒸馏其数据〔课内口述〕。
4. 笑话：用微博数据训 → 「八卦大模型」；废话多、阿谀奉承的模型（点名豆包、Gemini 的情绪讨好倾向〔课内观感〕）≠ 好模型。情绪价值对生产环节「有屁用」——生产力强了不需要情绪价值。

数据种类（本课速览；数据专题后续单讲）

• 预训练数据：多元、全面；时效性、许可版权现阶段普遍「不具备」——畅销书作者、迪士尼等 IP 已在告模型公司。
• 合成/蒸馏数据：量不够或要强化某能力时，用问答闭环强化。
• 标注数据：后训练对齐用——哪些话不能说、核武器制法等问题拒答。
• 反馈数据：Bot 点赞/踩 → 闭环优化；Cursor、OpenRouter 等会记请求做标注与回归〔课内判断〕。
• 企业私有数据：制度文档、工单等；微调/后训练让模型回答企业专有问题——未来行业壁垒。

合规与隐私 · 课内硬判断

1. Anthropic 约 154 页报告〔课内〕把中国用户用法「翻底朝天」：IP、提问等；称大量中国用量经新加坡出口 IP（「新加坡人一下子增加了 6 亿人」〔修辞〕）；四川出口 IP 问某问题被列得很清晰。
2. 反噬：公布后英伟达等多家美国公司弃用 Anthropic〔存疑：具体名单以公开报道为准〕——用户数据即便你知道也不能公开。
3. 阿里「最聪明」：全中国最大的数据公司，对外从不说自己是数据公司；一旦按数据维度宣传，「估计现在没有阿里了」〔课内口述〕。支付宝实名 + 消费轨迹的拿捏力用内部八卦说明（高管调查路径还原）——强调企业数据可怕与战略价值。
4. 所有模型公司口头承诺不用客户数据训练，但「不拿模型怎么精进」；早期草莽，成熟后讲合规；OpenAI/Anthropic 担心反垄断与巨额罚款——政治与技术创新的博弈。
5. B 端展望：coding 买单放缓后，下一个愿买单的是老板——企业决策/战略/运转「智慧驾驶舱」类 Agent；数据湖仓上的挖掘空间大。

预训练 · 后训练 · 对齐

一句话分工

预训练：把数据与算力转化成基础通用能力（理解、推理、数学、代码、跨域知识）。后训练：让模型在特定领域更好用、更听话、更安全（偏好、领域知识、工具调度、安全栅栏、系统提示词）。

1. 流程：定目标模型类型（视频/音频/文本等）→ 配数据药方与架构（当前主流仍是 Transformer 及变种；架构「只有一种主线」）→ 预训练 → 测基础智力 → 不达标则针对性备数做后训练 → 再测 → 多轮炼丹。
2. 分支：企业侧常用微调挂在基座上；实验室侧以后训练对齐为主。市场热度下「推不出就打脸」，尤其上市公司压力大；同方法也可能训不出好结果——有运气成分。
3. 顶厂解法：Anthropic 等可同时训很多条路径，选好的分支延续，而不是只赌一条。通义千问例：课内提到用某代基座做约 20B 量级变体〔存疑：具体版本号 ASR 含糊，记作「基座复用 + 分支」〕。
4. 发版压力：谷歌从 3.x 后长时间不发，因「没有拿得出手超越上一代的」——发出来更惨。国内「百模大战」死掉的一批，多数其实在做后训练而非真预训练。
5. 对齐是一组权衡：伦理/国家/诱导攻击拒答；医学等专业回答要澄清「可能不准确」。Grok 被描述为海外灰产爱用的「暴力模型」（文本/图/视频都能碰，精度一般，国内出不来）。

算力 · 软件栈 · 工程效率

冰山下的软件栈（课内点名）

• 模型架构：Transformer（及变种）；训练目标可以不同 → 效果千差万别。
• 训练框架：定义过程、调度计算与内存、自动微分、精度（调参由来）。
• 编译算子：指挥计算单元；大量算子库；DeepSeek 等在算子/通讯上做优化（部分开源）。
• 分布式训练：不是机器简单相加——任务切割、数据同步、通讯稳定、单机故障可切出；数据/模型并行；显存爆炸是常态约束。
• 数据流水线与缓存：读写要跟上训练；KV cache 命中使推理更便宜——理解「缓存命中就便宜很多」。
• 版本与可观测：权重、代码、配置、数据集配方、测试集、安全策略、发布日期串——「一个模型版本至少关联六类证据」。

成本与节奏（课内量级）

• 有卡时动辄数月训练；规模大也常是约 1 个月起；小破模型也可能连续训一周。
• 单次训练失败可能「几千万美金打水漂」；「几个亿洒洒水」〔课内口语量级〕——只算电与算力已很贵。
• 「30 天出一个模型」背后往往是 N 条模型同时在训 → 烧钱与组织承载力。

高效团队 vs 草台班子

案例口径：小米挖罗福莉后迅速有模型，但新班子磨合期「不能打」；姚顺雨入腾讯混元同理。阿里通义千问在林俊旸离职后仍持续发版 → 机制跑顺后可按部就班。DeepSeek 算子同学发文称「AI 把他的工作干了」→ 进入稳定态后是快速迭代。

最难考点：架构与数据供应商趋同之后，拼的是团队研究能力（论文、新解法、吞吐、降本）。腾讯多团队向同一数据供应商重复采购、数据不共享——说明组织协同稀缺。

模型好不好用：课内强调不是用户说了算，是专家说了算——各领域专家测评成卡点；有「印度外包专家测 Figr 5.1」类观感〔存疑〕。

测评 · 别被单一榜单带沟里

基础能力四看

1. 知识覆盖（跨领域）
2. 推理 / 迁移理解
3. 多语言（东南亚落地要在预训练加当地语料；点名通义千问、DeepSeek）
4. 多模态

任务能力

• 长程任务：能否长时间工作与调度（从写诗写故事 → 能干活）
• 稳定性（这次好用下次翻车不算好）
• 工具调用 / 知识迁移
• 治理后的安全性

看榜单时看什么

版本号、基于哪个基准、测试条件、业务迁移能力；官方常写「比上一代强 x%」。建议：少看小作文，可看主流测评站对比 + 用 AI 帮你读懂指标。实践上「掏钱大量真用」也是理工男判断法。

五维稀缺性评估模型

课内模板：永远关注稀缺性。用来评价「好公司 / 好模型工厂」（黄仁勋语境下的 AI 工厂）。

通用模型 vs 行业模型

• 通用：拼架构创新、全领域知识与范式研究。
• 行业：仍早期演绎；拼特定行业私有数据、流程理解、任务形态与大客户定制（电力、水利、气象、电商客服、电销、金融等）。金融大户下场、GPT 与博通/彭博相关金融模型传闻〔存疑〕——共同点仍离不开上述工程要素。

融资叙事（一级/二级都适用的课内口径）

OpenAI / Anthropic 向资本讲清：每花 1 分钱能转化多少「智力」、资金投入与能力曲线如何达标。能持续融到大钱本身也是一种被驯化资本验证过的能力信号；故事讲不明白就拿不到资源。组织优势来自更快学会：假设 → 训练 → 测评 → 用户反馈的学习型闭环（Anthropic 高效被用来举例）。

投资可带走

1. 先画流水线，再评公司：缺的是人才/组织，还是数据，还是工程效率？别只看参数与公关榜单。
2. 老登有钱有卡不等于赢：腾讯挖人、卖云有算力，仍可能被协作机制拖死；盯「是否 AI-native 流水线」。
3. 蒸馏能解释国内追赶速度，也能解释合规地雷：捷径有时效，版权与用户数据反噬会改客户结构（Anthropic 案例）。
4. 研究能力 > 堆卡叙事的后半程：架构与数据供应商趋同后，论文/算子/通讯/降本才是差额；DeepSeek 叙事按此框理解。
5. 五维打分做尽调清单：数据、人才算法、算力获取、效率、生态迁移——通用与行业权重不同。
6. 看融资与股权激励时：对照「钱如何变成可验证智力」；一级比二级更严苛。
7. B 端下一浪：企业知识库 / 决策驾驶舱 Agent；但要过合规与数据孤岛。
8. 口径提醒：课堂认知框架，不是荐股。

风险与局限

• 用户数据训练与公开泄露 → 企业客户流失、监管罚款、政治博弈。
• 版权诉讼（书籍、迪士尼等 IP）与蒸馏争议。
• 训练失败的沉没成本（千万美金级起）、发版不及预期的市场打脸。
• 组织：多团队重复采购数据、版本失控、关键人离职后机制是否仍转。
• 生态迁移成本可能被高估：模型可替代性高时，粘性叙事要打折。
• 本手册基于 ASR 转写 + 智能纪要压缩；口误/听写错误可能残留，关键数字与专名请对照回放。

课后作业（课内）

案例：某企业要做知识库助手——多年制度文档与服务工单；历史授权范围未完全理清；已接外部模型 + OA 身份权限；每两周知识测评回归与故障回滚；高度依赖人工；业务部门活跃，但跨部门复制需重梳流程权限。

请用五维（数据、算法/人才、算力、效率、生态）分析其优势、瓶颈与能否迁移到其他行业。课内提示：用外部模型做外挂/微调时，最大瓶颈常在工程效率（人工回归）与可迁移性；人才「能搞出来」≠「有优势」。

来源与材料

• 课程：第 2 站 AI 产业研习营第 2 课《AI 模型能力如何被生产》
• 腾讯会议标题：AI模型生产全链路与稀缺性分析培训
• 日期：2026-09-16（约 19:30–21:00 CST）；录制约 1h45m
• 会议号：325813738 · 主讲：黎明
• 智能纪要：/workspace/学习工作台/pages/liming-s2-l2-model-production/raw/smart-minutes.md
• 带时间戳逐字稿：/workspace/学习工作台/pages/liming-s2-l2-model-production/raw/transcript.txt（同目录另有 raw JSON）

本页为 A 类学习手册（纸感阅读 v2）。整理自课堂转写，供复习；不构成投资建议。

全文逐字稿

按时间戳分段；专名做了轻度 ASR 校正。回放为准。

0–30 分

[00:07 - 00:21] 黎明：开始嗯。看一下我怎么共享一下屏。共享屏幕。

[00:56 - 01:02] 黎明：那个昨天的那个问题大家有没有去？去研究啊。研究学习啊！

[01:23 - 01:40] 黎明：有没有研究啊？啊，没人没没没动静是都没没去研究学习一下是吧？嗯。李老师李老师在那里研究，等会儿我先把屏幕共享出来再说。

[02:16 - 02:41] 黎明：**我可能是。这个有点不会玩了这个。我把怎么怎么怎么怎么把那个。为什么没有共享按钮呢？他换了一个电脑，发现不会玩。

[03:00 - 03:56] 黎明：能看见屏幕了哦！能不能看见屏幕？能不能看见屏幕可以啊，可以，那我们到新的一个环节喽。新环节，新环节。我现在对我。设计的这个？最近这个效果特别满意。然后我们上周做了个全览。整个全局让大家就说嗯。接下来。什么玩意儿？那多大家大家这个理解到什么程度了哈？我把这个框框变一下。

[03:56 - 04:35] 黎明：上次问了一个问题，就是说如果一个产业它被定义成是有哦，呃，尤其是呃，那个 11 个公司。可以是，呃，在产业的很多这个产业的很多环节它都可以参与啊，尤其是那个阿里的那个问题，大家可以其实继续深挖。对吧。深挖深挖能挖不少东西。好，今天我们就开始啊，首先那个。我们现在进入第二站的第二课。

[04:37 - 05:41] 黎明：第二课就开始上硬货了啊，就是说整个 AI 模型是怎么被生产出来的，这个离大部分人有点远哈，这里面如果不，没有搞 AI 的话，这个。对很多人来理解呢，是呃是有一定的门槛。不要紧哈，就是看首先看这张图。我们上次问了一个问题啊，就一个公司最。最最重要的东西是什么？AI 公司啊，要定义那不一样的公司不一样啊，像制造业它最最重要的可能是生产线。那 AI 怎么出来，最重要的一定是人才是吧？记住这个记住这个观点，在这个在后续你要去挖掘的时候。那是至关重要的起决定作用。但是除了人才之外，但别的就不重要吗？也很重要。

[05:44 - 07:21] 黎明：下一个最重要的是什么？技术。人才其实就是技术。。钱。回答对。有人才了，还要有钱嘛，没钱人才也不来是吧，或者是人才来了也干不起来。公司的。资源辅助。人体系。大家都在思考，很好，很好记住啊，这些这都是重点啊，所以我们今天主题就是从整个。全体看到了整个整个 AI 模型或者整个 AI 平台，它是那么一个，其实还是一种挺复杂的一个布局。因为我们最开始第一站讲了算力啊，所以我我这里没提算力，但是其实人才，资金，算力以及高效的协作。就算这这些东西都具备了，比如说你物理资源具备了，还需要有良好的这种组织的这种协同机制啊，这个我们之间。

[07:21 - 08:40] 黎明：在。没有体系化之前在群里面哈潜移默化的跟大家分享过这些观点还记得吗？啊，应该有有印象哈！就是断断续续的跟大家分享过一个公司。如果为什么老登公司在这一轮里边都没有跑跑出来？啊，包括海内外的都是如此。为什么。发生了什么事情？因为组织协作跟不上。家里有没有钱，有没有人才，腾讯挖了那么多人是吧，然后算力他们这就是今天如果说阿里或者腾讯。缺算力这个别的可能就不过了，他们是中国内目前。因为至少都有这个那个那个。数据中心哈都都是卖云的。他们一定有。就是当时的擅长啊！

[08:40 - 09:27] 黎明：首先我我我今天为什么这张图大家一定要现现在在脑海里面刻画出来哈，然后第一层你看到了哦，这是大的东西，再往下就开始展开了啊，有了钱，有了人才，有了算力，甚至有好的这个。协作组织嗯，协作机制好的这个配合那就要干活了，这个过程中需要的是什么？需要就开始做模型，做模型的前期你需要大量的数据。来为你的这个模型就是提供养料，那这些背后其实就是各个系统啊，既要考考虑这个计算计算的本身的问题，还要考虑呃数据呃，就大规模数据的符合要求是吧？

[09:29 - 09:57] 黎明：我以前搞过百模大战的时候搞过，搞过一个笑话哈，就说有人用微博的数据去训练大模型，因为微博的数据，去年大模型你去挖掘这个公公开的数据，甚至或者用知乎的数据挖掘。现在大模型，结果可想而知，微博训练出来就不是热搜，热搜大模型就是八卦大模型是吧？呵呵！

[09:57 - 11:22] 黎明：所以这套整整个这张图哈，大家记住，其实后续会围绕这个这张图就是它是呃比较。可以理解成是你理解产业的一张地图哈，只是这个地图呈现形式是以这种方式哈。所以我在刻画这张图的时候，我就让它以这种地图流水线的形式。呃，把它构建出来，所以你看清晰吧，这样看一定很清晰对吧？好，记住记住了吗？这张图在脑海里面形象的记记忆一下啊，因为后面所有的环节都会下面的这些基础的，对很多人来说，其实记不住，你记住这个各种颜色区分的这张图。对，黄色的是最重要的啊，是总的慢慢的要拆开成数据数据工程，然后拆成模型，研发本身再还有就是研发出来了，你一定要测评对齐是吧？能不能高考考考考考考出什么排行榜第一是吧？怎么做到是吧？啊，怎么保证这个这都是？具体的这个模型生产过程的工具。啊，如果理解到这个层面啊！那我们就开始往下啊！

[11:23 - 12:52] 黎明：那我问个问题哈，我们在周一的时候分享过一个。一个点啊。就说。模型分了 6 层是吧，就是模型以及 AI 平台这个整个分 6 层，然后我们大概在全景里面就讲了一下基础模型。那模型生产层就应该在生产环节，它是一种数据研发工程以及各种呃测评。但到这个环节还没有对外哈，对外不了，因为它只是这是大家听到的哈 AI Lab ai 实验室的玩法这种东西。就是在生产半成品啊，它不是面向终端用户的。但是这是最关键的好问题来了啊，如果只有数据和 GPU 还缺什么才能形成模型的能力？好，这个问题送分题啊，看你们都能不能能不能答出来。如果已经。如果已经已经是这个状态了啊，已经是。那很多人都是在线当美声嘛！说明你们已经理解了啊！

[12:50 - 13:53] 黎明：好，那我们我们为了展开后面的问题啊，我们问一个问题，参数参数最多的模型一定是最好的模型，今天我们都在讲顶模顶讲讲三 t10t 的模型。参数最多的模型一定是好模型吗？你就凭自己的感觉哈！因为没今天，当前你是没有知识的。所以你在选择的时候只看公众号文章吗？只看什么呃 ai3 巨头什么赛博朋克这些文章能把你害死？明白吗。很多人看什么抖音去？去学习。按短视频去学习。那你可能会死得很惨。为什么呢？因为他们是靠这个来恰饭的，对吧，他可以吹出签来吹出花来理解吧，你们今天能理解这个。

[13:53 - 14:23] 黎明：这些自媒体的生存之道吗？你真的以为他就是在那测评的。Ok. 大家都选 B 是吧哦，你们都会没有，没基，基本上就没有一个错的，嗯，我不知道你们怎么做到的都懂啊！你看也不看，不只看，不只只看公开榜单，参数越多越好，你们选择全都是做起家啊！做起家啊！

[14:23 - 15:19] 黎明：实践起来会这么做吗？这么看吧，来回答这个问题。你们在日常实践中会这么做吗？还是还是会看排行榜？还是会会直接凭自己的感觉说参数越多越好。不会只会看小道消息，会看排行榜，那你们会死得很惨对吧，是不是反而不冷？可以增加护理。是吧，就这样，你看一环一环的就把大家带到正确的路上了，这种路得得多走，嗯，好。

[15:19 - 15:41] 黎明：怎么看小道消息，看小作文哈，可能会死得很惨，等会儿我把这个这个这个共共享的屏幕的这个别调整一下，别别扭扭的。太别扭了。

[16:01 - 17:52] 黎明：还是不对呀嗯！太小了，你们看不清。所以这时候不看不能不能再看小道消息了哈，首先要做到的就是不看小道消息，能做到吗？能做到这一点吗？得一。能不能。啊。希望你们听了这这这个环节就开始想思考，想办法做到我如何评估他的，嗯。如何评估啊？那就多看论文呗，这东西要要不呢？土办法就是你看我，我就是掏钱嘛，直接用嘛，大量的用。然后辅助于看一些论文哈，给自己就是有一些判断力嘛，理解它到底是用的是怎么什么注意力机制，多少个专家是吧？那你就能理解这个，我我我花钱花到哪了啊，当然这个这是理工男的消费思路哈，<笑声>好。门槛不小是吧？所以记住在这里补充一句话哈！投资是。认知的变现。对吧。或者说呃工作也是如此嘛？

[17:53 - 18:53] 黎明：能理解这句话了，其实是有深度的哈，就是看着其实记住永远不要看，只看冰山，冰山上面的东西，根本性解读 ar 里面的关键论文。就是任何事情，你想要轻飘的获得这个世界，我我不，我不相信这种这种这种方式大家可以感受一下，看你们，你们就是轻飘的去研究一下，然后就能踩中。或者是呃走什么交易型，当然这个这里面成功的还是少数啊！不要觉得自己是幸存者，偏差，交易就总能成功。理解的深刻了，他无论是他是什么样，他其实就跟你养小孩一样，最终能不能锻造成可可造之材，过程中的因素太多了。

[18:54 - 19:53] 黎明：然后我们开始猜模型是怎么一个生产机制啊，刚才说了这里面涉及了，还记得那张图的话，你就会记得。它的原料是什么？然后它的能力是如何通过算法？一个算法，一个数学公式啊，算法我们今天。记住嗯，记住记记住那个呃，我给你们做一个简单的翻译，其实今天所有的所有所说的算法都是数学公式哈。各种数学公式。所以为什么一直说？啊，数学很重要！今天所有的算法模型都是数学公式好，还有一些软件啊，如何保证这些模型能够跑起来，运行起来需要各种基础的支撑软件，比如说运行环境，以及比如说刚才前面说到了。

[19:54 - 20:42] 黎明：很多的这个。呃，软件产品啊？哦，你总总需要一个操作系统对吧，总需要大量的各种库，这个就是或者说那个英伟达的 CUDA 的这些这这个。大白话说就是各种。组件插件啊，零部件反正把它来完美的完美的运行起来，然后让它可以正常运转啊，怎么就持续运转？然后还有一个就是有一个什么样的组织，能够认清这个，这个东西是什么东西，就是这个组织能够配合的亲密无间用。

[20:42 - 21:36] 黎明：呃，刚才当时说的很好，就是 AI-native 的一个团队，那今天你看一下大部分你是不是 AI 来的不是的，其实可以早期的先打死，先打死再说，不要自己耽误自己啊。因为因为不是 native 的公司基本上没做成东西啊，包括假如微软 google 都是如此啊！所以这就是为什么你你如果跟持续跟着我的思路来哈，我这么多年一直说我不看好这些公司对吧，有印象吗？啊，这就是这就是为什么我得出这样结论的判断，每个时代都是时代的产物哈，每个时代产出的东西都是时代的产物，时代又是人组成的啊，每个时代都需要新的人。

[21:36 - 22:13] 黎明：说过很多次是吧？不是，他不止腾讯海外的这些公司我也说过哈。就是为什么我可以这么坚定，就是有对，今天今天是把它整个体系化了。所以你跟着节奏，你会今天收获的，那就是我完整的一套体系，我自己都可能没这么完整，没这么体系化的。12345 我我就是完全跟那个开车一样，完全是。自己的那种判断。

[22:15 - 23:43] 黎明：嗯，好，第 5 个点就是这这个模型出来之后，如果训过模型的人哈，如果练过单的人都知道训出来这个模型，其实人到人月还还很早，很早很早。所以今天说 30 天一个月出一个模型啊，你要想象一下，其实这背后可能是 N 个模型在同时做训练，所以为什么？AI 公司需要这么大量的钱？因为同时。为什么动不动就就就就？就搞不动了，这就是为什么老登组织，他根本跟不上今天这个节奏要这么多钱投入那两下，这个你知道，尤其是这些大型公司，它组织组织不会给你这么多资源。尤其老板如果不懂这个的话，为什么你今天就能理解为什么张一鸣亲自下场啊，观望不住了人。再观望观望下去，他也可能错过这次大的浪潮，所以你看字节不断的在这里面及时修正自己，所以这里就是编串的时候，你把这 12345 记住了。然后你看这个图你就会比较清晰了哈，能看见吗？好，这些整个组织的协同投入，然后才能不断的建构构建一套这种生产生生产。

[23:43 - 24:23] 黎明：模型的流水线，也就是我们今天说的智能的流水线，那背后需要多大的力量？为什么今天这样的组织是烧钱？一款模型为什么需要 100 亿？你就能理解，这不是人干的事情，至少不是大部分人能干的事情，大部分公司也干不了，只能是这个时代的新组织，然后有这个认知的不断的去构建这么一套体系。然后慢慢的跑顺，然后才能不断的出出现好的模型。这这这里面其实但凡稍微深入一下，你就能解释为什么 mini max 失速的问题。

[24:30 - 26:28] 黎明：这张图记住了吗？我们要结束了，这这这一环就结束了。好，结束了啊，数据不是越多越好，而是要成为生产资料，这这里要带过一下，因为数据很关键哈，所以数据一定要合法的，稳定的能获取就是能不断的获取到高质量的数据，这个毋庸置疑哈，这个数据一定是能够加工，不断处理以及。去把它各种清洗啊，分类啊，然后怎么去搭配给这个模型，这次要多少数据，然后这个数据的格式能不能？被训练训练的过程中能不能不能能不能出现这种乱？结构混乱的数据。啊。不能。可训练的数据，然后最后这个数据一定是能够被经过验证的，这里面如果出现问题，那训出来的模型肯定就是有问题，对吧？所以他就是为什么大家都在说炼丹炉都是炼丹师哈，其实数据这里面对数据的要求还是很高的，如果每一个但凡一个环节或或拿不到数据，那就出问题了。这也就是能解释为什么今天中国公司都要蒸蒸馏美国顶尖模型，因为他们已经通过。大规模的这个训练啊，就跑得比较快，已经做完了这一套东西，然后从它蒸馏出来的数据基本上可以定定义为就是高质量数据，其其实都不用。都不用走这些啊，前面的这这些 1234 环节直接可以搞成训练数据集，所以你就能理解为什么这个捷径中国公司都在？

[26:30 - 27:21] 黎明：就是很多人在说蒸馏蒸馏那拿来蒸馏干什么？做了什么事情，能理解吗？就还是想走点捷径嘛啊，这个没毛病啊，谁都想就去界定，记得最开始 gpt 搞是 gpt 搞 OpenAI 呃 OpenAI 那个。点名骂那个呃也比较高嘛，就点点名出来说自己也在蒸馏他们的数据对吧？Ok. 啊，这里面你这啊，这一张图里面你需要理解，其实数据的重要性是很重要的，而且这个复杂度如果没有高，每一个环没有高质量数据，也就没有后面的好的模型。嗯。

[27:21 - 28:13] 黎明：也就是一个八卦模型，训练出来就是废话模型，呃，有可能这个模型就是还是就是什么阿谀奉承模型啊，比如说今天的豆包也好，然后 gemini 都表现出这种水准啊。那这种我们从常识来看，比如说废话多的模型，那一定不是好模型，废话多的人可能也不一定好人，然后阿谀奉承的也不是好人，你看今天的豆包。豆包也好，或者 gemini 也好，或者是这两个是比较典型的啊，为什么豆豆包能成为情感助手哈，情感专家？他可以把你弄得很开心啊，但是就是就是能力差一点是吧，就是因为没蒸馏到好数据，因为嗯好。

[28:14 - 28:50] 黎明：然后数据的重要性提一下为什么这也是为什么提供情情绪价值有屁用吗？这是生产环节，生产力跟情绪价值就是没生产没情绪价值，生产力强了。也是这样子，就也不需要情绪价值，你看强者从来不从来不需要情绪价值，只有像我这种还需要你们响应一下，你看真的强制管管，你们想不想？管你们看不看是吧，所以情绪价值这个东西是针对弱者的。

[28:54 - 29:11] 黎明：好，这里面就说数据啊，简单过一下数据数据的那一栏会专门讲，只不过这这一个环节，因为数据比较重要性，你们记记住这张这这张这张图就可以了啊。能记住吗？这张图能看清吗？

[29:30 - 29:35] 黎明：可以是吧。哦，能看清我们就往下走哈！

[29:47 - 31:01] 黎明：不下载没有啊，那就省略你总不能让我加是吧？啊，现在看现在能看清是吧？呃，记住就行了，这个数据你理解，反正训练的数据呃那个训练环节需要什么样的数据，然后合成数据又是什么数据，然后为什么有些数据为什么要标标注，然后是为了用来运营运营做什么的，比如说在。在后训练的时候用于对齐，有些话不能说，有些有些观点不能不能不能回答，有些问题不能回答啊，都要做，通过标注之后去处理哈。你你说你说你问一个研究核武器是吧？的方法或者制或者制造什么这种问题他就可以。不回答嘛，对吧？对，有些就像有些人问的很傻的问题，我我也选择不回答，因为太傻了是吧？<笑声>因为自己完全没经过经过这个，不过这个。这也是做了一次对齐嘛，因为我回答出来证明我也傻了。

30–60 分

[31:06 - 31:37] 黎明：还有就是这个记住啊，就是这个反馈数据很重要，为什么所有的模型，所有的这个它的 bot 后面有一个让你反馈回答的好点赞还是还是这样？证明这个回答的啊，慢慢理解哈啊，数据我们就跳过哈，就是简单的让大家过一下，你就理解哈，就是因为后面会专专门针对数据做详细的讲解，因为现在讲数据的话。

[31:39 - 33:13] 黎明：你只用理解，就是比如说预训练的啊，那我们还是简单过一下，嗯，很多人可能完全没有没有这个认知哈，就是预训练的数据，今天的模型的治理啊，是靠预训练，说通用能力靠的是预训练，那预训练它需要。这个数据的多样多元化是吧，就是全就是比较全面啊，我们经常说 AI 太全面了，这就是这个意思啊，就必须全面方方面面的各个领域的知识它都覆盖掉了。对他的理解力，你一问他都那都他都会理解，你问的是什么问题，但是呢，你很多模型它又偏向性，有的偏向 coding，那就 coding 的这种数据会偏多一点，偏精确一点。这就是配比，所谓的配比就跟配药一样啊，配比不一样，出来的那个模型差距真的很大。所以你就想象一下这里面是个概率问题呢，还是个玄学问题啊？对哦，还有这个过程中可能是，比如说到底这个这个数据是不是具有时效性啊？啊，这个隐私，反正现在现阶段搞的这个数据，反正都不具备什么许可版权哈，因为。呃，为这个问题大家也看到了各种新闻啊，就是什么畅销书作者呀，还有迪士尼呃，迪士尼啊，还还有各大这个 IP 啊，不都在告这些模型公司吗？

[33:13 - 34:17] 黎明：合成数据嗯！合成数据这个就是说很多数据呢，你现在明显的量不够，或者是。这个数据本身呃，你要强化这方面的学习，尤其蒸蒸馏的数据就是合成数据，就是问通过问问题，然后得到回答，然后他不断的去强化这个模型的能力啊。哦，注意这个这里面的关键点就是如果呃我们我们说预训练数据一定是多多元化的，就是全面靠全面这个东西，但是呢，有些过程中这个全面就不不可控了哈。万一这个数据搞数据的人，他理解的这个全面跟呃有些数据在做清洗的时候嫌复杂处理就没处理，或者把它过滤掉了，那就导致模型不能啊。这个问题应该在腾讯就天天发生，估计在阿里也天天发生啊！因为当时姚顺雨不是站出来说了这个问题。

[34:19 - 34:46] 黎明：企业知识比这个是就是你要去后训练或者是说的，比如说针对这个企业内部哈，做一些定制大模型的时候，你要通过微调的方式去让这个模型。相当于你把这个数据就是喂给他，然后做一次微调训练，然后让他回答你企业是有数据的时候可以让这个模型能回答出来哈，因为刚才前面这些数据没有你企业的这些私有数据。

[34:51 - 35:10] 黎明：这个结构简单说一下啊，就是大部分人其实应该现在对知识库的这个这套逻辑还是理解的，就是为什么说我说接下来数据会很重要，就是尤其是在企业的这种私有数据，或者是呃，特定领域，特定行业特定领域的数据一定会很重要啊。

[35:09 - 36:58] 黎明：我说了三两个重要的，还有一个重要，就是这些数据一定不会有，包括最近嗯给你们举个例子哈。前两天我录了个视频，我就分享那个 Anthropic 的 154 页那个文件啊，就是相当于把国内的这些，呃，主要针对中国啊，就是大家怎么用这个模型的。发了个底朝签，然后哪些公司用，甚至连你的 IP 中国大部分都是 80%!都(MISSING)是新加坡人在用哈，那新加坡人一一下子增加了 6 亿人啊！对吧，因为 Anthropic 不会给你中国人开放，所以的 IP 是新加坡，但是新加坡它有个出口 IP，比如说我就是我就是呃，嗯，呃，比如说呃。就我哈，我就是在四川的新加坡人，看能不能调出来，当时那个那份 150 页报告里面有一个呃，四川的日本人啊，问了一个什么问题，然后把它列出来，列得很清晰啊。所以这里面就是隐私性啊，这些模型公司拿着你的问题，他把你可以就今天为什么数据很重要呃呃，但是这个这个反思来的很快哈，当他公布这个数据之后哈，虽然是针对中国的结果导致。那个英伟达？还有那个。好多美国公司都选择了弃用 Anthropic〔存疑〕。这是为什么？这就是大忌哈，用户的数据是不能拿拿出来的，就算你知道你都不能公开的。

[37:01 - 37:31] 黎明：你知道阿里做的最聪明的一件事情，就阿里是一个全中国最大的数据公司，从来没有公开过他有什么数据，他一直在说他是一个电商公司。科技公司他没说他是个数据公司，这个在内部做过很多次，阿里在内部做过很多次，要不要去去通过这个维度去宣传自己，一旦从通过这个维度宣传，估计现在没有阿里了啊，阿里也做不成。

[37:32 - 37:55] 黎明：马云当年包括我们当时跟马云，马云的第二任接接手，马云的哥们叫什么来着？陆兆禧是我们之前前家公司的一个。股东哈，我们跟他聊的时候他就跟我们分享这些八卦嘛，不是陆兆禧啊，接手马云的啊！

[37:57 - 39:18] 黎明：路路上行车后不就是呃，现在的那个叫啥，嗯，最近被录下来，那哥们叫什么得一？张勇啊陆兆禧过来就是张勇。张勇过来现在是谁？真的是。特殊性。他们就说就这这种八卦就出来了哈啊，把阿里的数据你就想象一下，从 2000 年一直到现在积攒了多少中国人的。你就想想你的消费行为，你的在哪儿，甚至你的人际关系你都搬没搬家，这这这不仅仅说这个，再加上支付宝的实名数据哈。就是他他具有全国，全全国所有人，他只要想搞你。他可以把把你拿捏的死死的这个就他他们当时说了个八卦，比如说阿里内部想要捉个**哈，就同事之间有没有瞎搞，就是看查不查你啊！路径还原的特别清晰，阿里的整个内网是呃，内网的这个数据啊，所以很多人不敢用公司的网络。

[39:25 - 40:48] 黎明：阿里几个高批当时都是这么被啊？被搞下来的啊，就为什么可以轻松的让他们走，就是在聊的过程中就把这个这个东西给你拉出来了啊，你跟那个谁哪个同事那天开房？其实可以列出来，这四下就解安全了，阿里这些，因为当时我们那个公司就是一般阿里阿里的人天天跟我们讲这些。那么因为这里面都是。都是高管。跟 AI 都没关系，其实是网络层面。直接网网络出口就是完全可以锁定，就把所有的数据整推出来，所以这是特别可怕的事情，一旦这个数据被被拿出来之后。所以这为什么数据至关重要？企业，尤其企业的数据不缺，为什么今天没有公开的去售卖哈？你从网关层所有的数据是可以拿到的。如果感兴趣的话去看一下那 150 页的报告里面把你的 IP 出口列得清清楚楚，说不定你在里面还能找到你干了什么坏事。我那天搜着搜着就看到了一个。

[40:51 - 41:33] 黎明：哦，对，你们这种公司最可怕，你们做安全的公司啊，特特别可怕嗯！运营商搞个锤子。医生都不作为。因为他哪有什么技术好简单的理解一下企业的数据哈，刚才跟你们讲讲这个八卦哈，估计你们最喜欢听这种八卦啊，就是讲到企业的数据的重要性哈，这个再强调一下。现在反噬之后的日子可能就没那么好过了，各个大的公司可能就不会用它了，宁可用一些这个低的，也不希望自己的。

[41:33 - 42:26] 黎明：信息泄密你理解吗？所有的公司今天都要承诺不能拿客户的数据，但你其实想象一下他会不拿吗？不拿他的模型怎么会精进刚才？就是骗小朋友可以。如果在你稍微懂点行，他是骗不了你的，你所有我们的数据一定会被拿去训练，然后一查合规的时候一定会出问题啊，所以他们现在 Anthropic 也好 OpenAI 也好。最担心的是过两天的反垄断调查，调查到到时候可能是面临巨额的罚款啊，没事儿，这就是政治跟创技术创新之间的博弈。所有的公司都要面临这个问题。对吧，包括苹果，微软，谷歌，都都都都被干过。

[42:27 - 43:58] 黎明：嗯，所以呃，那讲一下企业的数据，企业里面有大量的数据积累，但是企业数据这些年它有个路径哈，以前所有的数据可能都散散落在各地各个地方。呃，自从有了互联网之后，然后有了这个信息系统，有了软件系统之后，很多系统就数据就开始归集到各个，呃系统上系统层面了，但这些系统。这数据然后积攒下来又大量的这个数据去割裂是吧？啊，不衍生出来了大数据以及大数据，刚才说的围绕大数据杀熟啊。然后他们建构建了强大的这个数据湖数据仓库哈，所以这些数据全在仓库里面啊，就存起来了，存起来之后，那这些数据去挖掘调用。然后能够在企业产生价值哈，我觉得。可以给你们这个后面到应用层面讲讲哈，这里面创新的应用是特别多的，因为老板现在你别看老板，其实呃老板特别不清楚，接下来企业的战略应该往哪儿走，那这些数据会告诉他啊，因为借助 AI 他就可以告诉他。所以这个市场啊，就企业 B 端这个市场在未来模型就是能够普及的话，一定会市场很大，未来一定会出现企业的各种 agent。

[44:03 - 44:51] 黎明：合规之间平衡就看打的痛不痛，所以这个法规啊，其实什么我们当时我们都在说什么国，这个中国当时反垄断调查太一刀切太猛了，这之前根本就没有，就是没有去干预。然后现在稍微一干预就不行，他妈的，哎，就是这个，我觉得最近我们读书会读的那本书挺好的，就给你一些多元化的思维，其实本来。包括最近的税收也是呃，以前就稍微松一点，就觉得好像就是不应该收税，现在又回归，慢慢的回归正常，确实遇到困难了。呃，现在开始较真儿了，就觉得好像是要干我了，哎，有很多逻辑是想不通的人，各种阴谋论就出来了，各种收割就出来了<笑声>。

[44:52 - 45:25] 黎明：所以大家还是没事多读读书哈，有些东西呢，能看懂之后啊，其实你就会你就能理解能理解嘛，就跟就操作的时候好操作啊，比如说这些数据企业的数据挖掘出来，你就可以检索甚至哈。我看到了大量的这个趋势，就是企业可能最先企业给 AI 买单的企业，现在 coding 买不动了，下一个买单的一定是要给这些老板们买，开发一个企业的各种决策模型啊！

[45:26 - 46:04] 黎明：企业的运转模型什么企业的什么战略模型，企业的什么怎么这个智慧大脑哈，就是类似大数据的时候给。CEO 搞一个什么做的那个智慧驾驶舱一样啊 CEO 在那看，每天 AI 做 AI 帮我去根据今天的这个目前实时的市场市场情况，加我们公司本身的这个运转情况，给出最新最最最最合理的决决策啊，未来可能企业第一个愿意买单的一定老板一定会愿意为这个东西买单。

[46:04 - 46:49] 黎明：又是一场浩浩荡荡的建建设热潮，好，那数据数据这个东西那数据非农怎么建立哈？说到说完数据，那这里面因为数据特别关键，那我们肯肯定要把这个呃，怎么做到的啊，就是。唉，我们现在所有人都在用大模型，用完之后这些大模型好不好用？为什么用着用着大家都不用了，为什么又有些用着用着一直用？包括为什么马斯克愿意花大价钱去买 XAI/Grok 相关〔存疑〕 嗯，他都是这么干的 cursor 把大量的这个用户数据，包括，呃，那天。

[46:49 - 47:56] 黎明：呃，周一分享的时候说哦，说到 open router 他们或多或少都会把这些你的请求全部记录下来啊，记录下来之后，然后做标注啊，好的不好的啊！好跟不好，这里面其实都可以做做评判做，然后呢，把这些把这些问题去针对性的优化是吧？到新的模型上去验证能不能复现，能不能回答的更好，不是有有有参照物就可以比对，好好跟不好，这一切都可以做到自动化。那不是一下子越来越越合适了吗？那只是说这里面面临几个道德风险哈，合不合规法律风险，但是早期你知道任何一个行业哈。早期都是粗犷的发展，发展到一定阶段就开始讲合规这个问题，那都是最早期，都是草莽阶段。啊，你们能赶上草莽阶段，就是什么都可以干，一旦听见一个行业开始监管啊，就说明这个行业已经成熟了，好。

[47:56 - 49:07] 黎明：进进入我们的主题哈！模型研发全链路。首先我要做一个什么模型？这个就是有很多人如果不理不理解模型，今天就看这个图哈，就是各家为什么有视频模型，有呃音频模型有呃什么大模型是吧？为什么有这么多模型出来，从一开始就要选择我要做什么模型，然后呢这个模型就有，比如说。现在能不能想到的这个这个对这个模型有理解的哈，比如说姚顺雨给腾讯做混元要做个大模型，或者是罗福莉给小米做模型。他们就要去给这个模型定义我要怎么去训练这个模型，就是练这个单之前要把药方配好啊，用多少数据配比来训练这个模型。它的架构背后是还是同一套架构理解吧，然后配比完整之后，那数据也准备好了，那就干干一件，什么事情就开始去做预训练。

[49:08 - 49:59] 黎明：记住哈，今天学的一个专业名词叫预训练，预训练做好之后就开始验证这个基础模型的能力怎么样，然后肯定是。早期完全是可能是完全没法用的，甚至或者说嗯有一定的好运的程度，但是呢还是不满足，呃，在特定场景就，但是基础的智力级就是所谓的智力理解问题的能力，就是为什么经常有数学的那个测评那个排行榜里面有各种那么多指标哈，有理解呃，数学的有理解什么？呃，翻译的还有什么什么做奥林奥赛奥奥奥数题的，还有呃维度比较多哈，就那么多那么多维度，然后去通过那个测评指标来评判一个模型。

[49:59 - 51:14] 黎明：预训练出出来的模型到底是个什么水准，然后呢基基于那个，然后肯定有不达标的去针对性的去准备一些数据，做后训练。后训练就是刚才说的主要是做对齐的工作呀，然后让它在特定的，比如说编程领域，或者在在情商情商这个领域哈，比如 DeepSeek。就会做得更好一点得一，然后再测评，然后呢就循环这个过程，然后主要循环的过程，预训练的时时时间长度会比较比较长一点哈，甚至还呃，现在很少有人在做微调了哈。微调就是刚才上面企业可能拿着这种基准基础模型去微调，跟能理解企业问题的这个场景，或者是基于一个基座模型，然后去在特定领域哈，要要做一个特定领域的模型，那就是开始微调或者是选择两种方式，这里有应该有一个分支微调和后训练。然后呢，达到特定这个目标，然后其实这个炼丹的过程是要循环很多次哈才能基本的满足，不然的话。

[51:14 - 51:49] 黎明：呃，但是呢，现在这个市场的热度很大哈，如果短长时间推不推出一款模型，那市场可能就要打脸了是吧，尤其是这些已经上市的公司。然后如果你这个过程这一趟流程跑下来，这个模型不及预期哈，就打死你，所以压力也是相当大的，呃，这里面就对这个组织。各方面的能力都考研，当然还有运气的成分哈，虽然这也是一道科学同样的训练方法，但是就是没能跑出好的结果，极其有可能有很多因素存在。

[51:52 - 53:04] 黎明：然后这里面你说概率他们呃大的，比如说像 Anthropic 这种公司怎么解，它可以同时训练很多模型，哪个型搞哪个？对读肯定不会是只训练这 11 条路径，理解吧，记住哈，尤其到预训练的时候，可能是一个基座，基于哪个分支？比较好的，你们看到，比如说千问，尤其做的一个事情，千问的 3.8 好像是呃，做了一个 20b 的像模型，但是它的基座是用的，是不是 3.8 的模型去？说的那个呃，做的 20-20 倍的 2-20 是 20 倍吧，而是因为 3.5 的模型 3.5 级做的东西。啊，但是这个理理解就行了，就是说有这么多过程，它这个过程极其复杂。然后呢，从这 227 笔对。过程极其不确定，因为所以你你你看到很多公司这个模型迟迟推不出来，也不要轻易怪他，因为因为你理解这个过程之后啊。

[53:03 - 53:46] 黎明：其实不一定每次都能做做出来或者不能做出来是能做出来，但做出来那个可能效果还不如上一代模型，这个就很可怕了，敢发出来吗？压力很大的，而且现在的节奏你看都是很短的，这就是谷歌为什么一直你说谷歌过程中从 3.1 或者 3 出来之后 1 这么多这么久了，一直没没模型是怎么回事？是没有一个能拿得出手超越的。所以宁可不发。发出来那更惨！这就这就是理解哈！好往下。

[53:49 - 55:12] 黎明：哦，这里面需要理解一个概念，预训练就是把数据和算算力转化为基础能力哈，这个刚才讲了讲了就不再重复了哈。后训练是把会把生成会生成和更好的完成任务，就是把它调优的在某个领域更好啊，某个比如说它的算术更好。就是偏财啊，预训练和后训练的区别就是这个，然后如果详细的指标可以看，就是他们这个差异哈。比如说预训练是从刚才说了从多元化的规模数据，海量数据里面学各种通用的能力啊，理解力啊，算那这个算力啊，理解物理啊，数学啊。或者是写代码呀，嗯，这个这个你们可以去查一下啊，今天真正好好在做预训练的公司有几个啊？如果能做这个事情的公司，那那还是很牛的，但大部分公司呢？呃，在这个过程中腰斩的哈。尤其是国内百模大战那一批，其实大部分都在做后训练啊，百模大战死的那一批，当年那个 llama 开源的这个 llama。

[55:12 - 55:23] 黎明：怎么查用 AI 的，今天有问题，以以前有问题问百度问 google，今天有问题问 AI 的。

[55:33 - 56:35] 黎明：然后训练主要做一些偏好啊，人类的偏好，各种领域给他一些领域知识，比如说今天有人给我发制 AI 制药哈，制药领域 AI 加，呃，包括大家看到那个。那个谁呃，字节字节搞字节的一个制药制药的公司独立出来了，像这种制药的，就不是他要训练一个这个专专有的领域嘛。他就给他这个制药这个行业的知识搞一个 AI 出来。然后给他教一些怎么用这些工具哈，比如说 agent 的能力怎么调度，怎么完成常态任务，再做一些呃，栅栏哈，就是安全栅栏有些问题也不能回答哈。涉及党国利益的都不能回答，涉及伦理的不能回答，涉及呃黄赌毒的不能回答，就是在这个环节给他加一些栅栏让他。不能被攻破哈！

[56:35 - 57:20] 黎明：再就是这里面最强的一个就是给它设置一些指令哈，回答那些问题，比如说能触发这个指令，也就是你们说的提示词，系统提系统提系统的提示词啊。目的呢，就是让这个模这个能力变得。好用啊，如果如果理解完这张图，最终比如说预训练和后训练的差距，在脑海里记呈呈现出一一句话就是这个图哦。这么复杂，原来 预训练做的是通用能力，让我让具具备广泛的知识量后，训练做的是在可以给他做一些呃专长。的。补偿和培养啊，在做一些各种边界的限制啊！

[57:22 - 58:18] 黎明：呃，再就是这里面再讲一个对齐哈，这是一个模型里面必须要做的工作哦，就是刚才说，呃，不过度，呃，怎么做，对齐是一组。权衡啊，有些问题不能呃，不能回答啊，就是治理啊，就是 AI 如何治理跟人类和谐相处啊，有些问题比如说涉及伦理道德国家。这些问题你看你在今天在国内的模型，你问不出来，那海外的模型其实有些问题也是不能问的。啊，然后听指令，有些指令是不是不让回答，有些比如说有些故意诱导哈，之前说诱导模型回答一些就不断的去激励啊，模型让他回答一些乱七八糟的问题。啊，这里面也是要做对齐的嗯。

[58:22 - 58:46] 黎明：哦，还有这个这个典型的特征就是反正让比如说在回答，尤其是医学问题，专业问题的时候，让 AI 在下面承诺要澄清一句，这是 AI 的回答啊，不可能是不准确的。你看现在有人用豆包出了各种问题是吧，就干啥都问豆包，然后结果豆包回答哦，好像我回答错了啊，容易耽误事儿。

[58:46 - 59:32] 黎明：对。工具怎么用好？先。呃，这里接下来我们说一下模型的测评哈，怎么去看一个模型的好模型啊，刚才谁好像问过这个问题，就是，呃。几个维度哈，比如说基础能力是什么啊，比如说他的知识是不是它的这个是海量知识，是跨领域的知识库，知识覆盖比较全面哈，问什么知识，他立马都能理解你的问题，甚至。能回答你问题，这就是它本身具备迁移推理的能力啊，这就是我们经常说的推理，就呃，能够快速的去呃，理解你的问题。

[59:32 - 01:00:06] 黎明：再就是能够能够跨多语言，有些语言它特定的文化，特定的领域的知识是不一样的，比如说现在呃中国的这些模型在东南亚。呃，如何做适配？啊，因为东南亚这些是完全没有模型的啊，也没有人专门给这些东南亚的国家做模型，对吧？嗯，你看千问啊，呃 DeepSeek 他们都在东南亚，但是要落地，他就要去适配这些啊，去在过程中加训练预训练过程中加入当地的这些。

60–90 分

[01:00:06 - 01:01:21] 黎明：特呃，当地的语言的这些特色啊，现在语境怎么语啊，比如说日本语或者是泰语啊，呃，这个就是多模态的能力，在整个基础能力里面去关注，比如说主要关注这四大点哈，知识推理语言还有多模态。然后它就完成任务的能力，这个大家都知道哈，这个完成任务就是今天所有的所有的模型都在关注一个长程任务能力哈，能不能长时间的工作，能不能长时间的去调度。之前最早的你看就是一句话能写，能回答个问题，能写个诗哈，嗯，写个故事讲个故事可能就是回答的很简单，现在你看我们的模型是不是能。能做任务了啊，这就是从能用到好用的一个呃关注点。剩下的就是看这个模型是不是稳定，有时候推理他他的问题，那好用的，这一次好用，下一次不好用，那这也不能评价这个模型好的。然后他能不能调度各种工具一起去呃，迁移，引用各种呃知识或者能力啊，这也是能力，这就是最后就是说。

[01:01:21 - 01:02:15] 黎明：这个模型它是是不是经过呃治理治理之后的啊，具备安全性，嗯，大家知道 grok grok 哈马斯克那个模型。就是个暴力模型，你知道今天在黑这个灰产里面哈，大家全用马斯克马斯克那个模型去搞各种灰产那个。如果现在说是整个嗯，因为他的能力好像是文本，是文本，图片，视频都能做。但是呢，就是精度不够，但是它可以做这些，就是在国内来说这些都是呃，你完全是出不来的，做不出，嗯，他这个模型出不来的，但是他海外这些模型是可以的。

[01:02:17 - 01:03:29] 黎明：好，那这个模型的测评能理解吗？马斯克又分手了？不是，只是限定手段不一样，在海外这些东西其实管的不严。没那么严，你你要看就看呗，你要生成就生成呗，没什么问题。哦，这个这里回答一下单一榜单为什么容易产生巨大的误导关注如果大家看榜单啊，现在已经不建议了，但是有些榜单呢？呃，大家反正每次发新模型的时候，每家公司都会发一个榜单的，这个看的时候怎么看啊？首先关注大这个模型的版本，然后测试的它的，它的测试是基于每个基准做的测试。然后测试条件是什么，然后到底这个呃，业务迁移能力怎么样啊？我我我们把它看成一张图啊，其实这里面就是各个模型代号，其实很多人不关注这个，只关注某篇文章的话。你是呃。就是人家已经把这个饭给你做好了。

[01:03:32 - 01:04:27] 黎明：但是还有还是有一些测评网站。就是专门的，比如说主流的那几个模型测评网站。大型模型都会放一个榜单。就是各种版本的对比啊，每个版本上的情况表现情况是怎么样的？打分嘛，然后到底是测基于哪个基准做的测试，嗯。大家都会表现出，反正这一代又比上一代强了百分之多少啊，基本上都是这个，这个简单理了解一下，因为我现在不关注满的，你们大概看看满单的时候就看围绕这些点去看一下。估计看了也看不懂。然后可以借助 AI 帮助你理解一下。

[01:04:29 - 01:04:58] 黎明：来看这个刚才说模型，理解模型之后啊，那你要需需要需要用到一些呃，基基最基础的这个软件是吧？刚才说的软件。那这里面就是？大家都知道模型架构是什么是吧？有不知道模型架构的吗？我们先对齐一下，我们也对齐一下啊，我这个对齐就是大家知道今天所有的大模型的模型架构是什么？

[01:05:09 - 01:05:30] 黎明：不知道。嗯。大语言吧。Transformer. 嗯，金属还有不敢不敢回答的是吧，不是 Transformer 各种变种吗？不知道不知道。

[01:05:42 - 01:07:12] 黎明：只听过 Transformer。架构只有一种啊，记住那不知道的人，今天你在 AI 时代你说你想吃恰饭哈，就有点难了，兄弟们。因为你连注意力机制都不知道。那怎么办呢？就你今天所有的海内海海内外的这些模型。同样的同一个目，同一个目标，同一个架构。但是为什么会形成千差万别的这个效果啊？当然现在也没有啊，最早期这也是为为什么最近美国那个有点担忧哈，你就能理解现在。现在瞎喊的那个 moe 算吗？没事儿，你乱回答也可以啊，其实架构就只有一种，穿什么我价格。训练目标就又不一样了，就有的是在训各种不一样的模型哈。都是经过这个 Transformer，要不就是现在慢慢的演化出基于 Transformer 的变种啊？那主其实这根线所有的不管是顶顶模，顶级模型，它都都在用这个。

[01:07:13 - 01:08:08] 黎明：所以你接下来往下来理解，理解清楚了之后就往下看它的训练框架啊，到底在干什么啊？为什么用这套训练框架？然后整这个训练框架的目的是定义训练过程啊，以及如何调度分配内存要分配计算和内存之间的关系，然后让他们怎么配合。这就是呃，这套这个这个训练的目的哈，其实也特别简单啊，就那那么几个公式啊。自动微分啊？如何做调度啊？然后呢？到底是什么精度啊？有的是？所以调参所以参数就这么来的，乔为什么叫调参呢啊？

[01:08:08 - 01:08:59] 黎明：然后再往下就是说编译算子啊，这个既然你这套东西可以了，那怎么跟这些计算的芯片打交道哈，计算单元？做组合我做让计算你怎么指挥计算单元去执行你这个计算的过程？然后这就是编译算子优化这个编译算子是谁干的，你们能知道吗？这些算子都是谁谁搞的？有有人知道吗？慢慢的就开始报公司的名字了哈！编译算子是谁搞的？哭的。啊，还有人写出来？哦，不知道那那。那那那那那就没办法了。

[01:09:03 - 01:09:31] 黎明：对嗯嗯<笑声>。嗯，上面写了很多苦。对，去大量的算子库。然后呢分布式训练？如何做到跨设备去训练跨设备协同？哦，这个。比如说过程中典型的代表就是并行，如何做到并行运算，谁搞的通讯库，如何做到这个分布式大规模训练？

[01:09:31 - 01:10:10] 黎明：就是多多计算啊，这谁搞的怎么解决通讯啊？比如说 DeepSeek 在这个过程中如何解决通讯问题的啊，有些软件的方法。但大量的还是通过。硬件来解决。对啊，你是好好的去研究一下 vLLM 嗯，然后这个过程中数据流水线这么大规模的数据怎么做到高效的去。

[01:10:08 - 01:11:24] 黎明：运运转运送啊，就是我们的读读和写嘛，如何保障这个训练过程中需要数据立马能调度过来，要构建这样的流水线是吧？那这里面不就是？哎呀，那个那个什么？排第四他们就得上来了吗？啊，因为需要大量的数据，当然这里面有一些软件的软处理的方式啊，这个就是，但为什么依赖硬件，因为软的方式解决不了。就一定需要硬件能跟上吗？怎么做缓存是吧？怎么缓存加速？是不是。对，那当时这专家就是专家嘛，上来就知道了，就懂，行的就立马就讲到点到哪儿就理解了，怎么解决这个 KV cache 策略。包括你就能看懂 DeepSeek 在这个过程中做了什么事情，以及今天模型为什么有一个缓存命中的问题，为什么缓存命中就便宜很多？

[01:11:29 - 01:12:40] 黎明：这就是过程中不断的去做，做控制，各种管版本的控制，怎么做到就是追踪任务，因为训练出很多分支出来之后，基于哪个分支要不要延续，怎么做，因为不可能每次都从头再来。因为这个但凡一个模型训练起来。现在在在有卡的情况下，动不动都是训练，都是几个月啊？呃，现在如果训练的规模大了之后训练的那个，呃，算力够的情况下，那那那也是 11 个月起哈，我们那个破模型我靠。都得训练一一一一个星期就一直在那训练一个星期。所以为什么今天那个那个那个算力这么贵，内存这么贵，因为他其实一直在工作，当你越来越了解这冰山下面的这些东西之后。就能理解今天这个为什么智力是怎么冒出来的，那这过程中怎么判断这个有没有在稳定的训练运行这个算法训练的这个。

[01:12:40 - 01:13:53] 黎明：铁律啊，这里面就是。比如说这个函数的这个。斜率怎么样啊？嗯，其实这个今天所有的人都得懂一下，连做播客那个女的叫什么来着，我相信他也不是这个领域的，但是你看他也能理解一些跟那些做访谈的博客。他至少能理解这些名词是干什么的啊？因为尤其因为你理解了之后，今天模型贵就是必然的，因为过程中一次训练的成本啊，单次训练成本基本上是。就是，但只要跑起来，如果没成功哈，那可能是几千亿，几千万的美金，几千万的几千万美金可能就打水漂了哈。几个亿洒洒水在这里面？你就想哈，就你，你就算一下算一个其他的都不算，就算那个单独最贵的算力跟电的成本。

[01:13:56 - 01:14:45] 黎明：对张哦，对张小珺，你看张小珺去这些里面，它那些什么算呃算法里边跟那个我印象很深哈，我记那个谁之前推荐？他跟那个罗福莉聊的时候，那个全是什么，全是算法的这些词你估计不？对，经常听这个，不然你完全听不懂他们在说啥，今天所有人其实了解一下，至少知道名词是感恩，然后哦，他们在在在在干这个。其实无非就是要不是就是这这个回归啊，回归的怎么样啊，是吧？这个函数那函数估计很多人没学。

[01:14:48 - 01:16:00] 黎明：好，再往下哈！分布式训练。嗯呃，懂分布式嘛，分布式训练不是把机器简单的相加起来哦，是要做大量的任务切割，然后这数据数据的数据要在机器上做同步，然后比如说通讯要保证稳定性同步以及。如果如果单台故障了之后，要立马可以把这个切出这个机器切出去，然后保证整个任务是可以继续的，因为机机器故障，这是常态化啊，这个一定是会出现的。尤其是呃电子产品一定会是这这个问题，然后呢呃训练的过程中要关注一个显存的问题，经常我们训练的过程中经常就是显存爆了啊，就是穷嘛，用不起大显存，然后显显存爆了就。这个是特别牢固的，嗯，大的厂商，他可能嗯像也也也一定会遇到这个问题，因为他们同样的他们的，虽然他们的这这个装备越来越好，但是他们面临的。需要的产需要的这个。需要的这个显存是更大的啊，更大的。

[01:16:05 - 01:16:30] 黎明：所以这个过程中是一个挺复杂的工程，那既然这么复杂的工程在同这里，这里面就开始考验这个团队的工程效率啊，就很多人在提工程效率，工程效率，工程效率到底是什么？就是在同样的规模下面，有些团队他可以把这个机器压榨到极致，就是运的极致过程中，呃，如何做到，呃，比如说同样的时间能做？

[01:16:30 - 01:16:47] 黎明：同样的配置，下面能做更多的验证实验，这是高校团队，然后大部分团队就是面临就是这个呃机器其实长时间在那里空置哈，要不就是满负荷不够用，要不就是跌下来空置如何，那比如说，尤其是。

[01:16:47 - 01:18:05] 黎明：过程**现了问题，怎么怎么高效的把它呃运转起来啊，可以看这张图，我我帮大家把所有的这个过程中遇到会遇到的问题全部列出来了，比如说。有一个团队其实管理协调管理不到位哈，各个版本号就错乱乱乱搞，这个证明这个团队不成熟啊！就草台班子哈，你反正效率就很低，然后呢，发现问题之后又不能复现，然后大量的资源在空置，然后等。然后或者是这个机器配置太低了，千万团队当时就就出现一个问题就拿不到资源嘛，对吧，应该有印象。然后不断的去失败，反攻不能如期交出。新版本是吧？稳定好的版本。然后高校团队做的就是全局可管，可管理，可运行，然后所有的数据可追踪，可呃，能看到每个版本不同的表现。也就是那个打分是吧？每个环节每个指标能不能达到达不到，然后怎么办？然后去快速出方案，呃，所以。

[01:18:05 - 01:19:05] 黎明：这个对团队的要求很高，那团队背后就是有没有经验的人，那个小米把罗福莉挖过去之后，你看小米迅速出能出，出现个变模型，但是最开始为什么不能打？肯定啊，新的草台班子不是不是说一个人就能全部全局拉起来，需要大大规模的磨合，那一个人搞不定的，对吧，包括姚顺雨过去也是如此嘛，对吧？但反倒是那个阿里的一个千问那个林俊旸是吧？离职之后，但是为什么千问的版本还是持续的在在发布呢？就这台这套机制起来之后，如果运转的顺畅的话，其实其实就可以按按部推推起走了，那无非就是因为架构无非就是在数据和。这个过程中遇到问题如何针对性的解决问题，就是快速的发现定位问题哪哪个环节啊，出问题了，然后这个环节应该怎么去做优化？

[01:19:07 - 01:19:39] 黎明：对吧，刚呃，你们都在看说嗯，看到那个 DeepSeek 那点那那哥们发的那篇文章了是吧，写算子那哥们儿说。呃 AI 把他的这个工作给干了是吧？啊，这就是如果一旦进入一个稳定态。就是开始快速迭代了。是不是这个这这种是不是很很无趣啊？嗯哼哼哼。

[01:19:39 - 01:20:11] 黎明：但是这些都这些细节才是考验，关注一个团队最重要的，那这些你怎么关注到的，就跟他表现出来的一些能力哈，以及你的信息收集能力。或者你能不能在一线中去获取这些？啊，通过小道大道消息啊，获得这些信息。去追踪这个团队，然后呢，如果是老司机的话，那可能大概率如果经历过这些事件的话，那大家也知道你这个团队目前什么问题。

[01:20:18 - 01:21:06] 黎明：呃，这里就拆开讲一下，比如说。和一个模型版本至少是要关联六类证据哈，用的用的哪个数据集以及它的配就配方配比是多少？这个肯定是要有有追踪，有记录的，然后整个比如说用的代码和训练的配置是什么样的啊，然后模型的权重，模型的权重包括模型本身加 ts 加。各种工具的版本，然后基于哪个测根，基于哪个测试集进行测测试测试的，然后呢？上线的安全策略是哪个？所以它都是一套机制好，最后就是关注它的整个这个版本的日期啊发布。

[01:21:06 - 01:21:18] 黎明：这个如果写写代码的人，大概就一下子就能理解了啊，因为日常起来嘛，也是这个，这这么个环节只是到算法层面，它多了一些不一样的环节。

[01:21:21 - 01:22:12] 黎明：所以你会看到为什么所有的版本模型版本都是发版本号哈，这个版本后面跟的是一串，除了版本的标识之外，还有一段一串日期。你们看过吗？比如说 DeepSeek 发了呃，最早发了 4.1 之后又发了，又更新那个。9 月份的版本是吧？在后面跟一个零九，呃，啊，如，尤其是使用 API 的人就就能能理解哈，因为大部分人只看到了什么？呃，4.1 但是其实 4.1 后面还跟了很多日期的版本啊，这个为什么会有这样日期版本就是不断的在。持续就他发完了，他的，其实整个这个工刚才说的这套工作链路是没有停的，一直在进行，一直在生产这个新的版本。

[01:22:14 - 01:22:48] 黎明：啊，训练系统真实的瓶颈是会转移的，这个就是瓶颈哈，就是呃，阶段性的都会产生瓶颈，就是最开始。没有数据啊，有了买到了数据或者嗯那个清洗出来数据之后啊，那算力问题有没有解决算力问题解决了，那整个软件整个算子库以及包括还有一些有些团队，他们自己搞了一些，比如说像 DeepSeek 搞了很多的这种。优化项目是吧，那这个是他专属的啊，不，当然他也把一部分开源了哈。

[01:22:50 - 01:23:27] 黎明：啊，最最难的是什么？这里面是考点哈，考点哈，最难的是这个团队有没有具备研究能力？什么发送了一张照片？嗯。发射瓶盖。就是其实所刚才说了，所有的团队用的架构都是几乎一致的，用的数据甚至都是差差不多的，因为买来买去都是一个供应商。

[01:23:27 - 01:25:18] 黎明：跟你们搞，跟你们说个说个搞笑的故事。跟跟你们说个搞笑的故事啊！大家知道鹅厂哈，因为我跟鹅厂的这个这些老老朋友们还是联系比较多，他们鹅厂有很多团队同时在训模型。这就出现了一个什么问题呢？那去模型你都要买数据，对吧，我这很多数据不可能自己搞到的，因为今天有专业的，专业的模型供应供应商。在这个过程中发生一件什么事情呢？得一，你们猜一下不同的团队买过来的数据都是同一家供应商，然后花了几次钱。就想这是不是一个草案？对，数据是不共享的，对，然后呢，各个团队因为都是独立运作的。理解了吗？所以这里面当下当前还当前看似能搞出模型的这个阶段，其实大家现在如果能到。呃，今天所有的说能到能运到好运这个阶段。这个供应商是碰到大帮人，所以供应商开心的嗨皮嗨！开心死了对不对？所以哎。所以数据可以无数次卖嘛，可以证明，比如说卖给智谱之后也可以卖给 MiniMax 是吧？然后为什么啊？难道阿里没这个问题吗？阿里为什么要把所有的 AI 全部并入千问，然后千问独立出来都是这么这么这么运作的？

[01:25:20 - 01:27:09] 黎明：只是这些，您这些属于内部运作的过程中的一些。奇葩你别觉得是什么，这些都是高端。但真正的核心啊，我再点一下啊，重点哈，这个团队能不能再往前走？为什么？ DeepSeek 可以让大家这个？出奇的看好他在这个过程中，同样的架构里面的去选择，解决了不一样的问题，通过研究，你看两种哈，呃梁文锋也好。搞了很多论文出来，知道吧，搞了很多，研究了很多不一样的解决问题的方法来提升模型的性能的也好，吞吐量也好。然后降低成本也好，这都是能力。在越来越往后。大家比拼的就是这个能力。越往后比拼这个能力啊，记住哈，以后以后以后会会考哈，然后呢，这个能力过了之后，那今天模型好不好用是不是？你今天模型好不好用，谁说了算？知道吗？大家知道模型好不好用，谁说了算。你们你们觉得是谁说了算？随便随便你们脑海里想一个问题是用户吗？不是用户。啊，终于有一个回答的像样子了哈！模型好不好用，是专家说了算。

[01:27:08 - 01:27:30] 黎明：对。那这专家。又成了一个卡点是吧，哪有那么多专家，那些专家都是知识分子，他天天在那测，可能你要让他测出问题。你就想想。需要多少各个领域的专家？

[01:27:32 - 01:27:55] 黎明：我那天我其实时不时的在群里面丢一些信息哈，包括我，我用完Figr〔存疑〕，有人在问哈这些模型怎么评判，我比如说那天深度用了呃 Figr 5.1〔存疑〕 之后。我就发了一个观点，我就说这个肯定是在印度老印度找了一堆印外包给印度的一堆专家去测评出来的结果。

[01:28:06 - 01:28:59] 黎明：对，那就说一下研究能力，工程能力是缺一不可的，研究人才去需要去解决架构配方对齐能力边界的问题，数据人才要解决数据的治理的问题，数据质量的问题。以及数据配比跟反馈，因为不断的成闭环，然后这个数据要持续迭代。然后再就是系统工程 infra 这个团队啊，他要做到整个能保证。训练的稳定性和推理的稳定性以及成本的，比如说在解决算电协同的问题，然后各个分布式算力集群如何做到最优解的问题？然而，这个模型的测评通过真实任务然后去解决，去发现这个模型能不能达到预期，为什么不能达到预期？

[01:29:00 - 01:29:42] 黎明：然后再就是当一个能大规模应用的这个模型，一定要具备合规性，那这些其实这些东西前面三个可能必须是内部。团队的，然后后面两个可以找专业的团队提供支持，这个是可以，未来也会演绎嘛，有些专门专注这个领域的，因为。一个你就想这对，对于老登公司或者小登公司都是巨大的挑战啊，老登公司可能嗯在做这些，比如说人才布局上面有优势，但是小灯对。局部认知有优势。

[01:29:47 - 01:30:41] 黎明：然后最近就最后就是说，呃他融资的时候要讲故事，对吧，比如说那我融了这么多钱，比如说，尤其是 OpenAI 或者 Anthropic1 定一定是要给资本讲故事的。为什么资本框 100 亿/500 亿/800 亿美金框给的给的 OpenAI 你有没有想过呃，奥特曼也好，或者是那个达里奥（Dario Amodei）也好。给这些资本看到看的模型都是什么模型，要把它首先要看懵是吧？要把这个故事讲清楚，说你每发每花 1 分钱。你能得到多少智力啊？我们怎么实现这个预期目标？那接下来我要花多少钱，就是资金的投入跟模型能力的转化，如何达到这个预期？当然这个也是我们做去关注公司这个过程中。

90–120 分

[01:30:42 - 01:32:21] 黎明：是不是能产生效率？这个公司值不值得投的一种关键指标啊？无论 1 级市场，2 级市场都应该这么看，不应该听鬼故事，然后只是 2 级市场已经把很多的问题包装过了，比如说。呃，今天如果还能大规模融到钱，也也从侧面证明了一种能力啊，不管是什么什么什么形式的，他能融到钱。也证明了一些能力，因为有些你这个故事是讲不明白的，因为今天资本也被驯化了啊，那这些东西比如说明显你对未来的预判的方向不准确。那可能这个资源就没必要去投哦，资本你要想拿资本的钱不是那么容易的，呃，除非就是说后面整个这个故事讲得特别好。啊，或者未来有明明显的接盘接盘下，或者是整个超额，尤其 1 级市场其实。更加严苛啊！Ok. OK 然后这个对于组织一定是迭代的，就是竞争优势可能来自于更快学会，呃，不是说所有人天生所有的团队天生会做这个，其实就是不断的发现问题。然后呢去去去去去不断的去提出假设，这也是我们就是说的提出问题的能力，然后不断的去通过呃证明啊训练，然后测评发现问题，然后得到用户反馈，然后不断的去形成这样的这个学习型组织，然后不断的提升，因为没有一个团队出一码出来就是可以进到。

[01:32:22 - 01:32:45] 黎明：惊呃惊天动地，包括你去，大家都看，都是看着 OpenAI Anthropic 甚至呃智谱 MiniMax 这一路走来的你，你就会发现那些团队为什么？我想哎，我我记得那个谁之前问过为什么 Anthropic 这个团队可以运转的这么高效快速，嗯，就是他就这么做到的。

[01:32:45 - 01:33:42] 黎明：好，这个里面啊，给大家提供了一个模板，就是五维去分析分析如何分析这个它的稀缺性啊，就是永远都要关注稀缺性。它具有独特的数据啊和算法的，有独特的算法和人才，然后它的算力获取能力很强啊，它可以找到日本的软银给他提供什么大规模算力，找到谁？找到华为给他提供昇腾 910〔存疑〕 的这个算力，然后它的工作效率很高，然后它它又布局了大量的生态，它的这个生态迁移成本。都是去评价这个是不是一个好公司的或者好的这个模型治理生产生产生产工厂。因为今天黄仁勋把它叫做。呃，AI 工厂嘛？

[01:33:43 - 01:35:01] 黎明：然后这里再说一下通用模型和行业模型的区别啊，通用模型就是大家看到的这些目前主流的这些大模型啊，这个不用讲，然后行业模型现在是目前还在演绎，因为还在处于早期，这个就是这个解决特定行业的问题啊，比如说呃，之前当时他们做的这个基于电力行业啊，基于水利行业啊。还有其他的，比如说呃，大家都听过气象模型啊，啊，还有各行各业的啊，有些在电商领域专注的做客服的模型，你知道 AI 1.0 阶段。其实呃，最开始那个 NLP 它解决的就是客服场景去呃用户问问题，无论售前，售中售后用户问问题，然后通过 AI 做。调调知识库只做知识问答啊，来解决客服问题，现在你看现在的这个电话销售这个场景是吧？Ok. 差差别就是呃，它在数据和流程的理解和任务不一样，以及呃客户的特定要求啊，因为客户特定要求就是我无论来自客户本身的场景还是来自于客户。

[01:35:02 - 01:35:41] 黎明：的行为偏好啊，有些比如说能用到这些模型的都是大户，那大户比如说在金融领域哈，你们要知道有现在有些银行是准备大规模下场干金融领域的，这个这个行业模型的。呃，也大家也看到了那个 gpt 跟博通哎，是是彭博社还是博通〔存疑〕？搞了一个金融模型啊！他们啊，但是这个这个这个所有的能力的共同点啊，其实都离不开刚才前面提到的这个这些工程要素啊。

[01:35:44 - 01:36:29] 黎明：小组练习啊！啊，这个问题就是某个企业要做一个知识库知识库助手，嗯，他们首先拥有多年的。制度文档啊，服务工单以及历史授权范围内，呃，但是历史授权范围没没有完全理清楚使用外部的模型已接入 OA 身份权限及支付。每两周同步一次知识测评回归与故障回滚，高度依赖人工业务部门使用活跃，但跨越部门复制需要重新梳理流程和权限。

[01:36:31 - 01:37:07] 黎明：然后这里面需要去关注，就是去分享分析啊，这个团队今天它的，比如说在这个维度上，55 个维度哈，它在数据上。比如说它，它的优势是什么？比如说他这个知识库啊，能不能迁移到别的行业？的数据上有没有独特性？然后他你看刚才也提到了，比如说他在算力上获取。呃，这个大家下去之后去理解一下啊，就跟我们上次提那个问题啊。

[01:37:07 - 01:37:23] 黎明：就是当拥有这个这样一个命题的时候，你要去去分析哈，比如说这里面其实每个都是点啊，它比如说用的是外部模型啊，基于外部模型做了一个外挂的。或者是后训练的后后训练的一个数据，甚至可以是微调啊那。

[01:37:26 - 01:38:59] 黎明：是吧，你要去评判？比如说今天你能发现它的最大的这个瓶颈是什么？那这个东西能不能进行泛化迁移？从这个企业运到别的行业啊，能力能不能运到别的行业，以及刚才提出，他其实说这个测评或者呃故障回滚的时候严重依赖人工，那这个工程效率是不是很低？啊，他有没有算法人才，你还没提到是吧？那这个评判你怎么给他打什么打打分怎么打分，那既然他能搞出这个事情，嗯，基础的这个人才可能是具备的。那但是他的人才有没有优势，这个对你去后续分析公司很有价值哈，见这就是 5 个维度去判断啊！因为不同的，比如说通用模型跟行业模型的，它对人这个要求是不一样的啊，呃，通用模型它拥有的是，比如说你对整个知识或者范式的。研究甚至整个架构的创新啊，政治挑战啊，因为今天还有很多人提出来等新全新的架构，比如说呃，不用 Transformer 是吧？嗯，大家也看到了。这这这个只有顶尖的人才才敢提出挑提出这种挑战，对吧，大量的人都是跟随啊，因为有成熟的验证。Ok. 好，这节课基本上就完事儿啦！

[01:39:02 - 01:39:43] 黎明：最后总结一张图哈，这张图大家看一下啊，从模型的生产到稀缺性的判断就是一个完整的这这个课，这个这一节课我们要理解的东西啊！因为我们现在是在做整个。模型生产成本，所以你们关注的关注的这个公司目前的所有的问题，包括很多公司为什么要做股权激励，是为什么要融资？哦，都能都就能理解了，然后最后你你推的从底层到到到顶层，你就能完整的去分析一个公司。

[01:39:48 - 01:40:44] 黎明：行啊。把大家活生生的讲懵了是吧？我都哑口无言了。这是讲懵逼了？很清晰，<笑声>是其实其实其实就是后续还是需要大家。花多花点时间去理解。对，完全不一样的理解，流程很清晰，但后面迁移可能不太懂，这个可迁移的可迁移啊，可迁移就是可复制的。

[01:40:48 - 01:42:04] 黎明：生态迁移成本。增大迁移成本这个为啥不理解呢？这个简单在。那我理解谁？是你理解为什么哭打的神态，大家现在跳不过去呢，为什么别的形态都可以跳过去呢？你说我今天是非 OpenAI 不可吗？还是非 a 可，但是很多人可能会非 DeepSeek 不可<笑声>。很多公司哈！那这个。但是呢，AI 的替代难度其实。替代替代成本很低啊，这个嗯。公司存在的核心维度还有承载的。大家下来还是花点时间好好研究一下啊，好，这这些东西基本上把能能涉及到的方方面面，还是给大家讲出来了啊，只是。有些有些因为。因为时间还是有限啊！还是有些。

[01:42:04 - 01:43:11] 黎明：好。那我们就。正好就结束了。时间我看超了一点点，但超的不多。对于模型嗯！如果一直跟踪跟着这个逻辑下来，我觉得我相信很多人已经听得。8899 了哈。知道里面卡核心要塞是哪儿？核心要点是哪儿吗？那我们今天就就就到这儿？你们回去消化一下。拿最后拿最后一张图 AI 各个。公司。好好研究。是研究的本质，背后才能得到更多东西哈啊！嗯。

[01:43:10 - 01:44:00] 黎明：今天我们就到这儿，然后大家其实这两天感觉又又有点稍微懈怠了啊，过了个周末还是咋的，还是积极跟踪起来啊，这个过程好好利用好，嗯。行了。就是呃，因为你持续跟踪，正好中间隔了一两天，你会思考呃思考强度大，哎，没有你其实我没有，我只是说大家这样会效效率更高一点，因为正好分享。有大量的这个疑问，然后以及持续跟踪，然后正好这个过程带着你串的过程你就理解了，别把问题积攒在最后面，后面我相信你不会去看。

[01:44:00 - 01:44:35] 黎明：嗯，就是理解一下，其实很多时候需要理解一下什么叫日拱一卒哈，就是很轻松，但是你把问题堆到后面，其实就是一团乱麻。啊，大家去消化一下哈，那个那个要要要要要要看回放的就过会儿啊，我我 10 点之前大家 10 点之前我待会儿，因为统一啊，就别别别一会儿来一个了。统一跟大家那个审批哈那那。好。那就结束了？