LEARNING NOTE · ASR · 第 2 站第 1 课 · 投资板块

黎明|大模型与 AI 平台

A · 学习 研习营 · 第2站 2026-09-14 ~2h09m 云录制 / ~1h44m 转写 会议号 748876844

腾讯会议纪要亦作「大模型产业链价值传导与投资逻辑培训」。本课建立从算力到 AI 服务的价值传导地图:软件范式三次跃迁、训练与推理分家、六层产业链,以及 Agent 能力、推理成本与泡沫生存——用来判断「模型与平台」哪一层值得跟。

主讲:黎明(ASR 中「李淼 / 李敏」一律校正为黎明)· 课堂整理非投资建议

TLDR

  • 先结论:今天模型争夺战争的是 Agent 能力(理解任务 → 调度编排 → 长时间执行),不是单纯的「会聊天 / 会推理」口头禅。
  • 一张必记图:训练决定能力边界;推理决定能否高可用、低成本、好体验地变现。两套产业变量不同,别混谈。
  • 六层全景(自下而上):基础资源 → 模型生产(预训练/后训练)→ 基础模型 → 模型服务(MaaS)→ 平台(编排/调度/Prompt/知识库)→ 应用。每一层交付不同结果;价值能否向上传导才是投资问题。
  • 卖铲子不够:算力贵,但若不能把硅基算力转成「可交付的智力 / 生产力」,铲子叙事脆弱;头部放缓一句,半导体估值就会抖。
  • 收入 ≠ 价值捕获:高 AR / 高补贴可能毛利极薄;看客户是否持续付费、是否在「捞用户」。
  • 课内硬口径:国内部分云厂商自建推理成本约是原厂 3 倍,存在「请求转发原厂」的做法〔课内口述〕;开源权重不等于开源就能高性价比部署。
  • 编排层有戏:OpenRouter / Auto 路由 / Cursor 式多模型匹配——不是纯卖 API,而是理解问题后的分发;vLLM 一类推理引擎被点名为全行业要充值才能提效的 infra。
  • ASR 有噪声;专名已尽量校正;不确定处标〔存疑〕。不编造课外观点。关键板书截图因云录制需登录暂缺,见 关键帧待补。

总框架 · 六层产业链全景

课内强调:先不要上来找财富密码;理解每一层在交付什么,价值怎么传导,财富密码会自己「飘出来」。

层交付什么(课内口径)例子 / 辨析
1 · 基础资源算力、存储、网络、数据中心等物理底座GPU;训练数据原料是否算本层要分清——预训练本身属模型生产
2 · 模型生产预训练 / 后训练 / 对齐 / 测评;把资源炼成智能人才与组织协同最关键;百模大战大量死在此层
3 · 基础模型开源/闭源、通用/行业、文本/多模态/世界模型选型Chatbot 外壳 ≠ 基础模型本身;有能力 ≠ 企业拿来就能用
4 · 模型服务(MaaS)部署、调度、大规模交付、吞吐(万亿 token 级指标)推理引擎、模型 API、模型路由多在此层
5 · 平台编排、Prompt 开发、企业知识库、身份权限、治理阿里百炼式多模型平台;跨行业铺货
6 · 应用办公、终端、行业解决方案、客服等场景结果Chat / Cowork 只是场景之一;制造生产力场景可能更大但形态不同

课内分层小测(用来卡住位)

  • GPU、训练数据 → 偏基础资源;预训练 / 后训练 → 模型生产层
  • 推理引擎 → 模型服务层(不是基础模型层)
  • 模型 API、模型路由 → 服务层;Prompt 开发、企业知识库 → 平台层
  • 客服 / 行业解决方案 → 应用层

同一公司可跨多层(课内点阿里);跨层不等于每层都赢——要看卡位与传导。

软件范式三次跃迁

  1. AI 0.0 · 规则软件:程序员写清规则,输入→处理→确定性输出(点发送、语音转写、中英互译按钮)。结果可预期;程序员主导,薪资梯度大。
  2. AI 1.0 · 机器学习:单任务预测/识别/分类(人脸、相册归类、违章抓拍、猪脸识别)。结果开始不确定;换任务(猫脸)通常要重训。当年城市治理与安防价值极大。
  3. AI 2.0 · 大模型:大规模预训练 + 后训练,开放性任务、泛化能力;同样提示每次答案可不同。参数与数据规模与 1.0 不可同日而语。

课内提醒:自动驾驶等产业也可套同一阶段框架想象。科学与技术推动效率——「不是玄学」。

基础模型 ≠ Chatbot:对话框只是外化形态;也不等于企业私有数据落地后的稳定业务结果。同一 Codex / Seedance,有人做出电影级,有人只能出糙图——通用能力要再经平台与应用转化。

竞争焦点 · Agent 能力

  • 课上现场提问「今天大模型核心考察什么」——多数答「推理」被判偏;正确方向是 Agent:理解任务、调度编排、长时间执行(「长城任务」字面即长程)。
  • 从 coding agent 开始,各家都在强化 Agent;课内提到下一代 GPT 级模型在啃百年数学题、持续工作「80 多小时」〔课内口述量级〕。
  • 相关产品词:worker / cowork、本机程序调度、会话记忆 / Harness(点名 DeepSeek 特征)。
  • 投资含义:评模型别停在榜单口语能力;看能否干活、能否长程、能否被编排。

训练 vs 推理

课内金句:全场若只记一张图,就记训练与推理的分家。

训练推理
决定什么能力边界;顶模来自把训练链路跑通的团队变现质量:高可用、低成本、体验不卡壳
关注变量算力与数据能否闭环;预训练 vs 后训练;权重并发调度、集群协作、流控 429、首 token、缓存
谁最重要人 / 团队 / 体系(算法与数据都是人做出来的);点名 DeepSeek 全链路表现、姚顺雨个案说明「单挖人不够」工程与成本结构;开源也拼不好「乐高」就不性感

预训练 / 后训练速览

  • 预训练:数据清洗配比 + 架构(主流 Transformer;关注 DeepSeek 等优化)+ 算力 + 团队。
  • 后训练:对齐数据——能答什么、拒答什么;课内举例用「味道」判断某些版本可能偏后训练、未做大规模预训练〔存疑·感官判断〕。
  • 排序题结论:人最重要,且是团队与体系,不是单个明星。

推理成本反直觉

「模型越强,推理成本不一定越高」。例:Kimi K3 若用 H200 大概率难回本;换 B300 做推理,课内称加系数后理论上可回本〔课内口径〕。成型模型的机器配比是一门学问。

成本 · 泡沫 · 生存

价值传导

  1. 算力贵到多数人「无缘」;买卡发挥不出价值 = 浪费。纯卖铲子逻辑有弊端;市场可非理性繁荣。
  2. 智力一经数据中心部署,可经 API + Key 瞬间到全球终端——比工业革命产品渗透快得多。关键判断:智力能否变成生产力(电能→动能隐喻)。
  3. Cursor 等被用来说明:早期补贴、两倍 API 量给用户,但把问答用于迭代,估值冲到约 800 亿美金〔课内口述〕——价值捕获在反馈闭环,不在裸卖 API。
  4. 达里奥及头部研究员口径(课内转述):单纯卖 API、尤其全球顶厂若不往上走,叙事不性感。

泡沫与生存答疑

  • 头部「降速」声明可触发全面调整——泡沫随时可能破。
  • 全球能留在牌桌上的顶尖模型厂商约 10 家(学员归纳,主讲未反驳量级)。
  • AI 公司 = 知识密集 + 资本密集;融资断了可能活不到第二天。没有绝对死不掉的公司;头部仍在使命融资,资本会帮「当红」公司找钱,但要走在正确路上。
  • 军备竞赛隐喻:像互相制约的核武上限——烧钱太猛推高零部件与通胀,消费电子被动涨价;主讲提醒先看产业再扩到金融。
  • 智谱:融资力度大、赚钱力度需覆盖;「能回本就不错」基于现有变量〔课内〕;用户规模肉眼可见难无限扩。
  • 编程已传导但「不大」;企业不愿再为编程买单、OPC 产物缺人用——下一浪要找金融等大户场景(OpenAI 等垂直金融模型)。

云厂商成本与「转发」

课内口述硬消息:头部云厂商自建同等推理成本约是原厂 3 倍;部分请求看似自有 Token Play,实际转发原厂。开源模型亦难高性价比部署 → 催生「帮你做推理部署」的公司;政府单位对外模型收费可比外面高一个数量级〔课内〕。请自行交叉验证,勿当尽调唯一证据。

编排层 · 路由 · 推理引擎

  • 九头蛇 / 智能路由:多模型按长板组合,可能优于单一贵模——机会在平台编排层,不是纯中转卖 API。
  • 主讲对齐:这正是 OpenRouter 贵卖与被收购的原因;各家 Token Play 的 Auto 模式、字节 Auto、Cursor 自动匹配,都是「先理解问题再选模型」(生图/视频/文本、科学/编程)。
  • 含金量:模型分发背后的调用数据——知道谁在用、用模型干什么。
  • vLLM:专门做推理引擎;课内玩笑口径「所有模型公司都要给这家充值,模型才效率高」→ 指向 infra 层卡位。
  • 英伟达被评为「本轮最理解 AI 生意」;DeepSeek 理解深度可排全球前列〔课内主观排序〕。

投资可带走

  1. 先画六层,再评公司:标的卡在哪一层?跨层是否真有能力?别把 Chatbot 当成应用层护城河。
  2. Agent > 口头推理:尽调问长程任务、工具调度、稳定性,而不是只会写诗。
  3. 训练/推理分拆建模:顶模叙事看训练团队与闭环;赚钱叙事看推理成本曲线与硬件配比(H200 vs B300 类问题)。
  4. 警惕铲子单线程:算力涨价可逆;没有智力→生产力的传导,估值脆弱。
  5. 收入要拆毛利与补贴:高 AR 低毛利、为捞用户送量——价值捕获弱。
  6. 开源 ≠ 便宜可用:权重公开后仍可能 3× 成本或只能转发;看谁能把推理工程做成产品。
  7. 编排与推理引擎:OpenRouter 类路由、vLLM 类引擎——在「智力商品化」后可能成为收费关卡。
  8. 生存尽调:牌桌约十家量级时,盯融资跑道、是否全栈力有不逮、下一轮危机下的现金流。
  9. 口径:课堂认知框架,不是荐股。

课后作业(课内)

复习「企业触手一次请求的完整链路」图:差旅报销 5000 谁审批——哪一层识别身份权限、哪一层找制度、哪一层生成自然语言回答、哪一层记效果与失败、答错可能卡在哪一层。群内会发链路图;本页截图位见下节待补。

关键帧待补 · 阻断说明

阻断(CST 2026-09-19):已用 tmeet record address 刷新 view_address(云录制约 328MB,record_file_id=2099457963603562497)。浏览器打开一律跳转腾讯会议扫码登录;本机 Chrome / cookie seed 无有效会议会话;API 响应仅含 view_address、无直接 mp4/m3u8 下载链;yt-dlp 不支持该短链。故本版 0 张关键帧。清单见 frames/README.md。

建议优先补:六层全景(~1:04–1:13)、训练vs推理(~37–40)、分层板书(~1:18–1:22)、OpenRouter/vLLM 答疑(~1:36–1:38)。补齐后放入 ./frames/frame-XX-....png 并以 <figure class="fig"> 嵌回对应章节。

来源与材料

  • 课程:第 2 站 AI 产业链研习营第 1 课《大模型与 AI 平台》
  • 腾讯会议 / 纪要标题:大模型产业链价值传导与投资逻辑培训
  • 日期:2026-09-14;云录制约 19:19–21:28 CST(~2h09m);转写窗约 1h44m
  • 会议号:748876844 · 主讲:黎明
  • cloud:meeting_record_id 2099457963603562496 · record_file_id 2099457963603562497
  • 智能纪要 / 转写:同目录 raw/smart-minutes.md、raw/transcript.txt

本页为 A 类学习手册(纸感阅读 v2),挂投资板块。整理自课堂转写,供复习;不构成投资建议。

全文逐字稿

按时间戳分段;专名轻度 ASR 校正(黎明、姚顺雨、OpenRouter、vLLM、DeepSeek 等)。回放为准。

展开 / 收起说明:默认展开全文,便于检索

0–30 分

[00:01 - 01:37] 黎明:特别快速响应,特能理解我的任务,呃,并且这个这个东西还可以持续迭代,对吧,可以提供性高性价比的服务。所以我们第一站花了小一个月的时间,得到了一个结论,算力肯定是必须的,今天的算力炒作也是必须的,但是有了算力。如果没有没能提供,用户真正想要能解决问题,具备高性价比的这个理呃,所谓的理解力啊,或者模型,反正都可以叫哈它是反正就那个黑盒,甚至那个**,反正我我让他干活,我经常骂 AI。他就是理解不了,那没办法,然后呢呃,如果再再分享一个特别呃,大家可以去不断的去打磨出来的一个能力,就是各种模型,不要抱任何偏见的去大规模的去测试使用。然后呢,这个过程中付出的成本就是你调研的过程的必须付的成本啊,然后呢,你有一手的体感,经常获获,获得一手任何一手的东西啊,想象一下任何一手的东西,其实都是挺都是明码标价了的。就是如果哈,就是看产业的人不要建立这种白嫖思维,这时候其实因为呃,这也算是一种投资哈。

[01:38 - 02:23] 黎明:你看我呃对 AI 自他们这这些开出来套餐基本上我不会给自己限量,反正我觉得好用,我就多付点,然后呢,如果实在太好用了,那我就超额,因为所有的模型都可以开放,其实这个中中间你付出的成本看似短期还是蛮高的一个账单,但长期来看你对模型的理解。那就完全是不同,不可同日而语了,背后但凡对模型稍微认知不一样的理解啊,就好比刚才我说的这个场景同样是。用的 GPT Image 2.5 啊,为什么你画个冰山看一下,看能不能画出来这种。Ok.

[02:24 - 03:03] 黎明:然后对于我们所有的用户来说,他给的全是,就是一个那个对话框,但是在在整个 AI 系统背后哈,呃,刚才有人说到 ai infra。其实背后做了大量的工作,这就是呃,如果行业外肯定大家就不知道,然后呃我们现在到哪儿呢?现在呃从上周哦就。讲算力那个环节,我们只只感受到了算力层上面的这些这些这些这些都还没做啊,没理没理解。

[03:04 - 04:06] 黎明:然后我问一个问题啊,你知道现在大家今天大模型,今天大家所有的大模型都在迭代,什么什么什么能力,你们随便根据自己脑海里面想的问题哈!就是大家都知知道大模型什么清蒸馏啊,然后这样的词听过啊,但是今天大模型为什么能干活了?它核心考察的什么能力?呃,依依赖的是模型的什么能力?空间推理, agent 自动化推理。逻辑能力推理。推理这里面现在至少啊,目前目前的回答都是错的啊,<笑声>除了。一个人回答对了。所以大家接下来应该更认真的学。

[04:16 - 04:41] 黎明:就是目前回答的目,目前回答的我没看到一个正确答案,除了一个啊!所以其实今天是模型演绎的大演绎这个能力的阶段,其实就应该清楚今天模型争夺战在争什么,其实在争 agent 的能力。所有的模型都不断的在强化 agent 的能力。

[04:44 - 05:26] 黎明:然后你听到了,如果你看最新的论文或者最看最新的这个,大家这个哪怕是信息,不管几手的信息,你看到的大家说是什么? RSA。也好,还是那个再往前是大家在说那个可以 worker 嗯,就是,但你们能听懂的词,比如说能 worker worker 的背后是什么?他是能理解任务,能理解任务,他就有各种调度和编排,其实是一种所有的模型。从今年开始,从 coding 的这个 coding 开始就开始追求 agent 的能力。现在。

[05:26 - 06:19] 黎明:所有的模型争夺战都在打造强 agent 能力!守也就是长城任务为什么可以长城呢?就是这些侵词侵略都都都他妈挺挺学术的,但其实很简单,其实就字面意思就是可以长时间去执行这个任务。嗯,现在这个最牛逼的这个,呃,最新的这个 gpt 的这个模型啊,就下一代这个模型目前在解决一个什么问题,在解决一个。一个百年的数学问题,那他持续工作了,说是 80 多个小时了,已经是吧,那为什么可以做到持续工作呢?其实就是靠它。

[06:19 - 07:52] 黎明:然后再往上,比如说那我们现在对这所有的模型要做区分啊,你说整个有基础模型层,还有说,呃,现在大家都在用调的是 API 然后 endpoint。然后都要有一个 K 是吧,都各种去买 token play 买啊,或者很多人其实直接订阅套餐,直直接用那个客户端,相信很多人都用过这个 k。然后我们跳跳过这个基础层,我们看你们能感知到的所有的都是 API 去往外输出能力是吧?这是模型底层的 API 跟我们现在用到的,比如说你去 gpt 里面直接问个问题,为什么它可以给你限流给你说,呃,大家都在说重置窗口。又在又跳到上一层啊,但是你为什么他能懂你不断记住你历史上聊聊过天的这个内容呢?他的他在这个过程中,他有个不断的去记你的绘画记忆啊,也就是。呃,今天。那个呃 DeepSeek 做的比较好的这个特征啊!Harness. 然后这这张图你争取啊,我们这这这一站学完之后,大家大概能比大部分人啊,能理解今天的 AI 到底在干什么?干件,什么事情,它到底是怎么工作的?

[07:52 - 08:23] 黎明:好往下。好,这里问一个问题啊,大家记住去思考这个问题。从算力到 AI 服务中间最容易漏掉的环节是什么?然后你们去思考,然后呢这个呃先不回答啊,呃先呃呃先我们先不揭晓,然后后面你看到最后肯定就能想起这个问题,就是从算力到 AI 服务。

[08:24 - 08:29] 黎明:中间最容易漏掉的环节是什么?

[08:40 - 09:30] 黎明:买这么贵的算力?现在算力贵到千几,我觉得大部分人跟算力是无缘的啊,包括不限于啊,像 30904090 啊 4090 现在买得起的人有吗?没有啊,估计你们都买不起,为什么呢?因为你们花这个高价买过来之后把它发挥不出来价值。5090 这种游戏卡大部分人都买不起了。然后更别说算力卡,所以今天这个这买这么大规模的这个算力。他一定是要是要创造更高的价值的,所以这也是我我为什么说就是就是这个就是市场一直在他妈不分不清,大小王一直在卖铲子,淘淘金热。

[09:33 - 11:09] 黎明:就讲这种纯卖铲子的逻辑是其实是有有弊端的,但这个市场永远出现会出现非理性哈,这个我们之前看看过这个。非理性繁荣这这样的书的话,你就能理解市场,他妈的,其实也不是说正经的,就是随时可能在偏移。就好比今天那个大家看到了市场全面调整是吧?啊,就是因为什么呃,美国的几个巨头站在那儿发一个公开公开说明,然后说要降速。其实你看脆不脆弱 AI 泡沫随时就破了。你们能从这个信息上读到什么呢?能不能读到东西想象一下?但凡。头部的这些 AI 要说?像素。缓慢减缓进程。你们今天看到的所有的半导体啊,算力啊,是不是贵了?贵了没有。所以看看问题,这不特别太特别明显吗?直接所以要解决的,从算力到整个交付智能,也就是我一直在说的是智力的问题,得一盆满钵满。

[11:10 - 11:32] 黎明:那这些智力如何到用户手中?今天从为什么可以 AI 可以演进的这么快?以前所有的整个工业革命的产品到消费者手中,或者消费者能感知它的整个生命周期,那真的特别长,比如说电力的出现,一定要有家用电器的出现才能普及。

[11:33 - 13:18] 黎明:那今天一个?一个模型,它只要在数据中心里面做了部署,它就通过一个 API 加 K 就可以传送到这个全世界的各个角落。所有的各个各个每个用户的终端,比如说电脑上或者任何设备上,它就可以调用。所以为什么可以这么快的去,就是它产生了这么快的这个智力,因为它生产出来的这个所谓的刚才说的理解能力,推理能力,它叫智能。智力我一直在强调一个词,就是这个过程中要判断说这些智力能不能转化成生产力啊。先建立宏大的这个就是这种所谓的整个转换啊,就相当于电能转换成了动能这样的一个意识。现在脑海里建立哈,为什么我加这么多图,其实我完全可以不加图,是为了让大家更好的理解这个就在脑海里面建立画面。那些什么服务器啊?你现在可以忘了完,因为我们现在已经开始转,把这些服务器啊 GPU 啊,存储啊,内存啊,全部转换成把这些什么硅基的能力。所谓的呃,那个计算变成智能的一个过程。它每转换一次,产生一次价值。

[13:20 - 14:30] 黎明:好,这里这里有一个特别特别好的一个呃思考框架啊,哎,这么讲应该是。应该很形象吧!是不是。我相信大家应该都能听懂啊!形象吗。然后对大家都跟上节奏哈,就是错过了你什么看回放那都是扯淡的,就不要把自己的价值往后转移,在这提高自己的效率,然后在这个过程中你理解到了,因为你下边下面跟着我的思路,你就会开始思考。跟着思考嘞,当然我我也我也我完全讲完了,可以就不管了,看你们怎么。All right.

[14:31 - 14:44] 黎明:就是我看那个,大家说啊,我再研究研究,我不知道有多少人下去还会研究哈,看着群里面没动静,其实研究的也也比较慢哈,我希望你们在讲的过程中哈,就把这个。

[14:44 - 15:41] 黎明:呃,能力。因为它足够。没有那么多。没有那么多的那个什么弯弯绕绕,其实就是不断的把这个这个价值传导啊,能不能每做一次升阶好,为什么模型能力越强?平台的平台的价值究竟在哪里啊?这里面你要思考就是包括这个平台到底叫什么平台?是是是呃,类似像这种 AI 公司的平台 AI 模型公司吗?还是一切?拥有模型能力的这些平台都可以称之为平台好,首先那你这里面过程中你需要思考到底谁在生产能力?谁在生产能力?能力是怎么生产出来的?

[15:44 - 16:20] 黎明:好,那顺上我前面那个那个一个对话框,背后下面冰山下面沉沉淀那么多的能力,然后组合出来的那背后是各种能力的组合。然后由数据算力算法。然后甚至还需要各种支付啊,然后去计量计费呀,是吧,为什么实时一个每一个 token 都可以清晰的被定价?啊,这就是能力生产的过程。

[16:22 - 17:09] 黎明:然后呢,再通过不断的这个我们所我们现在都通过网络哈,光纤也好,服务各种服务也好,数据中心也好,不管是哪个运营商也好。然后这些能力被我们很轻松的传输到我们的,通过网络,然后做接入,那这个过程中有些模型经常什么呃,我记得有 gpt 啊,或者 Anthropic 最开始很不稳定,动不动就就不好用什么服务断联。你看经过这几年发展是不是稳定服务现在稳定性?大模型的提升,这就是如何把服务交付做好,如何高效低成本,甚至不过程中可可以被监控。

[17:09 - 19:05] 黎明:想想一下那 154 页的 Anthropic 那个报告出来的时候,就像被就像所有的每个人的行为,每个公司的行为,每个用户的行为。都被扒光了一样。这为什么老跳出来呢?你怎么这么烦?这是我的一个 agent,可能在执行任务。给我跑数据?能理解吧,然后你理解的这个层面还有?哦,原来我我所有的行为,所有的问答数据,所有的背后其实只要拆解我,其实所有人都在裸奔是吧?那这个过程为什么这个老要跳出来呢?哪个服务在执行?哦,8 点我嗯,我呃我的任务启动了,他在给我跑那个数据,每天去跑这个实时的这些舆情数据。他就交到那个。所以现在这个 cowork 啊,就是类似这种 worker 的东西,它可以调度你本机的一些很多程序去执行任务。所以这就是价值,它能干活了嘛,能像你一样,呃,像人一样去去检索数据 OK 然后这个再往下就是这个过程中价值如何能够传导跟转换?然后谁用了我这个模型之后,还能把这个模型的能力转换成产品服务,然后转换成收入,甚至还能收集到更更精确的数据。

[19:06 - 20:39] 黎明:这里面有一个公司,你们能这跑得最快的模型出来之后跑得最快的是嗯估值增长最快的一个公司,有谁有印象?这个公司很快速的冲冲到了 800 亿是吧?美金怎么又来了?他不断的在尝试。我该怎么办?Cursor. 对,跟上我的思路嗯!你就知道是谁?为什么他不断的,他其实把每一个用户的整个问题和答案全部用于去不断的迭代了?是吧,然后这个过程中只你以为他免最开始烧钱,说不赚钱就是甚至给用户两倍 API 的价格啊,就是 API 价格两倍的量给用户。做价值传导,我们说那个海外这些公司不卷,其实他们只是在这个过程中如何去衡量价值。然后现在最后卖了个好价钱也体现出来,他做的这一切都是很值得,所以你你你会发现,其实所有的 AI AI 应用场景也好。

[20:39 - 21:08] 黎明:这里面其实是有一个过程叫价值捕获的过程,单独卖 API 的服务 API 的公司,包括你们听过,呃像达里奥,还有这个头部的这些,还有一些头部的研究员,千才研究员都分享过,如果是单纯一个卖 API 的公司,尤其这些全全球头部顶级公司是没有价值。是不性感的。

[21:12 - 22:01] 黎明:好,然后我们也会按跟上第呃算算力那一站一样,这这接下来怎么学整个呃模型这一层啊?今天主要是全景给大家建立这种呃,脑海里建立这种什么大概的这种价值传导是怎么样的啊?大概有哪些内容?然后呢?再不断的去拆拆拆拆,然后拆上中下游。然后拆中下拆拆中呃,上中下游拆完之后然后依然是。三问框架啊,不断的去提问题,提出好问题,然后去判断筛选出价值啊 OK。

[22:03 - 23:06] 黎明:这里面就开始慢慢的跟大家演绎一下,这个就是要讲清楚模型或者 AI 这件事儿,一定要讲这个计算的历史啊,或者软件的历史。所有的软件如果是写代码的,这里面程序员程序员多不多,程序员多应该这个就特别好讲,如果是程序员的打个一,不是程序员的打个二,我看一下多少比例哈,我我想一下怎么讲。因为不是程序员多的话。李老师你不是陈雪儿?OK 那那就是程序员还呃,不是程序员的,还有一堆,那我们就尽可能还是简简易一点哈,就是既照顾程序员又照顾不懂软件,历史的软件是什么。

[23:06 - 24:52] 黎明:软件啊,用一句话来说,软件就是我设计这个软件,比如说我输入个 a,然后它中间处理了一大堆,不知道乱七八糟什么东西,然后各种什么逻辑处理啊,反正就跟你点了一下。那个那个发送语音那个按钮,它背后做了大量的工作,但你其实你的预期是,它把我这个语音消息发出去,或者转换成文本这么一个动作。这就是软件啊,其实就是大量的在写规则写清,人把规则写清楚,然后软件按照你写的规则执行,最后输出确定性的结果。就是那个结果是你预期的就是那个语音的那个消息转成文本,或者把那个文本的消息把那个英文给我翻译成中文,或者把中文翻译成英文。这些但凡那是个按钮,那个背后的动作一定是固定的,不会是所有的软件都是这样的。然后在软件软件这个,这就是今天所就是在过去没有出现 AI 或者是没有出现不管 ai1.0 或者 2.0 出现之前软件出来的结果。一定是人把已经预期好的设计好的,所以当所以软件那个阶段程序员是程序员主导的。就程序员把这些呃,所谓的执行结果,它一定会出现这样的预期结果就设计确定好了,那这是所以程序员的工资就可以高数千计嘛。

[24:52 - 25:33] 黎明:对吧,嗯,当然我也曾经是程序员哈。所以这里面你看就出现程序员有初级程序员,中级程序员,高级程序员,甚至啊,再往后什么技术专家,嗯,然后那个表现形式表现成有的程序员可能几千块钱工资。有的程序员可能一个月 10 十几万,这就是差距,唉,然后从软件的第二次就是 ai1.0 出现了,就是所谓的,大家说的那个就是机器学习啊,出现了机器学习。

[25:33 - 26:31] 黎明:然后训练一个任务,让他去预测,做预测,做识别,然后呃,尤其是人脸识别啊,啊,还有什么呃做分类啊,分类算法。呃,我我我跟你们说一个,你们典型运营所有人都有手机,都有相册,相册里面都有大量的照片,然后这些照片为什么可以被分类归类啊,按照各种维度去归类啊,这里面就是 ai1.0 的算法在发挥作用。它不断的帮你去做归类也好,识别也好,做预测也好,那啊,还有一些什么去重也好啊,你看很多照片是重复的,这就 1.0 阶段做的事情。还是能做,只是有限对吧,但是他已经开始就是出现一个特征,就跟刚才规则软件就是所有的软件系统。

[26:32 - 27:29] 黎明:规则软件这个操作背后。不一样的点就是它的结果可能就不确定,出现一种不确定,然后就是现在我们看到,再接下来往下就是看到的说所谓的 AI 大模型时代出现啊,嗯。大规模的模型,通过不断的训练,然后各种开放性的任务具备泛化能力,然后你你通过不断的去什么参数调优啊,微呃呃叫预训练后训练。然后或者是,呃,你通过你的简单的提示,它就可以给你回答问题啊,这就是你看它的结果,每一次可能几乎都是不一样。如果你没有泛化能力的话,这个泛化能力可以泛化到各种场景上去思考今天每个。

[27:30 - 27:59] 黎明:哪些产业的边界是哪?目前到什么阶段了,这些东西都是能想清楚的,是完全可以想清楚的,我举个例子哈就是。你们在关注什么自动驾驶的时候去想象一下啊,自动驾驶是不是经历了这样的阶段,好,这个图帮助你们更好的理解哈!

[27:59 - 28:51] 黎明:刚才东西是讲完了。以前以前所有的环节,所有的模型都需要训练啊,呃,现在呢也需要训练,只是说现在的模型规模比较大,它的整个。这个推嗯,这个推理能力上来了啊,因为知识储备也上来了嘛,以前的模型数据数据量跟现在完全不可同日而语可能差了。几都不能说,以前根本就不会出现什么,以 B 为单位的模型啊,没哪有那么多参数,那么多数据,你就相信你们公司用的什么人脸识别。那个人脸库才有几个人嘛,但是今天全球的用户都在用用的过程中,那差的这个规模不是 1.1 星半点啊。

[28:51 - 29:36] 黎明:这个图帮助没有技术,没有技术背景的人更好的理解哈,就是我们简单的串一下啊,这个刚才讲了人写规则的阶段,然后呢,刚才说了,如果是 ai1.0 传统机器学习,它一定是一个单个任务的去解决单个任务,比如说它做人脸识别的就做不到,做不了猫脸识别,狗脸识别,猪脸识别,如果你要做猫脸识别,猪脸识别,你就得重新训练这个模型。然后让他达到它的精度啊,识别的精度不断的提升啊,达到,呃,现现在呃,那个在学术界常用的一个词就是已经达到了这个识别的准确率 99%! (MISSING)或者 98%!啊(MISSING),sota 级别。

[29:39 - 30:03] 黎明:你看现在养猪的都是用的猪脸识别啊,以前去做分类或者是你的交通违章啊,为什么可以抓拍?你可以抓出来,你有没有超速啊?有没有什么?压线啊,就是传统机器学习干的,你说它的价值大不大?其实当年 ai1.0 出现的时候价值是特别特别大的。

30–60 分

[30:05 - 32:05] 黎明:因为没有这些,你就想想城市的治理哈,将会变得多么复杂,包括你现在看所有的有很多,大家就什么,通过人脸识别就就可以进各种场合啊,进地铁进写字楼。或者你家家门以前你没有这些新技术的时候也很难是吧,然后再到演绎到现在的大规模,大模,大规模的这些模型的阶段,你看上来之后就是大参数训练。你这样收费老头都没了,但是通勤效率更高了,对吧?嗯,干任何事情效率更高了,所以整个记住这里说一句题外话,整个世界在往前走,在提高是提呃提高这个社会的经济价值社呃呃社会效率以及推动所有人类看见未来的是技术科学。嗯,不是玄学,也不是什么意识形态,也不是说是哪个朝代,哪个王朝就是。这就是为什么科学是第一生产力,没有经不起任何一点玄学或者乱七八糟的东西。很多人今天遇到了困难哈,短暂的就是不及预期,就归结了很多问题,其实是因为现在。是啊,它不展开了哈,我们这是这不是心理课哈。直接记住一句话。记住所有科技科学。推动了整体人类不断的向前发展。所以。应该相信科学应该相信这些模型啊,甚至相信科学创造出来的新的东西。

[32:05 - 32:28] 黎明:啊,但凡你去随便去找找一些案例套一下,看是不是因为由于科技进来了,改变了整个原有的这个工作现状之后。导致整个社会生产效率大幅提升,然后创造出来的价值更高,好我们快速的。

[32:28 - 33:09] 黎明:进到下一个环节啊,大家都在说 AI 应用,然后但其实今天的 AI 是做模型的模型,基础模型不是不是 AI 应用啊?记住啊,包括你看到的这个现在用的什么 即梦 / 豆包 或者 即梦 / 豆包。呃,什么元宝 / 混元这些都是属于基础模型,它不是 AI 应用啊,呃,或者 chatbot 这种就是大家用的这些能力,它不是应用,它只是一种基础能力,把它外化成一种聊天聊天的模式。

[33:09 - 34:06] 黎明:嗯,我这个电脑上没有开训练的那个模型,其实呃,整个训练的过程,它就是不断的在推推推理推算的过程,推推概率的过程,嗯。它是一种通用通用能力,尤其今天的基础大模型,它就是一个通用能力底座啊,为什么说它具备智能啊?这个图更形象啊?呃,这里就刚才我说的这个观点哈,基础呢,基础模型不等于聊不等于他聊天的那个 chatbot。啊,模型能力也不等于这个企业企业拿过来就能用,因为它没有企业的私有化数据,也没有企业的支持。能生成答案也不一定说这个模型就未来能够一一定能产生生产效率。

[34:08 - 34:59] 黎明:或者能能稳定的交就是有预期结果,这就跟很多人用大模型一样,刚才说的那个问题,你看我拿到这个模型同样的 codex。或者同样的这个 Seedance,为什么有的人可以做出精美的短句,甚至甚至 AI 电影,甚至 AI 数字人,甚至让这个形象可以。做一就办一次什么 AI 演唱会?但有些人可能拿出来可能生成的就是很粗糙的这个场景,所以它 AI 的基础能力,它不一定可以转换成稳定能交付的业务结果。它是一种特别基础,就是基础的能力,也就是通用能力啊!

[35:05 - 35:26] 黎明:啊,那这里面现在现在进入深层次了,准备好了吗?嗯,我我还没准备好我我倒杯水,你们准备好了吗?接下来给你们看看这张图啊,我倒杯水。接下来就到训练这个环节了啊!

[36:02 - 36:35] 黎明:这张图看着有感觉吗?有没有感觉?为什么你们生不出来漂亮图呢?这一点是不是我可以教教你们是吧?有有想学生图的吗?这有啥教的嘞?想学的我可以教教你们哈!看看。

[36:43 - 37:24] 黎明:我上次不是还哎,有一次我哦,最开始第一次我说这个图生出来,我做出来有没有价值是吧,你们也想做出这么漂亮的 PPT 是吧?是啊,让你们一下子**惊呆了,我靠!生图很平不立奇。可以,那这个我们就是到时候给大家提供一个。看到时候以什么样的形式教教大家?

[37:25 - 38:31] 黎明:然后这是重点来了哈,今天其实如果全场如果唯一需要大家去理解的,就需要理解模型,其实它分为训练和推理。如果只记住一张图的话,就记住这张图训练大家都在听什么,我觉得我我估计你们呃除了现在训过模型的,我这里面训过模型的应该只有当时一个人吧。训练啊,你们经过训练卡啊,经过推理卡啊,当然这个这个这种说法呢,对也不对哈,但是这个是呃,具有具备中国特色的说法哈。但中国人还是足够聪明,这一点我们要承认哈。训练呢,他做了哪些事情,然后嗯今天可能很多人训过传统的搜推模型哦,那好哦,训过优优乐。

[38:36 - 40:21] 黎明:Ok. 还是有人训过,那训过 1.0 的也算哈,训过 cv 的模型的也算,但是其实呃大模型的训练呢,就稍微有点不一样,它分了几段儿哈,就是比如说最开始做的预训练。你们你们听过这样的词吗?听过预训练的今天或者你能对标到谁家在做预训练?今天全球有几家公司在做预训练?又有几家公司在做后训练?其实是一个很庞杂的过程,没听过哈,不知道是吧?都不知道是吧?我我应该或多或少分享过,就是 5.1 哈,就是呃奥斯洛皮克的 5.1 我明显感觉到为什么我们这种?老司机哈,就是运多了就叫老司机哈,一品它这个味儿可能就是后训练训练出来的,可能没有做大规模的预训练。那怎么去理,所以你要区分他预训练干了什么事情后训练干了什么事情,然后围绕这两个,其实你们理解就能理理解一个。这个 AI 公司值不值得去关注啊?做后训练或者甚至预训练大家也能也都能做,只是预训练的难度比较高。

[40:25 - 41:39] 黎明:然后我们先说预训练,它在在做什么哈,就是涉及到训练过程中它需要数据对吧,那数据肯定得加工嘛,加工成这个。呃,比如说至少要做初步的清洗啊,当然今天大模型对数据的这个其实要求不高哈,呃,就是要要求这个做训练的数据,它要求不高。后训练就是要对齐数据,为什么有些模型它做不了,回答不了你的问题哈,这就是做了对齐优化啊,对齐过的模型,它只能回答一正正回回答正确答案。你要是什么各种擦边的,他就不回答,嗯,然后再就是算法,嗯,算法本身大家都算法本身的架构。大家看到了各种呃,估计你们看到的所有人都知道 transformer 嗯!但是可能很少人关注,比如说 DeepSeek 优化的那些啊,可能又在哪些维度哦,应该关注过,因为包括 mini 哈之之前也说过自己在用的稀疏架构哈。

[41:39 - 42:04] 黎明:是,然后再就是算力啊,这个里面算力本身你看每一个环节其实难度都挺高的哈,就现阶段来说,他们都是难度最高的这个含金量最高的环节。然后各种团队啊,然后让你们排个序哈,这里面哪个环节最最最最关键啊,用你们的感觉去排个排个次序。

[42:04 - 44:04] 黎明:人最关键还是算力,最关键还是算法最关键还是数据最关键。你看 1 万个人就有 1 万个哈姆雷特。是,其实这里面最关键的是人啊,算法是人干出来的,数据也是数据吧,也是人加工出来。如果如果这这一轮清了之后,还有人说我不会看这个公司,那我也不知道该怎么办了哈,记住哈!关注一个公司的人最核心那人是一个人吗?还是一个团队还是一个体系?啊,这就得四颗了。那就就得理解说今天这种。技术范式。他需要的是什么样的一个团队,什么样的人?高端人才。让我想起了梁孟松去了三星直接追平台积电。一个体系。所以为什么让你们好好听啊,差一点你知道吗?就就关注错了,关注错了吧,就理解错了,理解错了嘛,就容易遇到渣男渣女啊!千万别遇到哈,你从人的维度出来,今天 infra 做的最好的公司是谁?谷歌人才最强大!加股骗钱。

[44:05 - 44:32] 黎明:嗯,好,那你这个理解了就再往下看,所有的背后它都是由专门的人做专门的事情是吧?不可能一个人什么都会,今天其实很少有人什么都会的,就包括在那个腾讯那个哥们儿叫什么来着,腾讯花了一亿请的那个。

[44:32 - 45:10] 黎明:姚顺雨哈。谷歌在发挥人才价值上出了问题。哦,对呀。就是。谷歌姚顺宇这么强的人才过去了,为什么就是还依然搞不出好的模型,其实需要所有需要各种组织团队体系化的配合是吧?比如说。那个做数据的能不能给我按照我的要求去准备数据,然后做 inference 能不能按照我的需要,然后做好整个?

[45:10 - 45:35] 黎明:训练支持训练的这套训练体系,训练的集集群规模,机器机器能不能不打断随时出问题,然后甚至到推理。包括后后面配合模型出来之后一定要做这个后训练对齐,然后各种做测评,测评测评的团队作用也很重要。

[45:36 - 46:34] 黎明:就测评的团队给你洒点水,当然现在这个有一个不好的风气,大家测评都是为了考分啊,这个就特别扯淡。就跟中国的应试教育一样,大家都是为了考分,所以他们所有的环节这里面就看你,因为你一看这么多因素之后,你就。头都麻了,就先看人,你每个环节有没有人核心的人,然后呢?每一个环节如果都具备这种人,而且解决问题,比如说在算力这个环节,这个团队的 infra 团队还是很猛。啊,你那但其实大部分公司都不行啊,国内目前哈我能我看到的哈,只有一个公司做的比较好,就是我我我看到的就是在这个。

[46:34 - 47:00] 黎明:做做支撑你们知道是哪个公司吗?有人知道吗?不知道是吧?目前表现出来的做的比较好的是 DeepSeek。DeepSeek. 就是整体所有的环节做得最好。

[47:19 - 47:36] 黎明:至于为你说为什么做的最好的,因为他发出来的东西,每个团队都很牛啊,你看 DeepSeek 的这些团队,你得追踪他的这个团队的发出来的东西的日常。你看开源出来的这个各种推理架构。

[47:47 - 48:37] 黎明:所以这这里面有无数的宝藏可以挖啊,但是记住一个核心的词,其实都是人,这里面一定依赖顶尖,顶尖,顶尖,全球顶尖的人才。千万别光盯某一个什么嗯!算了,不展开了,再展开就可能就开始聊公司了。因为今天这些我们上上一段讲芯片的时候,讲讲芯片的时候,里面也是一个特别复杂的工程,高精尖的这个环节,那这个也是很重要的哈,值得深挖啊,然后再说说推理哈。

[48:37 - 49:51] 黎明:推理就是我们每个人都在请求让 AI 回答问题,那这时候一定有大规模的并发问题是吧?那模型怎么承接住这个并发就模型它要调度这这么多模型起运这么多参数,然后背后如何让这些 GPU 集群配合工作?为什么经常会有响应断联?嗯,回答着回答着断了,被断断掉了,被被被被被呃请求被抛弃了,甚至直接告警说呃,这个当前请求请求太高,然后呢无法回答是吧?甚至大家大家看到了典型的在这个 AI 里面出现的 429 啊。什么什么什么什么什么什么嗯哦,还有流控啊,流量限制啊,你已经这个 5 小时超负荷了。啊,你的套餐套餐额度用完啦对吧?哎,为什么会被拦截?因为大量的请求过来之后一定会被,如果是机每每个环节支撑不上,那一定会出问题。

[49:53 - 50:57] 黎明:然后你看这个链路其实也很清晰,哪个链路最最核心呢?其实没有一个不核心的链路。这个特别也特别考验。整体 AI 公司的?这个能力哈!那下面就开始总结一下啊!因为这个让你们理解了半天,我不知道你们跟上了,跟上了跟上节奏了吗?跟上节奏我就开始总结了哈。就是下面最核心的这一句,这这个这这一句话啊,训练决定的是能力边界啊,谁训练做得好,谁的新模型出来顶尖,这就是为什么大家看到的啊,各种什么顶尖模型,顶模的出现。

[50:57 - 51:29] 黎明:我一直让你们看顶模顶模顶模顶在这儿啊,顶在整体的一个团队,你要想今天能把这些环节做好的。要钱有钱,要人有人。要算力,有算力。啊,这就证明了一切。训练就是通过训练能把训练搞好,搞训练出顶模的,你看今天能做出顶模的这些企业 dons 自己。

[51:29 - 52:31] 黎明:要钱有钱要人有人啊模型。然后呢?为什么大家能看到的就是已经运起来的,但是推理出来的那个结果效果那是推理出来的,那就是说这个为什么 Seedance 刚出来的时候?你接一个 API 开放出来 1000 万的充值才可以给你开放,开放给你,是因为顶模来自于顶模要持续的变现,那它来。提升整个这个来来回报他这个训练的过程中的大规模支出啊,然后做了一系列的一系列限制,而且为什么他不给大家说开放,让大家免费玩一下呢?因为完全没必要,因为大部分人他拿了这些模型之后,就是他们在把这些模型去做评估的时候,他背后你你就想一想,我很多人在说为什么 AI 模型。公司赚不赚钱,你就想想这每哪个环节的链路是不要钱的。

[52:31 - 53:58] 黎明:啊,我们如果好好学过 gpt,好好学过算力,你就知道光这一个环节算力贵出天际啊,也可以用两个词啊,就贵的直接日天了。就这个,今天没有几个公司能承受这种这种规模,所以它不可能免费。但凡免费的这个公司就是脑壳有问题,除非他就为了骗资本的钱啊,呃,国内反正最近出现的这个转发的问题啊,我我我我前两年那个发了一个视频,我还跟我还在思考这个。真的让我为什么刚出来的模型都**炸天,结果过一段时间干个活儿根本干不明白啊,这就解释了所有的模型。刚开始为了这个。直接不是都不掺水,直接转发啊,直接转发给 OpenAI 跟。Claude? Claude. 你就想想过不过分?这些骗子们气死我了,但是呢呃,换个思路想一想,他们都是大川人,让我们可以特别便宜的用到这种顶尖的模型啊,你至少啊,你背后谁掏钱了啊,还是在玩玩这种羊毛出在猪身上的游戏啊?

[54:03 - 56:29] 黎明:真的值得感慨一下,就是他在推理的过程中就就这个环节啊,你用户请求进来之后,他直接转,他不会走这个后面的过程,他直接转到第三方的模型。我今天给你们透露一个真相哈!国内的这些云厂商都在这么做。他们自己推理搞不定。找不出来跟原厂的性价比,他们部署出来的这个成本成本在听吗?记住哈!这是。这是你们估计听不到的消息啊!成本是头部的云厂商哈是三倍,是原厂价格的三倍,就是他们部署出来同样的东西部署出来成本。就是给你开源了,你都用不起。你都没有市场,你都不会转变,不会把它变现,因为用户不是**,比如说同样的 GLM-5.2 / 5.3,为什么这点这个应该刷新你们认知吧?还以为比成本比模型公司便宜,然后他们一样的是做做的是用户请求进来,然后看似在调用谁谁谁的 token play 其实是在做转发。转发给原厂。想不到吧,移动为什么会便宜?因为移动是**呗<笑声>。所以这个过程中演演绎出一个补贴啊,但是话又说回来,但是为什么这个模式成立呢?其实这样转发是不赚钱的啊。这就是技术门槛的问题,就算开源其实也搞不成那个高性价比的模型,微软提供的 OpenAI 也会成本更高吗?你 OpenAI 没有那么多算力,应该承受不了转发。

[56:31 - 58:31] 黎明:有没有想过有没有想过一个问题,这时候模型公司可以去找这些人收费啊,小地大厂收费啊,对不对?开源的嘛,国内是开源的嘛? OpenAI 不存在这个问题啊 OpenAI 可以呃,微软不存在这个问题啊,可以找 OpenAI 直接过去。这个不帮我弄好啊?但是我说的是国内开源的模型。就算开源。一批客户来了。所以开源。这里核心差在就是各个环节是要做优化的,然后呢,国内有一个特殊情况。原厂的算力够吗?不够啊。这样原厂就可以融资了呀,智谱最近为什么融资疯狂融资才融了才融了几百亿 300 亿是吧?啊,又来任务不就是因为干基建去了吗?不是除了开源协议收费之之外,你也搞不出来这个成本,你是不是得求着模型厂商给你去解决这个成本问题,但是模型厂商今天哪有精力顾搞这个事情,今天就演绎出了。演绎出了就做这个能把这个推理做好的一批公司啊,我可以帮你去做这个部署推理。最近政府单位对外提供的模型收费比外面高了一个数量级智谱的模型规模,融资规模都赶赶上一个 mini max。

[58:31 - 01:00:35] 黎明:所以很多事情你理解理解的深层次了,是不是这里面是不是就清晰很多了啊?好,下一个环节哈。小的小好好听的就就听到了这种。不不该听的消息<笑声>。然后把这种疑问建立在自己的内心里面去思考为什么会产生这样的结果?为什么差差差别同样的模型为什么差别在那儿在哪儿?其实这个特别好理解,就算给你一个积木啊,给你一个乐高,给你说明书,你都拼不好。是不是别说我们不用泛化的这么模型,我今天给你一个那个乐高啊,那种特别复杂的,这么这么这么这么大 1m 长的乐高你能复原吗?不一定吧。或者你能快速复原吗?不一定吧。这样理解吧!啊,还给你详细的说明书。反正据我所知啊,这些头部的这个大厂啊,不管你们是国内能叫得上号的,都是这么玩啊,嘘,自己部署当然可以啊!成本高位。只要愿意补贴就可以啊!好那。呃,那我们就往下了训练和推理呃,关注的产业变量是不同的,嗯,这里面为什么不同直接看图哈?有什么不同训练关注的是算力和数据能不能形成闭环,然后这里面然后攻坚的环节大家都知道啊!

60–90 分

[01:00:35 - 01:01:00] 黎明:开源模型最最核心的是有没有开开源模型的权重是吧?啊,然后权重就是核心。然后推推理的就是持续调用,然后能保证高高可用,然后低成本,然后用户的体验特别好,反正我就可以无限制的使用啊,没有任何使用过程中不会卡壳,遇到各种问题。

[01:01:08 - 01:01:46] 黎明:然后这里面有一句一一句话哈,大家记住哈,就是不要简单的这样推导就是模型越强,推理成本不一定越高啊!我们就拿 Kimi K3 来举例子哈 Kimi K3 如果用不一样的这个服务器,它产生的这个价值是完全不一样的。如果用 h200 Kimi K3,大概率就是永远不可能回本。但是如果用 b300 去做推理啊,基本上可能就是理论周期稍微去做一做权重哈,做一做那个做做加加系数就可以回本。

[01:01:47 - 01:02:01] 黎明:由于不同的模型要求不一样,对参数的要求对对机器的算力的配要求不一样,这是已经是模型成型的模型,所以推理也是一门学问哈。

[01:02:12 - 01:03:56] 黎明:嗯,那就下一个环节,我们得加速了,感觉讲的有点慢呢,今时间又又有点讲不完了。啊,还有还有多久?8.8.4 17。讲太慢了。我得怎么加速一下?哦,这里就就是整个模型,整个那个从用户看见一个输入框怎么到一套整个可以交付的系统啊,这个之前讲过了。所有的应用过来之后,他做了这背后一系列的工作哈,这个简单理解就行了。呃,抓核心环节哈,呃,我们所有人经过结那个使用 AI 都是这么一个流程,不管你用的是 API 或者或者是那个对话框哈,呃,那个那个各种 chat 或者各种。Codex 也是如此哈,然后他就是先检先检查你是不是充值了啊,检查你的量够不够,再做对你的整个呃,这个叫。呃支持的编排,然后到调度模型的服务啊,为什么知识的编排呃,会前置哈,这个下面去调研吧。然后的,然后他通过这种这套流程过来,然后不断的你给你突突出来,如何快速的突出那个首 token 哈就很重要,这就是也是能力的体现。这个没什么可看的。

[01:03:57 - 01:04:57] 黎明:哦,这个这这句就是想啊,你们看这个图吧,这个图更清晰一点啊,下面这个环节就说呃,刚才那上面有一句话就特别清晰啊,去看的时候先不要着急上来就就就就就什么财富密码,其实这些当你理解了财富密码就自然就自己飘出来了。但是不要上来去去看公司,先理解每一层,比如说第一最底层的基础资源层,那组成元素是哪些?我现在理解到什么程度了。然后再问第二问说啊,如果模型生产环节,他目前各家模型都是怎么做的,嗯,其实这个都能都能都能,只要现在呃发布新模型,甚至开源闭源的模型不好了解这些信息,但是开源的模型国内全是哈,这个是开源之后你想获取这些信息,其实从学习的维度其实完全够了。

[01:04:58 - 01:05:35] 黎明:然后再会演绎出大家现在看到的到底是基模还是呃通用模型还是行行业模型,是呃文本模型还是多模态的模型?嗯,多模态有又分说伪多模态还是真多模态,甚至啊,现在呃在多模态的一场还搞出来,现在全模态哈。全模态的模型,然后在这个更上一层更演绎出来了世界模型和这个所谓的物理模型。

[01:05:35 - 01:07:29] 黎明:然后还有各种垂直领域的这个,比如说。呃。领域模型啊,就是行业模型。然后再才慢慢的演绎到上面才是整个行业的应用啊,到底应用在什么场景,现在可能达到办公了,进入办公领域了,然后嗯,大家也看到了,就是呃,其实其实各个各行各业被特别需要这模型的出现,呃,然后呃,大模型第一出来的时候,比如说那个大家都在应用,在法律金融都想赶紧的在自己的领域里,包括那个。那个彭勃蓬勃是彭勃啊,呃,那个或者像摩根大通这样的公司,他们都需要模型来。来去在行业里面快速的应用起来,然后包括运用在各个领域嘛,比如说刚才说的基模的,它是,它是一种通用能力。要不断对外的释放嗯哦,还有最近那个 chat 呃这个顶级模型直接出垂直垂直领域的模型,比如那个那个 chatgpt 在做那个出专业专业的金融模型嘛啊,金融应用场景是吧?啊,就是模型到一定境界,它就会出这个能力。嗯哦,那就我们就是相当于现在我们把这个 6 层哈展开了,简单的给大家过一遍啊,这个刚才讲了你就理解一下啊,看一下这张图就大概理解了。所有这些因素组成,然后模型才能稳定运行,那那这就是基础。

[01:07:30 - 01:07:52] 黎明:然后模型的生产环节,而这张图我为什么提前发群里面,我就是说让大家看一下,提前看一下,它其实是一个呃,日常模型去处理,或者包包括模型训练,它要做的一些过程,就所有的每个环节它都是一些主要的呃,工作量。

[01:07:52 - 01:08:40] 黎明:呃,然后大家理解一下为什么现在可以一个月搞出一个模型,它背后这些环节是不是都已经 work 做的比较好了之后才能这个一个月才有多少时间哈?就是每这些工作量做不好的情况下,如何?如何才能把这个工作功能运转起来啊,然后第三层基础模型选型哈啊,就是刚才说的通用啊,闭源啊,开源啊。然后一些制约因素评判它的效果到底是它的效果是不是顶膜,然后它的成本是不是高,具备高性价比啊?是不是稳定?是不是合规,是不是呃,做过对齐,是不是有专家做过测评是吧?

[01:08:41 - 01:10:20] 黎明:主要先先有建立一个基础哈,我后面其实都会详细展开的,然后再就是模型的服务层,也就是大家经常看到的是 maas 啊 maas 服务。啊,如何调度?如何部署好,然后如何大规模交付,如何做到什么?每呃,现在都是呃呃那个动不动都是万亿啊,万亿万亿 token 日。月万亿还是日万亿啊,这个吞吐量,然后哦,这些是关键的一些指标哈,这种专专有专有单位哈!但是现在基本上都是,要不就是呃,百万 token 这个。为这个单位?呃,这就是应用的 AI 平台现在都在做什么啊?呃,大量的,比如说在做开发呀。然后其实你能看到的这个如果基于底层模型,再往往各个领域去延伸,其实是特别多元化的,就不是具象的,只是哪个方面,而而且背后可能是大量的模型的出现啊,所以一旦涉及到行业或者是要做平台,你去看一下,呃,国内现在目前做的好的应该是阿里的那个百炼里面有多少模型啊?各种各样的模型的出现,然后甚至还有传统的一些模型啊,就是 11.0 时代的模型也都在。

[01:10:20 - 01:10:51] 黎明:然后但是这些模型,呃,为什么我们要了解这些呢?那你要了解呃,整个 AI 是如何运转的,呃,大概呃,范畴是什么?可能这些还是需要需要一些了解哈,这就平台 AI 平台是什么样的,长什么样啊,他们都在做什么?然后最后才是就是说应用到各个场景,现在现在到办公这个场景,然后未来可能会演变到终端呐,各种终端是吧,再到行业。

[01:10:51 - 01:11:27] 黎明:然后企业内部这是 1.0 时代典型的,就是这个客服场景哈,就是你们去,呃,电商里面去,去,去搞,呃,做电商里面去做那些各种各样的场景,它就会。呃,遇到这种人工呃,人工智能的客服哈,反正就是一问一个**,但是 2.0 时代在解决这个问题,现在好像貌似大家可以做到大规模通用了,但是在 1.0 时代想要做好这个事情,让用户无感知还是做不到的,最近不是桥西客服的这种。

[01:11:27 - 01:12:04] 黎明:场景都出来了吗?哦,这里面注意一个词哈,就是之前让大家分析阿里同一家公司可以跨越多层啊,阿里可能就是典型的这样的这样的公司。就是各个层面它都可能占据一定的,它也做行业,阿里的行业铺的纬度还是挺多的啊,比如说面向各个呃传统行业或者是什么智能制造行业,甚至还有互联网行业,金融行业,什么游戏行业,只要大的行业它都会切进去。

[01:12:08 - 01:12:43] 黎明:完整的 6 层全景,每一层交付不同的结果啊,比如说基础层它在做什么事情,呃,然后模型层,然后基础模型它在做什么,然后 maas 服务模型服务在做什么?然后这个过程中如何管控稳定,然后这就是开治理环节,然后最后到应用场景就是这个结果啊,我把这些能力通过组不断的去呃去做适配组合,然后产生出各个领域能用的模型,今天我们看到的。

[01:12:43 - 01:14:23] 黎明:什么 chat work 它只是一个场景,其中的一个想象中的大场景,但其实在整个全行业里面,其实属于还属于一个小的。场景因为一旦到制造环节,制造生产力环节,那个场景还还是还还会更大,嗯,但是呢,它的形态跟现在的这个形态可能就完全不一样。这里面核心的两个变量关注能力是不是不断的在提升,然后以及成本是不是能够做到,就是不断的具备性价比,嗯?再就是说这个能力转化的一个过程到底是呃,能不能把资源转化训练出训练出智能啊,这个过程中如果按刚才说的那个团队人才不具备的话,那可能就。从这儿死了啊,在这个环节死的公司特别多啊,中国的百模大战里面有可能。90 个可能就死在这个环节,嗯,再往上你迅速能力能不能服务化啊?规模化啊,然后呢?能不能不能做到性价比?能不能做到大规模可用啊,这里面可能又有一堆。卡在这个环节啊,这是真实存在的,因为就是你有好模强的模型能力,但是你其其提供不了,呃,稳定的供给,那也会就是作死,嗯。

[01:14:24 - 01:15:09] 黎明:平台完成任务的哦,这里面就是考验就是。这个平台组织能力的问题。交付价值流嗯,谁付钱谁获得收入不一定哈,因为这个过程中就是价值的传导。在能力向上的过程中,价值价值哪个环节是最最最最最价值环节最大的哈,现在来考一下你们就是大家的这个学的能力哈!就在这么个传导过程中,哪一层目前是价值最大的,然后能力不断的在提升啊,大家也看到各种顶模的出现。

[01:15:10 - 01:16:21] 黎明:价值有没有正确的进行传导?啊。有没有。讲下一下。芋泥。用你的思维能力哈,传导没有是吧?对。编程已经传到了。编程传导了啊,编程传传导了,但是传导的不大哈,实话实说哈,真正用编程的你去问程序员,其实程序员那个为什么企业现在不愿意为这个编程买单了,这也是这个问题啊!然后大量的这个什么 opc 做出来那些东西根本就没人用哈,这也是个问题啊,当然我不说真相了啊,我们只说价值价,这这个价价值传导这个敲测的话。那有挑不完的问题,但是呢,至少就是就在这个这个环节是不现在不断的在推动价值价值传递啊。

[01:16:21 - 01:17:01] 黎明:你像有在内心有一个这个所有的环节是价值。然后呃呃,这里面补充一个一个小技巧啊,这句话挺重要的,收入不等于价值捕获强啊,就就像有些人哈什么 ar 挺高,然后呢,但其实他妈的毛利率就只有几个点那种。这种是不是就有问题啊?为什么会毛利率这么低啊,值得所有人思考啊,就因为它扩张它投入研发,不是这个不是这样的哈。那个那那个不能说明问题?

[01:17:06 - 01:17:43] 黎明:然后如何反馈这个价值啊?反馈的价值就是客户愿客户愿不愿意持续付费?如果这个价值在传导的过程中,客户愿不愿意持续的订阅和付费?也不是定价策略的问题,是因为你有没有想过他补贴力度太大了哈,是为了捞用户哈。给的量太多了,有没有想过为什么 gpt6 突然不卖 200 的套餐了?200 刀的套餐了哈,思考一下。

[01:17:47 - 01:18:41] 黎明:然后呃,再就是这个环节,比如说这三条能力流,价值流,反馈流,这是不断的流动的,如果畅通,如果是出现阻碍,那可能出现的这个阻碍阻碍点是什么?就是搞不出顶膜啊。关键能力出现了瓶颈啊,这个典型的代表可能是 google。加速进入光伏行业厮杀困境。啊,然后再就是复杂度啊,然后复杂度上来之后这个解决问题,嗯,你看为什么为什么有些模型我靠废话连篇,但是就是不解决问题啊,甚至还会调戏你这不就豆包吗?所以要不断的看这个各个位置的价值是不是有没有传导,没有出问题啊?

[01:18:43 - 01:19:16] 黎明:啊,这个练习题不重要,练习题就是让大家区分一下哈,比如说这个 GPU 是不是基础基础层,嗯,训练数据是不是基础层?好我我问哈预训练是不是基础层?就刚才不是 6 层吗?每一层都是哪些东西?不是啊?恭喜你们回答正确是模型层是吧?对了后训练呢?

[01:19:19 - 01:19:56] 黎明:是不是模型层,模型层好,基础模型是哪个层?这个不用回答啊?推理引擎这个比较关键啊,推理引擎是哪一个层?是基础模型层还是模型服务层,推理引擎?基础还是模型服务层服务服务基础服务基础好,那好,你看他错了是吧?哎,错了哦,错了。推理引擎。推理引擎,推理引擎。擦不掉了。

[01:19:56 - 01:20:30] 黎明:模型 API 肯定是服务层噻,模型路由是哪个层?模型服务层对吧?然后 prompt 开发是哪一层?Prompt 开发平台层。基础层乱说。平台层对了,企业库,企业知识库属于哪一层?这这样你们就很好的识别哪些在干模型的事情,哪些干应用的事情?

[01:20:30 - 01:21:23] 黎明:平台层。好,对了。客服属于内层。你看错的,你们回去自己反思一下啊,为什么为什么错了啊?行业解决方案属于哪一层应运成哈,这个应该没人能回答错哈。好,就是把这些东西能分分清楚在哪一层,你就很好的理解现在哪一层卡位了,比如说但光推理引擎就专门的公司在做推理,然后所有的公司可能都会采购这一家公司的服务啊,这这种就是核心壁垒啊。然后刚才没没没回答对的哈,大家可以看看这张图哈,回去好好复习一下,嗯。

[01:21:23 - 01:21:57] 黎明:这个问题没什么可回答的,嗯,就是员工这这个问题其实是在让考察大家这个公司的,你去说公司差旅报销 5000 元,需要谁审批问大模型?是通过哪一层去识别哪一层?通过哪一层在识别员工的身份和权限,哪一层在寻找最新的这个公司的这个什么员工制度?哪一层是在生成自然语言的回答?

[01:21:57 - 01:22:36] 黎明:雷层在记录效果和失败案例哪一层如果回答错了,可能问题出现在哪一层?其实就是刚才那个这这个对每一层理解之后的一个具象的考察哈。有点难哈,哎!嗯,那我把这个问题送给送给你们哈,去你们去好好复习一下,待会儿我发群里面企业触手一次请求的完整链路。

[01:22:38 - 01:23:26] 黎明:这个是应用的,讲解这个这个这个这个我们时间到了不讲。啊,这个这张图要讲一下啊,就是刚才的这 6 层怎么划分的啊,到底是在,其实大家应该关注模型生产和。呃,如果分溢价的话,大家呃,或者我现在不提示你们,你们自己去评判哪一层应该值得你们深度的去挖掘和关注哈,因为之后比如说我们讲上中下游的时候一定会拆开来讲,然后关注这个每个价值或者能力在流转的过程中能不能价值正确的传导以及。呃,如何如何评判它是在正确的传导?

[01:23:28 - 01:23:53] 黎明:好。今天今天的问题基本上就结束了。给一个提问的环节,一个啊,给一个提问的机会,然后我们今天就早点结束,因为上次有人反馈延长的时间太多了。

[01:23:57 - 01:24:01] 芝麻变西瓜:啊黎明那那我来,我有个问题。

[01:23:59 - 01:24:07] 黎明:呃,喜欢。没有我们就结束。

[01:24:06 - 01:24:14] 芝麻变西瓜:哦,我我的问我的问题是。就是现在按照现在的这个呃。

[01:24:11 - 01:24:40] 黎明:今天是处于让大家去看一个全局到底是怎么回事儿哈,由由今天开始就切换到开始思考大模型到底怎么回事,然后哦,这就这也是为什么我们把数据调整嗯。哎,斌哥有问题是吧?为什么为什么总是兵哥受伤的总是兵哥,斌哥有问题哈,我没开声音啊,我现在开一下啊!

[01:24:30 - 01:24:54] 芝麻变西瓜:呃对。呃,黎明老师能听到吗?呃,我我我的问题是这样这样来思考的,就是按照现在的那个大家的整体共识或者是趋势来看,呃,就是一家做 AI 的公司。

[01:24:43 - 01:24:58] 黎明:呃,开一下声音就好了嘛!没戴耳机。

[01:24:55 - 01:26:15] 芝麻变西瓜:以及做 AI 的公司至少要从第二层开始往上做,就是呃,它和以前的产业以前的一些行业不太一样,以前行业可能大家各分一层,但现在明显的有感觉到就是 AI 公司它需要从模型生产到应用落地都要做,否则它可能就没法攫取这个产价值创造中的整整个过程,特别是做最上层的那一层。的公司的前景都会就是面临很大的一个一个考验吧,然后然后衍生出来另外一个问题就是,嗯,其实现在站在牌桌上的顶尖大模型厂商大概也就两只手吧,就 1010 家 10 家左右,那下一步是不是也要特别关注一下,呃,这些公司里面的这些公司的第一个是它的顶模的生顶模的模型的生产能力,以及它的那个收入和融资的能力,特别是可能我觉得可能还特别要看关注一下融资的。就资金,资金实力吧,因为因为我觉得他们呃距离因为现在呃 AI 编程已经是落地了,当然还有很多更大的场景还在寻找,还没有产生一个编程这么可靠,稳定的收入确定性的场景,那么他们这些公司的生存能力,我觉得就会受到一个考验啊,那是不是要特别关注一下这些,要要要特别核查一下。

[01:26:15 - 01:26:37] 芝麻变西瓜:比方说这 10 来家模型 AI 公司的,他们未来能不能活过下一轮?比如说他们还要经过公司自身的经营,能不能活过下一轮,然后还要经历,有可能有那么一次金融层面的危机。你比如说什么加息啦,或者什么其他的股市危机啊,他们都变得丧失了一些融资能力。而我的问题主要是这个。

[01:26:28 - 01:26:31] 黎明:先加仓。

[01:26:37 - 01:26:43] 芝麻变西瓜:就看看他,看看他们的存活能力。他们有可能活不到。见到曙光的那个时候。

[01:26:45 - 01:27:52] 黎明:这个确实嘛,我觉得我们其实有时候把其实可以把这些问题回归到一些稍微常识一点。我们从没想过。虽然可能科技含量比较低哈,从我也想过恒大会倒闭,或者从未想过呃,一些巨头会没落啊,比如说在互联网互联网这个时代。甚至还会,你就想象一下,连这种什么顶级投行可能也会败露啊,莫拜啊,回到 AI 时代也是如此。只是说这这一轮呢,它属于高精尖,就是它知识知识密密集型和。资金密集型,资本密集型,它是强关联的,所以这个强强联合产生这个结果,也就是往前走,但是最可怕的是就是现在遇到一个问题,就是你说的各种因素导致这些可能走不下去啊,比如说融资能力不够,它就活不到第二天。

[01:27:53 - 01:28:47] 黎明:我觉得死是死不掉的,你这个就错了噻,就没有死不掉的哈,不然没有绝对死不掉的,肯定谁谁都有可能死。只是看死怎么个死法,嗯,包括大家也看到了这些顶级的模型也好,头部的这个几个模型都在使命的融资哈,那融资怎么怎么融资,确实对这些公司也考验,但是也不是考验,因为这些公司已经是当红大资机了。如何做好模型,包括这些资本都会帮他们去解决如何融到资的问题,只不过说这个他们走走在走,没走在正确的路上。啊,一直在做正确的事情,因为结果有时候其实如果所有的因素都走对了,结果可能就是一个要不迟到,要不晚到的结果。

[01:28:49 - 01:29:46] 黎明:这个倒不用去太过担忧啊,包括今天就属于这个时代,只是说在现在各种政治冲突的这个当下哈。大家都预期可能呃,比如说这些呃 OpenAI 上市 1 万亿美金,呃索比克上市能不能到 2 万亿美金,甚至到到不到得了,包括 OpenAI 现在提出今年不上市了。然后你看这个预期落空就就就产生了这个为什么到不了一 1 万亿美金?这是过程中值得思考的问题,就是说明显现在才才到哪儿,到哪儿都开始打价格战了,那他凭什么可以高溢价,高估值?没有这个说法,就是全球市场不足以支撑这几个巨头,就这么几家,就中美,尤其中美的这几家,这这这几家 AI 公司就已经开始出现这样这样的问题。

[01:29:46 - 01:29:51] 黎明:可以稍微。

[01:29:47 - 01:30:03] 芝麻变西瓜:他们现在目标都都都都说提要什么降低 AI 研发速度了,因为可可能钱也就我觉得可能从这个烧钱的上面也是感到有压力呀,因为他现在研发最顶尖的模型跟上队伍就特别费钱,还要投资算力什么什么的。

90–120 分

[01:30:04 - 01:30:40] 黎明:现在他们走上了一条不归路,嗯,只能这么说,就是继续,只能继续往下,所以现在不得不说大家商量一下,就跟我们说的直白一点哈。就跟说中国开始搞核武器了,然后美国也搞核武器了,大家都像说相互制约一下都别搞那么多啊,搞一点就行了啊。嗯,不能超过多少量,就这么回事儿,因为都往下去搞,所有人都很危险,呃,迁移到这个模型上,就是刚才你说的这个问题,就是说现在烧钱的速度。

[01:30:40 - 01:32:09] 黎明:你知道英伟达死命的卖这些芯片给这些公司哈?不就说明问题了?然后由于买的太猛了之后导致零部件涨上了天,然后背后隐藏的就是整个通胀的问题,甚至为什么这些。这些涨价啊,可能也有金融资本的问题,不仅仅是一个行业的问题是吧,美国严重的通胀必须把这些消纳掉。通过呃,怎么说啊?这就是问题,但是这些问题看能不能能不能以一条线传导出来,那这么涨价现在问题啊,就是连消费电子都涨价了。你看看手机电脑这种基础,民生消费电子都都被动着,被迫涨价哈,苹果手机你看涨涨成呃一下子可以涨一两千。国内的手机呃均价都涨了 1000 嘛,这就是这就是通胀带来的好处,我觉得不是所有人都承承承担的。这就是因为这个产业繁荣易发出来的问题,但是这个扩展就多了,那再往下扩展就扩展金融了,我们看产业,先看产业吧!

[01:32:09 - 01:32:24] 芝麻变西瓜:嗯,就是他从商业上来说,他还没找到一个足够大的收入,能够涵盖他的整个研发的成,研发的各种各种成本,比方说至少也得 5000 亿美元啊,这种级别的收入就整个行业。

[01:32:23 - 01:32:53] 黎明:就我我跟大家说个直白的啊,就智谱现在这个融资的力度以及它赚钱的力度哈,就它融的这个钱能回本就不错了,不要亏光就行了,但是现这是基于现有的变量哈,就是没有转机哈。比如说他还能搞出更顶模,然后呢?更高性价比更大的用户规模,但是肉眼可见,现在你说用户规模还要怎么扩大吗?对吧?

[01:32:56 - 01:33:04] 芝麻变西瓜:对,得解决一下钱从哪里来的问题就是收入从营业收入从哪里来的问题,从哪个行业来?从哪个场景来?

[01:33:07 - 01:33:38] 黎明:所以现在等我们把这这门课啊,这这个研究完了,你你你们大概率会跟我产生一样的一样的问题啊,但是我现在不先不抛啊,不然会。带你有带着你们跑偏?其实世界会不会还有答案?这个答案不一定对呢?嗯,先不抛了啊,不抛抛了就直接直接导致相当于你们电影还没看呢,我已经剧透了,但不一定对嗯。

[01:33:43 - 01:33:45] 芝麻变西瓜:嗯,好,谢谢李老师!

[01:33:44 - 01:33:51] 黎明:还有没有问题?没有了哈。

[01:33:49 - 01:34:03] 芝麻变西瓜:哦,刚才还有一个子问题吧,就是刚才说我感觉现在他们现在至少都要从第二层甚至第一层也要做做,要不然他们整个传导就有问题了,他们是倾向于。全全做了。

[01:34:02 - 01:34:36] 黎明:肯定啊,是你你都想做,只是说你能不能做好的问题。能不能做出,更就就是呃,能适配这个领域的问题,现在不是 chatgpt 在谈一直在谈安全啊,法律啊,还有什么呃,claude 在谈这这几个方向,它的呃,那个 OpenAI 在谈金融嘛是吧?专门给金融搞一个金融模型,看到了吧,这个消息应该看到了吧?

[01:34:36 - 01:34:45] 芝麻变西瓜:呃,看到他们年初的时候就在推出法律和金融甚至医疗这几块的应用。

[01:34:45 - 01:34:55] 黎明:他在搞专门的这个领域的模型啊,然后找这些,就你你这个跟踪的思路是对的,就是没钱。

[01:34:51 - 01:34:52] 芝麻变西瓜:模型啊。

[01:34:56 - 01:35:05] 黎明:得解决这些问题,客户的问题来搞钱,你们别自己搞了,我直接给你搞,你给我钱<笑声>。

[01:35:02 - 01:35:10] 芝麻变西瓜:对啊,就是程序员的付费能力有限,但是金融行业还是大户,能能够产生比较多的收入。

[01:35:09 - 01:35:39] 黎明:程序员如果让自己付费,其实主流的还是要公司付费,结果发现公司不买单了,这这这次才是主要的,公司不不为不向量买单了。所以为什么这这也是为什么我先把这个抛出来,本来是要这这这一站先讲数据的,那我们先从模型切进去了再看,因为才能发现数据的价值在哪?对你的子问题其实也提得很好,嗯!

[01:35:39 - 01:36:06] 芝麻变西瓜:他他那个最近呃,前段时间有一家公司嘛,就 OpenRouter 被收购了,他做的大概就是应该第第第 6 层左右吧,第 6 层左右的那个是我收收购价格还挺高的哦,其实不知道是不是说可能。等到行业规模更大之后,就这种某一层次就可以衍生出来一家比较有价值的公司,就现在大家都只能全做。

[01:36:04 - 01:36:14] 黎明:对对,每个环节都很出现,很有可能有价值的东西,包括在基础模型层。

[01:36:17 - 01:36:36] 芝麻变西瓜:之之前那个阿里的必选,他不是呃做阿里基础设施的吗?他创业开了一家公司,是做那个云计算厂上的,类似于降本增效这种调度,我看他现在已经转了转了,变成类似于 AI 基础设施的那个类似于降本增效帮他怎么能够最大化的利用算力?

[01:36:35 - 01:36:49] 黎明:是是的,这个你可以,如果是对这个方向想进一步延伸哈,你去搜一下 vLLM 啊,专门做这个推理引擎的。

[01:36:48 - 01:36:50] 芝麻变西瓜:vLLM.

[01:36:49 - 01:37:14] 黎明:就。vLLM 嗯。就是所有的模模型公司都要给这个公司充值,它的模型才能效率高啊<笑声>。做 infra 嗯。对。

[01:37:11 - 01:37:21] 芝麻变西瓜:好的,看英伟达也在各种收购能够在算力优化上的那种公司,好像叫 grok 还是叫啥?

[01:37:19 - 01:37:53] 黎明:这一轮最理解最理解这个模型的公司啊,最理解 AI 这个生意的公司是英伟达,其他的,我不知道他们理解到什么程度了哈,但是呢,可能都跟看大象一样,又或者能力边界覆盖不到。然后它除了英伟达之外,我觉得全球能排上号的应该是 DeepSeek。理解的很深。可以继续挖,还有没有问题?

[01:37:55 - 01:38:03] 芝麻变西瓜:呃,机会机。机会留给其他人,我先问这些,再问多了也也思考也那个消化不了。

[01:37:55 - 01:38:48] 黎明:挖的挖的对了,挖对路子了。嗯,我刚才我跟你说的这个,你这个几个问题其实还是经过思考的,都是好问题,你可以去挖每个环节就是你,然后挖着挖着你会给自己一个结论,嗯,其实算一下加在一起加总算一下都是大市场哈,没有小市场就这里面,目前因为早期嘛就是荒地阶段好,其他人有没有问题没问题,我们今天就结束。我们要守时哈,已经超了半个小时了。为什么斌哥每次都能问出好问题哈?大家思考一下。希望下次是你嗯!

[01:38:48 - 01:38:51] 树枝:那我问个问题啊!

[01:38:53 - 01:38:55] 黎明:啊,你问。

[01:38:56 - 01:40:09] 树枝:啊,我问一个问题啊,就是呃,最近吧也有一个现在不都是在 agent 层嘛,包括大模型公司啊,那,呃,当然这个数据我不确定它是不是对的,但是我自己实操可能是可能存在这件事情,就是,呃,如果是单独一个模型去处理一个问题,和我根据各个模型的特性,然后我做一个智能路由的编排,也就是九头蛇理论吧,就是说我可能用四五个模型或两三个模型组合起来。然后处理一个问题的效率可能比单一用一个更贵的模型的效率要高,甚至效果要更好。当然这里面肯定也有一些经验的框架在里面,那如果从这个角度上来讲的话,那就不存在一个非常牛逼的模型,它能统治所有。那也就是说在这个里面是不是有一个非常大的一个机会,就是在 AI 平台的编排层或者就是中转站。但是呢它这种中转站不是单纯的卖 API。他他这个地方也上了一些智能路由,或者他他也有一些。它的一些技术因为模型本身是智力,但智力有一个特性。

[01:40:06 - 01:40:21] 黎明:不是不是 OpenRouter 就干的这个事儿啊?斌哥刚才问的就是这个问题啊。OpenRouter 可以帮你去自自动自动匹配模型啊,然后包括你现在用的各种的 worker,它是不是帮你有个 worker 模式啊,auto 模式?

[01:40:14 - 01:40:16] 树枝:啊不不还是不一样。

[01:40:22 - 01:40:24] 黎明:他就是在帮你做这个事情啊!

[01:40:25 - 01:40:33] 树枝:呃,不是这个不完全一样,不完全一样,就这个这个地方做了一个测试,就是说。

[01:40:31 - 01:41:09] 黎明:一样的,你可以好好研究一下,你就知道了,每家 token play 它都背后这个 auto 模式是在帮你做调度,嗯,你去打开,我看最明显的就是我觉得字节这个 auto 做的比较好哈,可以看一下。然后你这个放大了嘛,就是说到全球的模型嘛,你你像这种卖 token play 的,或者我什么 coding play 的都在做这个事情。OpenRouter 之所以卖这么贵,被因为被那个收是就是因为他做这个事儿,你说一个卖 API 的,他妈他值什么钱?

[01:40:57 - 01:41:02] 树枝:呃,他不呃,那我可能现在不知道怎么去行。

[01:41:10 - 01:41:29] 黎明:还有就是它背后那个数据啊?理解吧,做做做模型分发的,其实含含金量就在这儿,他理解他理解很多问题,理解问题之后他可以转做转发路由啊,帮你去匹配。

[01:41:22 - 01:41:37] 树枝:呃,或或者再往下。呃,或者说有一个调度模型的模型吧,可能是这么说,因为现在这个路由。还是。

[01:41:31 - 01:42:25] 黎明:做分发。那个 auto 就是就是调度模型的模型,就是先理解你的问题,然后再去帮你去匹配合适的模型,你是生视频的模型还是生图的模型?生文本的模型?然后以及你的问题是科学问题还是编程问题?你怎么。就是那个 auto 包括 Cursor 它也也是这个能力。呃 Cursor 是接了全球所有的模型的能力,它帮你去自动匹配。他现在有个能力是帮你自动根据问题自动匹配模型。嗯,就是你的那个说呃,可能是每个模型的长板不一样,所以做最佳组合,然后可能得出的结论是比单模型更好嘛,对吧?

[01:42:24 - 01:42:25] 树枝:对。

[01:42:25 - 01:42:44] 黎明:嗯对对对。现在都在解决,不然的话你 OpenRouter 怎么可能卖这么贵呢?因为 OpenRouter 知道每个模型的调用量跟都在用这个模型干什么是?Ok.

[01:42:50 - 01:43:32] 黎明:你跟斌哥那个问题其实是只是不一样的表现形式是一个问题。好,应该没人问了哈,没人问了就群里面问,然后群里面我看见好问题大家就一起回答,然后争取你能提出好问题是很很重要的,你看那个数字跟斌哥提出的这这几个问题都可以。都能。具有代表性。嗯,好,我们不超时啊,争取,但已已经超了半个小时,待会儿又有人骂我了<笑声>嗯,行。这节课我们就结束了,拜拜!

[01:43:33 - 01:43:43] 黎明:哦,说一下啊,那个说一下那个,如果要你们要看回放的哈,就集中时间哈,不要过他这过两天一个过两天一个是吧?

学习委员维护 · 纸感阅读 v2 · 返回 投资目录 · 不构成投资建议