大语言模型：被吹上天的泡沫，还是即将落地的产业革命？
我上个月在深圳见了一位做了十年To B企业服务的老朋友，他掏出手机给我看他们公司最新的内部效率报表。
去年下半年上线大模型辅助工具之后，文案、客服、初级需求梳理这三块的人力成本，硬生生降了37%。
但他话锋一转，说现在还是离不开人——大模型生成的东西，总有10%到20%的错漏，必须有人最后把一道关。
这就是大语言模型最真实的现状。一半是海水，一半是火焰。
大语言模型的核心原理，说穿了就是一句话：根据前面的所有文字，预测下一个出现概率最高的字。
它靠Transformer架构解决了长文本的注意力问题，靠堆参数、喂海量语料训练出了概率分布，本质上还是个超级大力出奇迹的“概率拼接工”。它根本不理解你说的话是什么意思，只是见得太多了，能拼出让你觉得“它好聪明”的输出。
大语言模型Transformer架构示意图
现在行业里都公认，参数堆叠的边际递减效应已经非常明显了。从百亿到千亿，效果提升确实很大，但是从千亿到万亿，砸进去几倍的训练成本，用户感知到的提升可能不到10%。训练一次千亿级模型，烧掉的钱够给一千个程序员开一年工资，这种玩法，不是头部互联网或者国家队根本玩不起。
技术边界早就摆在这了。最近一两年基础架构没有革命性的突破，所有的进展都是工程层面的优化，挖不出什么天降惊喜。谁再跟你说“万亿参数就是AGI”，那十有八九是骗融资的。
最早跑通的是代码辅助开发。GitHub Copilot已经成了大半一线程序员的装机必备，能帮你补全代码、查bug，至少能提升15%的开发效率，每个月十块钱的订阅费，没人觉得贵。
然后是企业内部知识库问答。之前企业要找个制度、找个产品参数，得翻半天文档，问行政问部门，现在把所有内部文档喂给微调过的大模型，员工直接问，几十秒就能出准确答案，光是节省的沟通时间，一年就能给大公司省出几百万人力成本。
还有药企的靶点筛选、法律行业的文书检索、制造业的工艺参数优化，这些垂直场景里，大模型已经实实在在开始干活了。我上个月接触到一个做临床实验文书的团队，原来整理一份实验报告要三个律师加两个医生花一周，现在大模型预处理完，人只需要改半天，效率提了十倍都不止。
企业私有化大语言模型部署流程图
不过话说回来，落地的坑真的不少。很多企业跟风上大项目，钱花了几千万，最后拿出来的东西根本用不了。最大的两个坎，一个是数据安全，你把公司核心的客户数据、技术文档喂给公网大模型，等于把命门递给别人，谁敢？所以现在私有化部署的需求暴涨，但是成本又上去了，中小企业扛不住。另一个是微调门槛，要让大模型适配你的具体业务，得有专业的算法团队调参数，喂标注好的垂直数据，这一套下来，没有大几十万根本拿不下来，很多小公司试完水就放弃了。
未来三年，淘汰赛已经鸣枪开跑
现在国内发出来的大语言模型快上百个了吧？一半以上都喊着要做通用大模型，要对标ChatGPT。我敢说，三年之后，能活下来的通用大模型，不会超过五个。这个行业就是典型的赢者通吃，拼钱拼数据拼生态，中小玩家根本玩不起。
剩下的机会全在垂直领域。做法律就深耕法律文书，做医疗就深耕临床数据，做电商就深耕商品文案和客服，只要你在一个场景里比通用模型准确率高20%，价格还便宜一半，就有得赚。
风险也不能不提。现在大语言模型带来的问题，已经从实验室走到普通人身边了。AI深度诈骗已经不是新闻，去年我老家一个开厂的亲戚，差点被AI换脸冒充他好友骗走两百万，要不是银行柜员拦着，钱早就转出去了。生成内容的版权至今说不清楚，用训练数据出来的内容申请专利，到底算谁的？法院现在都没有统一的判法。
治理也跟不上。现在各家模型的接口不统一，标准不一样，企业今天用这家，明天想换那家，所有对接都要重来，折腾一次就是几十万成本。行业统一标准快出了，但是出来之后也要好几年才能理顺。 我对未来三到五年的判断很简单：泡沫一定会破，但是真正有价值的落地会留下来。就像2000年的互联网泡沫，破了之后死掉了一大批蹭热点的公司，剩下的亚马逊、谷歌改变了整个世界。现在的大语言模型也是一样，那些天天喊着AGI、喊着颠覆世界的公司，大部分都会死掉，但是那些安安静静帮企业降本增效、在一个个垂直场景解决实际问题的玩家，最后会把这个行业做起来。
我现在跟人聊大模型，从来不问你参数有多大，只问一个问题：你这个东西，帮客户真金白银省了多少钱，赚了多少钱？
答不上来的，都是炒概念。
去年下半年上线大模型辅助工具之后，文案、客服、初级需求梳理这三块的人力成本，硬生生降了37%。
但他话锋一转，说现在还是离不开人——大模型生成的东西，总有10%到20%的错漏，必须有人最后把一道关。
这就是大语言模型最真实的现状。一半是海水，一半是火焰。
别神话Transformer，大语言模型的核心逻辑其实很“笨”
很多人听到大语言模型这几个字，就觉得它已经接近通用人工智能了，好像再过两年就要取代人类上班了。说实话，哪有那么神。大语言模型的核心原理，说穿了就是一句话：根据前面的所有文字，预测下一个出现概率最高的字。
它靠Transformer架构解决了长文本的注意力问题，靠堆参数、喂海量语料训练出了概率分布，本质上还是个超级大力出奇迹的“概率拼接工”。它根本不理解你说的话是什么意思，只是见得太多了，能拼出让你觉得“它好聪明”的输出。
大语言模型Transformer架构示意图
现在行业里都公认，参数堆叠的边际递减效应已经非常明显了。从百亿到千亿，效果提升确实很大，但是从千亿到万亿，砸进去几倍的训练成本，用户感知到的提升可能不到10%。训练一次千亿级模型，烧掉的钱够给一千个程序员开一年工资，这种玩法，不是头部互联网或者国家队根本玩不起。技术边界早就摆在这了。最近一两年基础架构没有革命性的突破，所有的进展都是工程层面的优化，挖不出什么天降惊喜。谁再跟你说“万亿参数就是AGI”，那十有八九是骗融资的。
真正赚钱的落地场景，根本不是网红聊天机器人
外界关注的都是ChatGPT、文心一言这类C端聊天机器人，好像大语言模型就是用来陪人聊天写文案的。其实呢，现在真正能赚到钱、跑通商业闭环的落地，都在B端和产业端。最早跑通的是代码辅助开发。GitHub Copilot已经成了大半一线程序员的装机必备，能帮你补全代码、查bug，至少能提升15%的开发效率，每个月十块钱的订阅费，没人觉得贵。
然后是企业内部知识库问答。之前企业要找个制度、找个产品参数，得翻半天文档，问行政问部门，现在把所有内部文档喂给微调过的大模型，员工直接问，几十秒就能出准确答案，光是节省的沟通时间，一年就能给大公司省出几百万人力成本。
还有药企的靶点筛选、法律行业的文书检索、制造业的工艺参数优化，这些垂直场景里，大模型已经实实在在开始干活了。我上个月接触到一个做临床实验文书的团队，原来整理一份实验报告要三个律师加两个医生花一周，现在大模型预处理完，人只需要改半天，效率提了十倍都不止。
企业私有化大语言模型部署流程图
不过话说回来，落地的坑真的不少。很多企业跟风上大项目，钱花了几千万，最后拿出来的东西根本用不了。最大的两个坎，一个是数据安全，你把公司核心的客户数据、技术文档喂给公网大模型，等于把命门递给别人，谁敢？所以现在私有化部署的需求暴涨，但是成本又上去了，中小企业扛不住。另一个是微调门槛，要让大模型适配你的具体业务，得有专业的算法团队调参数，喂标注好的垂直数据，这一套下来，没有大几十万根本拿不下来，很多小公司试完水就放弃了。
未来三年，淘汰赛已经鸣枪开跑
未来三年，淘汰赛已经鸣枪开跑
现在国内发出来的大语言模型快上百个了吧？一半以上都喊着要做通用大模型，要对标ChatGPT。我敢说，三年之后，能活下来的通用大模型，不会超过五个。这个行业就是典型的赢者通吃，拼钱拼数据拼生态，中小玩家根本玩不起。剩下的机会全在垂直领域。做法律就深耕法律文书，做医疗就深耕临床数据，做电商就深耕商品文案和客服，只要你在一个场景里比通用模型准确率高20%，价格还便宜一半，就有得赚。
风险也不能不提。现在大语言模型带来的问题，已经从实验室走到普通人身边了。AI深度诈骗已经不是新闻，去年我老家一个开厂的亲戚，差点被AI换脸冒充他好友骗走两百万，要不是银行柜员拦着，钱早就转出去了。生成内容的版权至今说不清楚，用训练数据出来的内容申请专利，到底算谁的？法院现在都没有统一的判法。
治理也跟不上。现在各家模型的接口不统一，标准不一样，企业今天用这家，明天想换那家，所有对接都要重来，折腾一次就是几十万成本。行业统一标准快出了，但是出来之后也要好几年才能理顺。 我对未来三到五年的判断很简单：泡沫一定会破，但是真正有价值的落地会留下来。就像2000年的互联网泡沫，破了之后死掉了一大批蹭热点的公司，剩下的亚马逊、谷歌改变了整个世界。现在的大语言模型也是一样，那些天天喊着AGI、喊着颠覆世界的公司，大部分都会死掉，但是那些安安静静帮企业降本增效、在一个个垂直场景解决实际问题的玩家，最后会把这个行业做起来。
我现在跟人聊大模型，从来不问你参数有多大，只问一个问题：你这个东西，帮客户真金白银省了多少钱，赚了多少钱？
答不上来的，都是炒概念。
