白交 发自 凹非寺
量子位 | 公众号
国内玩家如火如荼入局，其在各行业出圈也有目共睹。
但具体什么时候能上岗尚且还不明晰，尤其像一些艰深、壁垒性高的行业，比如医疗。
现在，一位哈佛医学院教授，就亲自下场测试的表现。
结果显示，它在45个案例中的39个诊断正确，正确率87%（超过了现有机器诊断率的51%）；并为30个案例提供了适当的分诊建议。
他表示，辅助诊断的表现，已经接近医生。既然如此，那什么时候可以上岗？
事实上，这也是目前国内大多数玩家所面临的问题：红利在此，如何率先吃掉？
此前我们也系统性地梳理过复刻中国版背后的技术与生态难度，显然不是短期就可以实现的。
现在已经衍生出来一种新思路：直接打造行业垂直版。
这种方式是否可行？
打造行业版可行吗？
的打造，技术核心绕不开算力、数据和算法三要素。
算力方面，背靠微软这头奶牛——拥有28.5万个CPU核心、1万个英伟达V100 GPU，光是训练一个GPT-3，费用就高达460万美元；数据上，GPT系列几经迭代优化，一度惊艳众人的GPT-3就有1750亿参数，而上一版本GPT-2只有15亿参数；算法自然也有多年深厚的积累，否则也不能出现“类人”自主学习特征，而且进一步展现出快速适应多领域、多场景的能力。
再加上生态反哺技术，形成迭代闭环。自GPT-3开始就以开放接口的形式，构建起了专属“GPT生态”。据网站统计，目前已有656个调用GPT-3系列模型开发的应用程序。
这样的技术与生态壁垒，决定了复刻并非那么容易。既然如此，垂直版的解决思路也开始在行业中探讨。
首先从技术上来看，他们的核心挑战主要在于以更少的参数，比如以百亿规模参数量，在垂直领域的任务达到或超过的效果。
这可能比复现更难，因为参数数量要小很多，不能仅仅依赖“暴力美学”，还要有高超的模型设计和压缩技巧。
另外一个挑战是数据来源的不同。
像谷歌、微软他们其实有天然的通用数据来源，但专用数据积累不能跟垂直玩家相比。
尤其像医疗等民生行业，专业性强覆盖面广，所需的高质量数据可能并不比小，且大部分数据不是网上可以抓取的。
但对多年深根于此的垂直玩家来说，他们早已构筑起自己的产业生态，有丰富的行业数据和知识积累，为复现奠定了必要的基础。
而且从价值需求来看，垂直行业所代表的价值是实实在在的。像医疗本身需求就不小，一旦落地医疗，所代表的社会价值很大。
以往用户们会习惯性使用的用搜索、APP来帮助诊断自己的疾病，但往往可能收效甚微。
哈佛医学院教授Ateev 曾测试，现有的在线诊断器平均正确率仅在51%，而则有87%，因此他认为有可能成为医疗诊断的游戏规则改变者。
为了加速应用落地，从技术难度、价值需求等维度看，打造垂直版是可行的。
而现在国内有AI玩家，已经在这样做了。
云知声行业版
最新曝光的进展，智能语音赛道独角兽云知声正在推进行业版的建设——
以医疗作为切入口，构建医疗行业版，同时基于行业版构建平台，快速扩展到其他领域，再利用领域模型集成MoE（ of ）技术，训练得到通用模型。
而这种从专用到通用的思路。其实是云知声一贯的“U+X“做法。在这里，“U”指的通用大模型算法研发及高效训练底座平台；“X”则是应用于多个行业领域的专用大模型版本。
事实上这也正在成为不少企业入局的思路，这样一来，可以利用已有的专用数据优势。
不过也不是那么容易走的，更何况云知声选择的，还是对生成内容质量要求更高的医疗行业作为切入口。
最首要的难题，是要提高医疗知识的可靠程度。最擅长的，就是一本正经地胡说八道。放在现在Bing上聊天搜索、内容生产其实问题不大，用户们也乐在其中。
但应用在行业中，往往让非专业人士难以察觉，这会引发各种风险。因此行业版要杜绝一切胡说八道，尤其像医疗、教育、工业等行业，内容生成要求极高容错率很低，也对数据的质量要求也就更高了。
其次，就是实现行业中的“性价比”。任何一项技术能够大规模落地，都必须要解决「如何以有限的资源，实现效果的最大化」问题。
这也是行业落地的必经之路——模型能以更小的参数规模，达到与同样的效果。这也就给这些企业带来了不小难题。
事实上，云知声也坦言，行业版的参数可能也需要达到百亿量级规模，要做出效果并实现规模化应用挑战也不小。
从某种程度上说，打造行业版的比现在通用的还要更难，但到真正行业落地时，这些问题又都必须得解决。概括来说，就是实现工程化能力。
这是每个躬身入局者，绕不开但必须得过的路。
在此基础上，毫无疑问的是，云知声的选择更难——医疗作为切入口。这是始终被认为是行业壁垒高、专业性强、技术难度制高点的领域，也是为什么相较于其他行业的盛况，医疗AI玩家就显得少之又少的原因。
但一旦将医疗版打通，那么其他领域的实现，包括最后的通用大模型也就事半功倍了。
作为成立于2012年的AI公司，他们一直密切关注AI前沿技术，并积极推动技术产业化应用，包括2012年的深度学习算法升级和产业化应用，到2016年Atlas超算平台、知识图谱和全栈AI技术应用，到现在基于框架的AGI认知技术升级。
同时，在医疗行业有近10年深耕，积累的行业知识、数据和应用，还获得了2019年北京市科技进步一等奖。
在回应是否有信心打造行业版时，云知声方面表示：完全有信心。
前面总结，打造离不开高质量的数据，领先的算法和充分的算力。而对于垂直版还需要更深厚的工程化能力。
从这几方面来看，云知声的确具有行业参考性。
数据方面，近10年来云知声积累了全方位的行业数据，包括面向患者的导诊、预问诊、患者教育和随访系统，也有面向临床的语音病历，病历质控，单病种质控和医疗风险管理系统，已有近400家医院落地使用。据称数据规模已达到了5T，为医疗行业语言大模型提供数据基础。
算法方面，而所代表的认知智能，本身就是云知声核心技术优势。他们构建了国内最大的医疗知识图谱之一。从2019年至2022年，云知声的认知智能技术在国内外相关评测中荣获7冠5亚。其自主研发的医疗预训练语言模型一度登顶中文医疗信息处理挑战榜榜首。
在算力上，云知声超算平台浮点计算能力可达8亿亿次/秒,可为千亿级参数规模模型提供算力保障。
而在大模型工程化方面，云知声已经研发了模型，复现了GPT-2模型，并利用模型压缩和知识蒸馏机制，实现了线上推理效率的近百倍加速，为大模型的广泛应用奠定了基础。
此外作为行业版，内容质量保障也是关键一环。
云知声给出的解决方案是，利用应用在的持续学习和知识嵌入技术，基于已有知识图谱积累，优化模型的知识获取和更新机制。
据介绍，这样一来可以保证回答中的知识正确性，与此同时还可以给出知识溯源信息。
另外，利用云知声业内领先的病历质控技术，可以自动发现生成的病历中的问题，进而自动生成作为核心技术的基于人类反馈的强化学习（RLHF， from Human ）所需的用户反馈数据，加速模型的优化。
谁最先吃掉红利？
最后回到事件本身，此前论及对行业的价值，都是从宏观上的产业生态和模式创新上谈，比如对人机交互、信息分发、内容生产等方面。
如今随着越来越多的垂直企业入局，对企业的意义也呼之欲出——一种全新AGI的技术范式选择：基于“大规模通用基础模型+轻量级行业应用优化”的行业知识整合和问题解决方法。
以往这些场景玩家，对于AI的探索可能处于“看山是山、看山不是山”的懵懂状态，现在出现了一座“更小，而且明知会有路的山”。
所表现出来的“智能”，给他们带来了一种明确的技术方向。
云知声CEO黄伟也深有体会，甚至于相较于，他认为所带来的影响要深厚得多，相当于一场新的“工业革命”。
这场革命最大的优势是，通过自监督注意力机制，能够充分利用海量无监督数据训练通用基础模型，并将感知、认知与生成，用统一框架实现“端到端”的整合，直接从高质量生成结果上去呈现机器智能。机器采取的人工引导的数据驱动学习方法，与人类的逻辑思维方式是完全不一样的，类似飞机所采用的喷气式“空气动力学”机制，与鸟类采取的“扇动翅膀”方式完全不同。
不管是对整个产业，还是单个企业而言，所带来的价值确实让他们不跟不行。
尤其对于一些场景玩家来说，他们还是最有可能吃掉红利的一拨人。
他们有场景有数据、有深厚的行业壁垒，一旦具备能力，就可以率先在行业落地。这是其他玩家所不能及的先发优势。
上一次AI浪潮来袭时，最终也是场景玩家率先吃掉AI红利。只不过现在是直接以技术路径出现，落地速度自然要比以往快得多。
云知声CEO黄伟也给出了个明确的时间点：
年内就会实现成功应用落地的方案。
