chatgpt部署到个人服务器 【上海汇正财经】AI时代,算力需求紧张

AI资讯9个月前发布 fengdao
16 0

1、算力需求紧张,计算资源稀缺性体现

不支持Plus付费原因很简单:。即需求量太大,以至于不得不暂停Plus的销售。在此之前,微软被爆曾专门为砸下数亿美元,打造了一台由上万张英伟达A100组成的专用超算,甚至还专门为此调整了服务器架构,只为给和新必应提供更好的算力。不仅如此,微软还在Azure的60多个数据中心部署了几十万张GPU,用于的推理。即使消耗数亿美元打造的计算资源,仍然不足以支撑持续的运行,算力资源稀缺性体现。

2、GPT持续迭代过程中,算力需求或将持续增长

现阶段的是在拥有3000亿个单词的语料基础上预训练拥有1750亿参数的模型,而GPT4官方资料没有讲模型参数和数据规模,没有讲任何技术原理,但GPT4模型输入更长,可以处理文字输入长度增加到3.2万个token,约25000字文本,同时智能程度大幅跃迁,可以接受图片输入。可以看到GPT模型在持续迭代过程中,能力持续增强,所需要的算力需求也或将持续增长。

3、AI服务器作为算力基础设备有望受益于算力需求持续增长

AI服务器作为算力基础设备,其需求有望受益于AI时代下对于算力不断提升的需求而快速增长。根据电子发烧友公众号,AI服务器是异构服务器,可以根据应用范围采用不同的组合方式,如CPU+GPU、CPU+TPU、CPU+其他加速卡等。IDC预计,中国AI服务器2021年的市场规模为57亿美元,同比增长61.6%,到2025年市场规模将增长到109亿美元,CAGR为17.5%。

部署服务器什么意思_部署服务器的步骤_chatgpt部署到个人服务器

相关标的:中兴通讯、紫光股份(与计算机团队联合覆盖),锐捷网络。

4、AI带动带宽提升,促进光通信迭代升级需求增长

在2022年OCP峰会上,Nvida的提出AI计算需要的网络带宽将面临32倍的提升,这也将带动光通信如光模块、光芯片等的迭代,以及应用需求。

相关标的:①光模块:中际旭创、新易盛、天孚通信,博创科技等②光芯片:源杰科技(与电子团队联合覆盖)仕佳光子、长光华芯③光纤光缆&光模块:亨通光电、中天科技。

5、算力基础设施底座,IDC向高功率液冷机柜升级

基于CPU+GPU的异构计算平台可以优势互补,GPU重点处理数据密集型的并行计算程序。但同时功耗将明显提升,以的

部署服务器什么意思_部署服务器的步骤_chatgpt部署到个人服务器

为例,系统功耗达到最大6.5千瓦,带来数据中心机柜功率的大幅提升,同时也带来液冷应用需求。

相关标的:润泽科技(与机械团队联合覆盖)、奥飞数据(与计算机团队联合覆盖)、科华数据(与电新团队联合覆盖)、润建股份、光环新网等。

参考资料:

2023年4月11日 天风证券 《AI时代下算力资源稀缺性凸显,重点关注算力基础设备领域投资机遇》

风险警示:

市场有风险,投资需谨慎。上海汇正财经顾问有限公司是证监会批准的证券投资咨询公司, 组织机构代码统一信用码为,本公司是具有证券投资咨询资格证书,是合法的证券咨询平台。本文仅为投资者教育使用,不构成任何投资建议,投资者据此操作,风险自担。力求本文所涉信息准确可靠,但并不对其准确性、完整性和及时性做出任何保证,对投资者据此进行投资所造成的一切损失不承担任何责任。

© 版权声明

相关文章

暂无评论

暂无评论...