人工智能chatgpt发展的瓶颈是什么 4万字告诉你ChatGPT到底是什么(下)

AI资讯1年前 (2023)发布 fengdao
24 0

中美在人工智能领域的竞争焦点与差距,主要体现在以下几个方面:

5.2.1 AI芯片方面的竞争

中美在人工智能领域的竞争首先是超级计算机方面,更具体来说,就是计算机的芯片之争,其中包括AI芯片引进与我国自主开发两个方面。

AI芯片引进方面:自从2022年10月美国更新了限制对华出口的管制条例,宣布将全面限制向中国出口超级计算机领域的芯片,将特定高性能芯片、高性能计算芯片加入了商业管制清单。其中就包括AI最主要的英伟达A100和H100系列以及AMD的等高性能人工智能芯片。

在以为代表的生成类AI大模型中,对于AI芯片的要求更高,包括要求更高速的内存带宽、更大的内存容量以及更加高效的数据通信带宽。以的-3.5模型训练为例,微软公司专门为Open AI 开发了一款定制的超级计算机,使用了上万颗英伟达A100的AI芯片。

在集成电路芯片加工领域,世界排名第一的台积电已经可以生产3纳米的芯片,目前中国芯片制造排名第一的中芯国际,生产14纳米的芯片,差距十分明显,而且这种差距可能在相当一段时间内依然存在,并且有被拉开的可能性。

人工智能三大瓶颈_人工智能瓶颈期_人工智能chatgpt发展的瓶颈是什么

这是个残酷的事实,也激励我们需举全国之力缩小在芯片制造领域的差距,否则包括人工智能在内的其他高科技发展都将受到很大的制约。

5.2.2 美国对华出口AI芯片速率方面的限制

-3模型的预训练使用了大量分布式计算技术,不仅会使用本公司的物理服务器和数据中心,同时也会使用微软位于华盛顿凤凰城、德州圣安东尼等多个异地的超算中心。然后将结果同步到自己的计算机上,以达到加速训练和提高模型性能。

-3模型参数量非常大,往往达到上万亿个参数,需要使用大量分布式计算技术计算作为支持,每个训练节点需要和其他节点之间进行高速的数据传输和协同计算。因此AI芯片的高速互联的性能指标,对于人工智能大模型的训练将会起到一个至关重要的作用。

美国政府对华出口的英伟达公司AI芯片输出速率加以了严格限制,明确提到了要限制600GP/秒互联宽带以上的AI芯片的出口。英伟达公司因此为了继续向中国出口AI芯片,赚取利润的同时又不违反美国政府的管制要求,向中国提供特供版的A800芯片,用于替代A100芯片。据查英伟达官网,表明A800的高速互联通信速率降为了400GB/秒,而美国本土使用的A100产品的高速互联通信速率为600GB/秒,这种降级指标会对AI系统的性能造成很大的影响。

5.2.3 芯片加工阻碍了我们的进步

AI芯片的加工是体现芯片性能的一个重要方面,目前英伟达A100芯片是采用台积电7纳米工艺制作完成,而M1250采用的是台积电6纳米工艺,最新的英伟达H100采用的则是台积电的4纳米工艺,第四代的 GPU之间的传输速率达到了900GB每秒。美国政府有预谋地限制对华出口AI芯片,就是利用技术手段有针对性遏制我国人工智能和大模型训练模型的步伐,保证美国始终处于人工智能发展的制高点,其他国家只能跟随其后。

© 版权声明

相关文章

暂无评论

暂无评论...