ai软件如何升级 Nvidia升级AI软件平台提升语音、推荐系统和推理能力

AI资讯10个月前发布 fengdao
34 0

英伟达按宣布,将对 AI和 AI 平台进行重大升级,新功能旨在推进语音、推荐系统、超大规模推理等工作负载。

英伟达在今天举行的 GTC 2022上公布了这一消息,与此同时还推出了新的AI 加速计划,旨在保障使用该平台构建AI应用的性能和可靠性。

这款AI平台是一套工具,其中包括了软件开发套件和AI框架,让开发人员可以使用这些工具跨多个节点进行AI设计、部署、管理和扩展,以支持复杂的训练、推理和机器学习工作负载。

升级软件英文_升级软件会占用更多的内存吗_ai软件如何升级

该平台的一个关键组件是 ,一个开源的超大规模模型推理解决方案,现在包括了一个模型导航器,可帮助加速优化AI模型的部署,以及一个用于在中有效扩展的管理服务,以及一个 用于实现推理树模型。

另一个关键组件 Riva 2.0已经进行了更新。英伟达表示,Riva是一个语音AI SDK,其中包括了各种具有高识别率的预训练模型,准确性是通用语音识别服务的2倍。最新版本提供了对7种语言的语音识别功能,针对男性和女性声音的、基于深度学习的文本到语音转换功能,以及使用 TAO工具包进行自定义调整的功能。

该平台还配备了最新版本的 NeMo 0.9,一个用于训练大型语言模型的框架,以及 1.0,一个全新的组件,英伟达称之为“端到端推荐框架”,用于构建高性能推荐系统。最后, AI现在还配备了 ,一种音频和视频质量增强软件开发套件,可实现与AI的实时通信。

英伟达表示, AI平台从今天开始可供使用,目前多家知名客户正在使用该平台,其中包括Snap。

ai软件如何升级_升级软件会占用更多的内存吗_升级软件英文

Snap对话式AI负责人Alan 表示:“在上,我们的社区每天使用的次数超过60亿次。Snap正在使用 Riva优化我们基于AI的语音功能,并将其提供给Lens 创作者,以打造新一代引人入胜的AR体验。”

AI (即 AI平台的企业级版本)方面,英伟达表示,现在该版本已经针对所有主流数据中心和云基础设施平台进行了优化、认证和支持。Red Hat 和 with Tanzu现在支持最新版本的 2.0。

此外, AI 2.0增加了对更多AI软件容器的支持,以增强训练和推理能力,例如支持 TAO ,让开发人员能够微调预训练的AI模型,更轻松地对其进行定制,即使是在他们缺乏AI或训练数据方面专业知识的情况下。

英伟达表示,最新版本的 AI 已经被日本电报电话公司的子公司NTT 采用,用于加速自然语言处理和智能视频分析应用的研发,已经取得了良好的效果。

NTT 创新中心技术部门总监 Henmi表示:“我们有很多应用开发人员现在都在使用加速计算,并且需要一个内部基础设施来提供易于使用的、经济高效的、支持GPU的环境。我们相信 AI 将提供一个理想的解决方案,作为支持AI的平台支持我们的 、和云基础架构的大规模开发。”

© 版权声明

相关文章

暂无评论

暂无评论...