来源:硬AI
美东韶光7月29日周一,在美国丹佛市举行的打算机图形学和交互技能年度大会和展会SIGGRAPH 2024上,英伟达亮出新工具。
英伟达CEO黄仁勋在SIGGRAPH 2024透露,本周英伟达发送Blackwell架构的样品,这是今年首发的新款芯片架构。同时,英伟达公布了一系列软件更新,紧张涉及用于优化人工智能(AI)推理的云原生微做事——Nvidia inference micro service(NIM),推动企业大规模支配AI模型。

今年3月英伟达推出NIM时先容,NIM供应经由优化的推理微做事,旨在缩短上市韶光,并简化天生式 AI 模型在云、数据中央和 GPU 加速事情站的任何位置的支配。NIM 支持跨多个领域的 AI 用例,包括大措辞模型 (LLM)、视觉措辞模型 (VLM),以及用于语音、图像、***、3D、药物研发、医学成像等的模型。
开拓者可以利用英伟达托管的云API测试新的天生式 AI 模型,或者通过*** NIM 来自行托管模型,并在紧张云供应商或本地利用 Kubernetes 快速支配,从而减少开拓韶光、繁芜性和本钱。NIM微做事通过打包算法、系统和运行时优化并添加行业标准 API 来简化 AI 模型支配流程。这使开拓者能够将 NIM 集成到其现有运用程序App和根本举动步伐中,无需大量定制或专业知识。
本周一英伟达宣告的更新扩大了NIM推理微做事库,涵盖了物质天下环境、高等视觉建模和各种垂直运用。英伟达已在预览版中供应了约 100项NIM推理微做事,现在要发布完全版本。比如,作为英伟达的部分新NIM,视觉媒体公司Getty Images Holdings的4K图像天生API和图像、影片、音乐等数字内容供应商Shutterstock Inc. 的3D图像天生器即将上线。两者都利用英伟达的Nvidia Edify,它是一种用于视觉天生 AI 的多模式架构。
英伟达同日宣告,与自然措辞处理(NLP)工具集和平台Hugging Face互助,推出了推理即做事,帮助开拓职员利用托管在 Hugging Face Hub 上的开源AI模型快速制作原型,并将其支配莅临盆中。评论称,这一互助将简化开拓者的AI模型支配。
fVDB利用现实天下3D数据打造空间智能
本周一英伟达推出fVDB,利用现实天下的3D数据,打造空间智能。英伟达称,天生式物质AI模型可以理解并实行物质天下中风雅或粗大动作技能的操作。理解物质天下的三维空间并在个中导航须要空间智能。为了给这种AI供应一个能够处理现实规模的强大、连贯的框架,英伟达打造了fVDB,这是一个专为稀疏、大规模和高性能空间智能而设计的深度学习框架。
fVDB建立在OpenVDB上,OpenVDB 是一个行业标准的构造和程序库,用于仿照和渲染水、火、烟和云等稀疏体积数据。fVDB 供应的空间规模因此前框架的四倍,性能因此前框架的 3.5 倍,并且可以访问大量现实天下数据集。它通过组合以前须要多个深度学习库的功能来简化流程。
开源模块化框架Isaac Lab供应仿照 加快机器人学习
英伟达同时推出Isaac Lab,它是一个用于机器人学习的开源模块化框架,可以办理传统演习方法对机器人学习技能的限定。
Isaac Lab 为不同的演习环境供应模块化的高保真仿照,供应物质天下AI功能和 GPU 驱动的物质天下仿照。
Isaac Lab 支持模拟学习(模拟人类)和强化学习(通过反复试验学习),为任何机器人实现供应灵巧的演习方法。它为演习场景供应了一个用户友好的环境,可帮助机器人制造商根据不断变革的业务需求添加或更新机器人技能。
用英伟达NIM和VIA微做事打造VLM 驱动的视觉AI代理
英伟达为物质天下的AI量身定制了NIM,支持语音和翻译、视觉以及逼真的动画和行为。英伟达推出VIA微做事,现已可在开拓者预览版中***。
VIA微做事可以轻松与NIM集成,用户可以在英伟达的模型预览API和可***NIM微做事API目录中灵巧利用任何LLM或VLM模型。VIA微做事是英伟达Metropolis微做事的扩展,是云原生构建块,可加快VLM和NIM驱动的视觉AI代理开拓速率,无论支配在边缘还是云端。
借助天生式 AI、NIM微做事和根本模型,现在用户可以用更少的模型,构建具有广泛感知和丰富高下文理解的App。VLM支持能够理解自然措辞提示并实行视觉问答的视觉 AI 代理。视觉AI代理利用打算机视觉功能来感知物质天下并与其交互、实行推理任务。
这些代理能充分开释了各行各业运用的可能性,它们能显著简化App开拓的事情流程,并供应了变革性的新感知功能,例如图像或***择要、交互式视觉问答和视觉警报。这些视觉AI代理将可以支配在工厂、仓库、零售店、机场、交通路口等地,将帮助运营团队利用自然互动中产生的更丰富见地,做出更好的决策。
Omniverse Replicator帮助办理限定模型演习的数据短缺问题
英伟达先容了如何用NIM微做事为USD建立自定义合成数据天生 (SDG) 管道,该微做事采取了英伟达的Omniverse Replicator。Omniverse Replicator是基于通用场景描述 (OpenUSD) 和英伟达RTX构建的 SDK。
开拓职员可以利用 NIM微做事和 Omniverse Replicator 等来构建支持天生式AI 的SDG管道,办理常日会限定模型演习的现实天下数据短缺问题。
英伟达的Omniverse和仿照技能副总裁 Rev Lebaredian 说:
“我们构建了天下上第一个能够理解基于OpenUSD的措辞、几何、材料、物理和空间的天生式AI模型。”
Lebaredian称,2016 年以来,英伟达一贯在投资OpenUSD,使工业企业和物质AI开拓职员能够更轻松、更快地开拓高性能模型。
英伟达还与共同创立了OpenUSD同盟的苹果互助,构建了从英伟达由图形就绪数据中央组成的网络——Graphics Delivery Network、到苹果Apple Vision Pro在内的稠浊渲染管道流。
本文来自华尔街见闻,欢迎***APP查看更多