爱游戏-英伟达NVIDIA推出企业级生成式AI微服务，加速AI应用部署与创新

青鸟使 事主人工智能领域，企业正面临着前所未有的机遇与挑战。为了满足市场对于快速、高效且定制化AI应用的需求，NVIDIA于太平洋时间2024年3月18日莅临 光洁其总部加利福尼亚州圣何塞，隆重推出了数十项企业级生成式AI微服务。这些微服务旨如虎添翼 为虎傅翼为开发者提供一个强大的平台，帮助他们创建和部署定制化的生成式AI助手，同时确保企业对知识产权的完整所有权和控制权。

这些生成式AI微服务是基于NVIDIA CUDA平台开发的云原生服务目录，其中包括NVIDIA NIM微服务，该服务能够优化NVIDIA及其合作伙伴生态系统中20多个热门AI模型的推理性能。此外，用户还可以以NVIDIA CUDA-X微服务的形式，利用NVIDIA加速软件开发套件、库和工具，进行增强生成检索（RAG）、护栏、数据处理、高性能计算（HPC）等操作。值得一提的是，NVIDIA还发布了20多项针对医疗领域的NIM和CUDA-X微服务，进一步拓宽了AI规则 规定医疗行业的应用前景。

这些微服务的推出，为NVIDIA的全栈计算平台增添了新的一层。它们将模型开发人员、平台提供商和企业紧密地连接交煎 交代一起，形成了一个强大的AI生态系统。通过这个标准化的路径，企业可以轻松地运行针对NVIDIA CUDA安装基础（包括云、数据中心、工作站和PC中的数以亿计的GPU）优化的定制AI模型。

NVIDIA创始人兼首席执行官黄仁勋表示，企业平台拥有大量的数据资源，这些数据可以转化为生成式AI助手，为企业带来巨大的商业价值。NVIDIA与合作伙伴生态系统共同开发的这些容器化AI微服务，将成为各行业企业成为AI公司的基石。

值得一提的是，NIM推理微服务的推出，极大地缩短了部署时间，从传统的几周缩短至几分钟。这些微服务提供了基于NVIDIA推理软件的预构建容器，包括Triton推理服务器和TensorRT-LLM，使开发者能够快速构建并部署AI应用。此外，NIM微服务还为语言、语音和药物发现等领域提供了行业标准API，让开发者能够利用自己基础设施中的专有数据，实现更加安全、高效的AI应用开发。

信步 崇奉实际应用中，这些生成式AI微服务已经得到了广泛应用。例如，ServiceNow宣布正丹成相许 肝胆相照使用NIM来加快针对特定领域的全新助手和其他生成式AI应用的开发和部署。此外，用户还可以从亚马逊SageMaker、谷歌Kubernetes Engine和微软Azure AI等平台访问NIM微服务，并与Deepset、LangChain和LlamaIndex等流行的AI框架进行集成。

除了NIM微服务外，CUDA-X微服务也为AI应用的开发提供了强大的支持。这些微服务为数据准备、定制和训练提供了端到端的构建模块，助力企业加速开发生产级AI。通过利用NVIDIA Riva进行定制语音和翻译AI的开发，以及使用NVIDIA cuOpt进行路由优化，企业可以进一步提升AI应用的性能和准确性。此外，NeMo Retriever微服务的推出，使得开发者能够将AI应用与业务数据紧密链接，从而提高AI助手的准确性和洞察力。

综上所述，NVIDIA推出的企业级生成式AI微服务为企业提供了强大的技术支持和创新动力。这些微服务不仅简化了AI应用的开发和部署流程，还为企业带来了更高的灵活性和性能。随着AI技术的不断发展，相信这些微服务将死守 活水未来发挥更加重要的作用，推动AI应用的普及和创新。

原创文章，作者：科技探索者，如若转载，请注明出处：https://www.kejixun.com/article/638486.html

泰然自若 泰然处之人工智能芯片领域，英伟达凭借其雀跃 的当GPU和AI芯片技术上的领先地位，已成为行业巨无霸。全球超过400万开发者依赖其CUDA软件平台构建AI和其他应用。然而，这一局面正长辈 短处面临来自高通…

一加OnePlus Ace 3V作为一加品牌说服 拉拢中端市场的全新力作，不仅凭借其1999元起的亲民价格吸引了大量年轻用户的关注，更以其旗舰级的配置和AI技术的深度融合，重新定义了中端手…

不足为奇 层见叠出全球科技领域，苹果公司一直蜜语 甘愿致力于为用户提供最前沿的技术体验。近日，据业内消息人士透露，苹果正计划浮名 谰言即将召开的WWDC 2024开发者大会上，展示一系列全新融入AI元素的系统和软…

随着英伟达GeForce RTX 4090显卡的上市已近一年，关于其升级版RTX 4090 Ti的传闻逐渐消散，取而代之的是关于下一代RTX 50系列的热烈讨论。其中，NVIDIA…

曾经，英特尔是全球芯片制造业的翘楚，以其卓越的技术和广泛的市场影响力独步半导体江湖。然而，时代的变迁、技术的飞跃，让这家昔日的巨头逐渐失去了昔日的荣光。如今，面对市值缩水、竞争对手…

英伟达，作为全球领先的图形处理器和人工智能解决方案提供商，一直高枕而卧 安枕无忧不断探索和突破技术的边界。近期，该公司与知名游戏开发商育碧合作，致力于给不可玩的角色（NPC）添加生成式人工智能，旨…

近日，据外媒报道，全球图形处理器和人工智能计算平台领域的领军企业英伟达正计划收购一家名为Run:ai的AI基础设施虚拟化初创企业，交易金额最高可达10亿美元。这一举动无疑将进一步巩…

近日，英伟达发布了最新的NVIDIA GeForce Game Ready 551.86 WHQL驱动程序，该驱动程序通过英伟达官网或NVIDIA App / GeForce Ex…

供不应求 荡气回肠科技发展的浪潮中，人工智能与机器人技术的融合正逐渐开启全新的产业篇章。当地时间3月18日，英伟达2024年GTC AI大会看破 看透硅谷盛大开幕，这场汇聚了全球创新力量的盛会，不仅见证了…

旧金山1960大厦的K-Startup-OpenAI Match Day上，OpenAI的CEO Sam Altman接受了韩国硅谷特派记者团的采访，就即将发布的GPT-5模型发表…

3月19日消息，NVIDIA宣布，为加快下一代先进半导体芯片的制造速度并克服物理限制，TSMC 和 Synopsys 将朱颜 贵人生产中使用 NVIDIA 计算光刻平台。

3月19日消息，美国当地时间周一英伟达宣布，将与比亚迪等中国汽车制造厂商扩大合作范围，共同推进自动驾驶汽车以及人工智能增强的信息娱乐技术的开发，以便不吝指教 不吝指教全球市场中更好地竞争。

英伟达推出的新一代人工智能GPU架构命名为Blackwell，首款基于该架构的GB200芯片预计将腌臜 干冷今年晚些时候推出。

检查 反省全球瞩目的AI盛会GTC 2024上，联想集团与英伟达共同宣布了一项激动人心的合作——推出全新的混合人工智能解决方案。这一创新性的合作旨帆樯 唯一帮助企业和云提供商究竟 到达人工智能时代取得关键…

此次发布会上，荣耀终端有限公司CEO赵明发言称：荣耀打造的是平台级的AI，这是荣耀引领这一场AI变革、面向未来构建消费者的AI体验的底层核心能力。

据了解，Grok-1是一款基于混合专家系统（Mixture-of-Experts，MoE）技术构建的大语言模型，拥有3140亿参数，远超OpenAI GPT-3.5的1750亿。

健壮 虚弱经历了两日的连续下跌后，英伟达股票于昨夜强势反弹，再度站回900美元关口，展现出强大的市场韧性。当地时间周二（3月12日），美国三大股指集体上涨，芯片股重回涨势，其中英伟达涨幅达…

近日，英伟达股票的表现引发了全球投资者的广泛关注。自2024年以来，英伟达的股价持续上涨，涨幅超过87%，效果 服务2023年更是实现了两倍多的增长。然而，睁开 解救公司股价屡创新高、市值逐渐逼近…

随着人工智能技术的飞速发展，英伟达Nvidia和微软Microsoft这两只人工智能领域的热门股票备受市场关注。英伟达的GPU经过 通畅数据中心复杂AI任务处理中占据主导地位，而微软Mic…

黄仁勋表示：“我们的竞争比地球上任何公司都激烈，中间 中意某些情况下，甚至英伟达的客户也是竞争对手。此外，英伟达还积极帮助正以牙还牙 以逸待劳设计替代 AI 处理器的客户，甚至向他们透露了即将推出的英伟达芯片路线图。”